]> CyberLeo.Net >> Repos - FreeBSD/releng/10.2.git/blob - crypto/heimdal/lib/krb5/salt-arcfour.c
- Copy stable/10@285827 to releng/10.2 in preparation for 10.2-RC1
[FreeBSD/releng/10.2.git] / crypto / heimdal / lib / krb5 / salt-arcfour.c
1 /*
2  * Copyright (c) 1997 - 2008 Kungliga Tekniska Högskolan
3  * (Royal Institute of Technology, Stockholm, Sweden).
4  * All rights reserved.
5  *
6  * Redistribution and use in source and binary forms, with or without
7  * modification, are permitted provided that the following conditions
8  * are met:
9  *
10  * 1. Redistributions of source code must retain the above copyright
11  *    notice, this list of conditions and the following disclaimer.
12  *
13  * 2. Redistributions in binary form must reproduce the above copyright
14  *    notice, this list of conditions and the following disclaimer in the
15  *    documentation and/or other materials provided with the distribution.
16  *
17  * 3. Neither the name of the Institute nor the names of its contributors
18  *    may be used to endorse or promote products derived from this software
19  *    without specific prior written permission.
20  *
21  * THIS SOFTWARE IS PROVIDED BY THE INSTITUTE AND CONTRIBUTORS ``AS IS'' AND
22  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24  * ARE DISCLAIMED.  IN NO EVENT SHALL THE INSTITUTE OR CONTRIBUTORS BE LIABLE
25  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
26  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
27  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
28  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
29  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
30  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
31  * SUCH DAMAGE.
32  */
33
34 #include "krb5_locl.h"
35
36 static krb5_error_code
37 ARCFOUR_string_to_key(krb5_context context,
38                       krb5_enctype enctype,
39                       krb5_data password,
40                       krb5_salt salt,
41                       krb5_data opaque,
42                       krb5_keyblock *key)
43 {
44     krb5_error_code ret;
45     uint16_t *s = NULL;
46     size_t len = 0, i;
47     EVP_MD_CTX *m;
48
49     m = EVP_MD_CTX_create();
50     if (m == NULL) {
51         ret = ENOMEM;
52         krb5_set_error_message(context, ret, N_("malloc: out of memory", ""));
53         goto out;
54     }
55
56     EVP_DigestInit_ex(m, EVP_md4(), NULL);
57
58     ret = wind_utf8ucs2_length(password.data, &len);
59     if (ret) {
60         krb5_set_error_message (context, ret,
61                                 N_("Password not an UCS2 string", ""));
62         goto out;
63     }
64
65     s = malloc (len * sizeof(s[0]));
66     if (len != 0 && s == NULL) {
67         krb5_set_error_message (context, ENOMEM,
68                                 N_("malloc: out of memory", ""));
69         ret = ENOMEM;
70         goto out;
71     }
72
73     ret = wind_utf8ucs2(password.data, s, &len);
74     if (ret) {
75         krb5_set_error_message (context, ret,
76                                 N_("Password not an UCS2 string", ""));
77         goto out;
78     }
79
80     /* LE encoding */
81     for (i = 0; i < len; i++) {
82         unsigned char p;
83         p = (s[i] & 0xff);
84         EVP_DigestUpdate (m, &p, 1);
85         p = (s[i] >> 8) & 0xff;
86         EVP_DigestUpdate (m, &p, 1);
87     }
88
89     key->keytype = enctype;
90     ret = krb5_data_alloc (&key->keyvalue, 16);
91     if (ret) {
92         krb5_set_error_message (context, ENOMEM, N_("malloc: out of memory", ""));
93         goto out;
94     }
95     EVP_DigestFinal_ex (m, key->keyvalue.data, NULL);
96
97  out:
98     EVP_MD_CTX_destroy(m);
99     if (s)
100         memset (s, 0, len);
101     free (s);
102     return ret;
103 }
104
105 struct salt_type _krb5_arcfour_salt[] = {
106     {
107         KRB5_PW_SALT,
108         "pw-salt",
109         ARCFOUR_string_to_key
110     },
111     { 0 }
112 };