Don't assume sa.sa_family is a short int.
[tinc] / src / openssl / prf.c
1 /*
2     prf.c -- Pseudo-Random Function for key material generation
3     Copyright (C) 2011-2013 Guus Sliepen <guus@tinc-vpn.org>
4
5     This program is free software; you can redistribute it and/or modify
6     it under the terms of the GNU General Public License as published by
7     the Free Software Foundation; either version 2 of the License, or
8     (at your option) any later version.
9
10     This program is distributed in the hope that it will be useful,
11     but WITHOUT ANY WARRANTY; without even the implied warranty of
12     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13     GNU General Public License for more details.
14
15     You should have received a copy of the GNU General Public License along
16     with this program; if not, write to the Free Software Foundation, Inc.,
17     51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
18 */
19
20 #include "../system.h"
21
22 #include <openssl/obj_mac.h>
23
24 #include "digest.h"
25 #include "../digest.h"
26 #include "../prf.h"
27
28 /* Generate key material from a master secret and a seed, based on RFC 4346 section 5.
29    We use SHA512 instead of MD5 and SHA1.
30  */
31
32 static bool prf_xor(int nid, const char *secret, size_t secretlen, char *seed, size_t seedlen, char *out, ssize_t outlen) {
33         digest_t *digest = digest_open_by_nid(nid, -1);
34
35         if(!digest)
36                 return false;
37
38         if(!digest_set_key(digest, secret, secretlen)) {
39                 digest_close(digest);
40                 return false;
41         }
42
43         size_t len = digest_length(digest);
44
45         /* Data is what the "inner" HMAC function processes.
46            It consists of the previous HMAC result plus the seed.
47          */
48
49         char data[len + seedlen];
50         memset(data, 0, len);
51         memcpy(data + len, seed, seedlen);
52
53         char hash[len];
54
55         while(outlen > 0) {
56                 /* Inner HMAC */
57                 if(!digest_create(digest, data, len + seedlen, data)) {
58                         digest_close(digest);
59                         return false;
60                 }
61
62                 /* Outer HMAC */
63                 if(!digest_create(digest, data, len + seedlen, hash)) {
64                         digest_close(digest);
65                         return false;
66                 }
67
68                 /* XOR the results of the outer HMAC into the out buffer */
69                 for(int i = 0; i < len && i < outlen; i++)
70                         *out++ ^= hash[i];
71
72                 outlen -= len;
73         }
74
75         digest_close(digest);
76         return true;
77 }
78
79 bool prf(const char *secret, size_t secretlen, char *seed, size_t seedlen, char *out, size_t outlen) {
80         /* This construction allows us to easily switch back to a scheme where the PRF is calculated using two different digest algorithms. */
81         memset(out, 0, outlen);
82
83         return prf_xor(NID_sha512, secret, secretlen, seed, seedlen, out, outlen);
84 }