Check return value of RSA_generate_key_ex().
[tinc] / src / openssl / rsagen.c
1 /*
2     rsagen.c -- RSA key generation and export
3     Copyright (C) 2008-2013 Guus Sliepen <guus@tinc-vpn.org>
4
5     This program is free software; you can redistribute it and/or modify
6     it under the terms of the GNU General Public License as published by
7     the Free Software Foundation; either version 2 of the License, or
8     (at your option) any later version.
9
10     This program is distributed in the hope that it will be useful,
11     but WITHOUT ANY WARRANTY; without even the implied warranty of
12     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13     GNU General Public License for more details.
14
15     You should have received a copy of the GNU General Public License along
16     with this program; if not, write to the Free Software Foundation, Inc.,
17     51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
18 */
19
20 #include "../system.h"
21
22 #include <openssl/pem.h>
23 #include <openssl/err.h>
24
25 #define __TINC_RSA_INTERNAL__
26 typedef RSA rsa_t;
27
28 #include "../logger.h"
29 #include "../rsagen.h"
30
31 /* This function prettyprints the key generation process */
32
33 static int indicator(int a, int b, BN_GENCB *cb) {
34         switch (a) {
35                 case 0:
36                         fprintf(stderr, ".");
37                         break;
38
39                 case 1:
40                         fprintf(stderr, "+");
41                         break;
42
43                 case 2:
44                         fprintf(stderr, "-");
45                         break;
46
47                 case 3:
48                         switch (b) {
49                                 case 0:
50                                         fprintf(stderr, " p\n");
51                                         break;
52
53                                 case 1:
54                                         fprintf(stderr, " q\n");
55                                         break;
56
57                                 default:
58                                         fprintf(stderr, "?");
59                         }
60                         break;
61
62                 default:
63                         fprintf(stderr, "?");
64         }
65
66         return 1;
67 }
68
69 // Generate RSA key
70
71 #ifndef HAVE_BN_GENCB_NEW
72 BN_GENCB *BN_GENCB_new(void) {
73         return xzalloc(sizeof(BN_GENCB));
74 }
75
76 void BN_GENCB_free(BN_GENCB *cb) {
77         free(cb);
78 }
79 #endif
80
81 rsa_t *rsa_generate(size_t bits, unsigned long exponent) {
82         BIGNUM *bn_e = BN_new();
83         rsa_t *rsa = RSA_new();
84         BN_GENCB *cb = BN_GENCB_new();
85
86         if(!bn_e || !rsa || !cb)
87                 abort();
88
89         BN_set_word(bn_e, exponent);
90         BN_GENCB_set(cb, indicator, NULL);
91
92         int result = RSA_generate_key_ex(rsa, bits, bn_e, cb);
93
94         BN_GENCB_free(cb);
95         BN_free(bn_e);
96
97         if(!result) {
98                 fprintf(stderr, "Error during key generation!\n");
99                 RSA_free(rsa);
100                 return NULL;
101         }
102
103         return rsa;
104 }
105
106 // Write PEM RSA keys
107
108 bool rsa_write_pem_public_key(rsa_t *rsa, FILE *fp) {
109         return PEM_write_RSAPublicKey(fp, rsa);
110 }
111
112 bool rsa_write_pem_private_key(rsa_t *rsa, FILE *fp) {
113         return PEM_write_RSAPrivateKey(fp, rsa, NULL, NULL, 0, NULL, NULL);
114 }