perform cheap checks first
[tinc] / src / openssl / rsa.c
1 /*
2     rsa.c -- RSA key handling
3     Copyright (C) 2007-2021 Guus Sliepen <guus@tinc-vpn.org>
4
5     This program is free software; you can redistribute it and/or modify
6     it under the terms of the GNU General Public License as published by
7     the Free Software Foundation; either version 2 of the License, or
8     (at your option) any later version.
9
10     This program is distributed in the hope that it will be useful,
11     but WITHOUT ANY WARRANTY; without even the implied warranty of
12     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13     GNU General Public License for more details.
14
15     You should have received a copy of the GNU General Public License along
16     with this program; if not, write to the Free Software Foundation, Inc.,
17     51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
18 */
19
20 #include "../system.h"
21
22 #include <openssl/pem.h>
23 #include <openssl/err.h>
24 #include <openssl/rsa.h>
25
26 #define TINC_RSA_INTERNAL
27 typedef RSA rsa_t;
28
29 #include "../logger.h"
30 #include "../rsa.h"
31
32 // Set RSA keys
33
34 #ifndef HAVE_RSA_SET0_KEY
35 int RSA_set0_key(RSA *r, BIGNUM *n, BIGNUM *e, BIGNUM *d) {
36         BN_free(r->n);
37         r->n = n;
38         BN_free(r->e);
39         r->e = e;
40         BN_free(r->d);
41         r->d = d;
42         return 1;
43 }
44 #endif
45
46 rsa_t *rsa_set_hex_public_key(char *n, char *e) {
47         BIGNUM *bn_n = NULL;
48         BIGNUM *bn_e = NULL;
49
50         if((size_t)BN_hex2bn(&bn_n, n) != strlen(n) || (size_t)BN_hex2bn(&bn_e, e) != strlen(e)) {
51                 BN_free(bn_e);
52                 BN_free(bn_n);
53                 return false;
54         }
55
56         rsa_t *rsa = RSA_new();
57
58         if(!rsa) {
59                 return NULL;
60         }
61
62         RSA_set0_key(rsa, bn_n, bn_e, NULL);
63
64         return rsa;
65 }
66
67 rsa_t *rsa_set_hex_private_key(char *n, char *e, char *d) {
68         BIGNUM *bn_n = NULL;
69         BIGNUM *bn_e = NULL;
70         BIGNUM *bn_d = NULL;
71
72         if((size_t)BN_hex2bn(&bn_n, n) != strlen(n) || (size_t)BN_hex2bn(&bn_e, e) != strlen(e) || (size_t)BN_hex2bn(&bn_d, d) != strlen(d)) {
73                 BN_free(bn_d);
74                 BN_free(bn_e);
75                 BN_free(bn_n);
76                 return false;
77         }
78
79         rsa_t *rsa = RSA_new();
80
81         if(!rsa) {
82                 return NULL;
83         }
84
85         RSA_set0_key(rsa, bn_n, bn_e, bn_d);
86
87         return rsa;
88 }
89
90 // Read PEM RSA keys
91
92 rsa_t *rsa_read_pem_public_key(FILE *fp) {
93         rsa_t *rsa = PEM_read_RSAPublicKey(fp, NULL, NULL, NULL);
94
95         if(!rsa) {
96                 rewind(fp);
97                 rsa = PEM_read_RSA_PUBKEY(fp, NULL, NULL, NULL);
98         }
99
100         if(!rsa) {
101                 logger(DEBUG_ALWAYS, LOG_ERR, "Unable to read RSA public key: %s", ERR_error_string(ERR_get_error(), NULL));
102         }
103
104         return rsa;
105 }
106
107 rsa_t *rsa_read_pem_private_key(FILE *fp) {
108         rsa_t *rsa = PEM_read_RSAPrivateKey(fp, NULL, NULL, NULL);
109
110         if(!rsa) {
111                 logger(DEBUG_ALWAYS, LOG_ERR, "Unable to read RSA private key: %s", ERR_error_string(ERR_get_error(), NULL));
112         }
113
114         return rsa;
115 }
116
117 size_t rsa_size(rsa_t *rsa) {
118         return RSA_size(rsa);
119 }
120
121 bool rsa_public_encrypt(rsa_t *rsa, void *in, size_t len, void *out) {
122         if((size_t)RSA_public_encrypt(len, in, out, rsa, RSA_NO_PADDING) == len) {
123                 return true;
124         }
125
126         logger(DEBUG_ALWAYS, LOG_ERR, "Unable to perform RSA encryption: %s", ERR_error_string(ERR_get_error(), NULL));
127         return false;
128 }
129
130 bool rsa_private_decrypt(rsa_t *rsa, void *in, size_t len, void *out) {
131         if((size_t)RSA_private_decrypt(len, in, out, rsa, RSA_NO_PADDING) == len) {
132                 return true;
133         }
134
135         logger(DEBUG_ALWAYS, LOG_ERR, "Unable to perform RSA decryption: %s", ERR_error_string(ERR_get_error(), NULL));
136         return false;
137 }
138
139 bool rsa_active(rsa_t *rsa) {
140         return rsa;
141 }
142
143 void rsa_free(rsa_t *rsa) {
144         if(rsa) {
145                 RSA_free(rsa);
146         }
147 }