xref: /optee_os/lib/libmbedtls/core/rsa.c (revision 98ada65e9e6db4ac1b8c5bd3faa7a398ee410f7e)
1f8907bbfSEdison Ai // SPDX-License-Identifier: BSD-2-Clause
2f8907bbfSEdison Ai /*
3f8907bbfSEdison Ai  * Copyright (C) 2018, ARM Limited
4f8907bbfSEdison Ai  * Copyright (C) 2019, Linaro Limited
5f8907bbfSEdison Ai  */
6f8907bbfSEdison Ai 
7f8907bbfSEdison Ai #include <assert.h>
8f8907bbfSEdison Ai #include <crypto/crypto.h>
9eac16613SJorge Ramirez-Ortiz #include <crypto/crypto_impl.h>
10f8907bbfSEdison Ai #include <mbedtls/ctr_drbg.h>
11f8907bbfSEdison Ai #include <mbedtls/entropy.h>
12f8907bbfSEdison Ai #include <mbedtls/pk.h>
13f8907bbfSEdison Ai #include <mbedtls/pk_internal.h>
14f8907bbfSEdison Ai #include <stdlib.h>
15f8907bbfSEdison Ai #include <string.h>
16f8907bbfSEdison Ai #include <tee/tee_cryp_utl.h>
17f8907bbfSEdison Ai #include <utee_defines.h>
18*98ada65eSJens Wiklander #include <fault_mitigation.h>
19f8907bbfSEdison Ai 
206630b846SJerome Forissier #include "mbed_helpers.h"
21f8907bbfSEdison Ai 
22f8907bbfSEdison Ai static TEE_Result get_tee_result(int lmd_res)
23f8907bbfSEdison Ai {
24f8907bbfSEdison Ai 	switch (lmd_res) {
25f8907bbfSEdison Ai 	case 0:
26f8907bbfSEdison Ai 		return TEE_SUCCESS;
273ddd5cd7Sliushiwei 	case MBEDTLS_ERR_RSA_PRIVATE_FAILED +
283ddd5cd7Sliushiwei 		MBEDTLS_ERR_MPI_BAD_INPUT_DATA:
29f8907bbfSEdison Ai 	case MBEDTLS_ERR_RSA_BAD_INPUT_DATA:
30f8907bbfSEdison Ai 	case MBEDTLS_ERR_RSA_INVALID_PADDING:
31f8907bbfSEdison Ai 	case MBEDTLS_ERR_PK_TYPE_MISMATCH:
32f8907bbfSEdison Ai 		return TEE_ERROR_BAD_PARAMETERS;
33f8907bbfSEdison Ai 	case MBEDTLS_ERR_RSA_OUTPUT_TOO_LARGE:
34f8907bbfSEdison Ai 		return TEE_ERROR_SHORT_BUFFER;
35f8907bbfSEdison Ai 	default:
36f8907bbfSEdison Ai 		return TEE_ERROR_BAD_STATE;
37f8907bbfSEdison Ai 	}
38f8907bbfSEdison Ai }
39f8907bbfSEdison Ai 
40f8907bbfSEdison Ai static uint32_t tee_algo_to_mbedtls_hash_algo(uint32_t algo)
41f8907bbfSEdison Ai {
42f8907bbfSEdison Ai 	switch (algo) {
43f8907bbfSEdison Ai #if defined(CFG_CRYPTO_SHA1)
44f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA1:
45f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA1:
46f8907bbfSEdison Ai 	case TEE_ALG_RSAES_PKCS1_OAEP_MGF1_SHA1:
47f8907bbfSEdison Ai 	case TEE_ALG_SHA1:
48f8907bbfSEdison Ai 	case TEE_ALG_DSA_SHA1:
49f8907bbfSEdison Ai 	case TEE_ALG_HMAC_SHA1:
50f8907bbfSEdison Ai 		return MBEDTLS_MD_SHA1;
51f8907bbfSEdison Ai #endif
52f8907bbfSEdison Ai #if defined(CFG_CRYPTO_MD5)
53f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_MD5:
54f8907bbfSEdison Ai 	case TEE_ALG_MD5:
55f8907bbfSEdison Ai 	case TEE_ALG_HMAC_MD5:
56f8907bbfSEdison Ai 		return MBEDTLS_MD_MD5;
57f8907bbfSEdison Ai #endif
58f8907bbfSEdison Ai #if defined(CFG_CRYPTO_SHA224)
59f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA224:
60f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA224:
61f8907bbfSEdison Ai 	case TEE_ALG_RSAES_PKCS1_OAEP_MGF1_SHA224:
62f8907bbfSEdison Ai 	case TEE_ALG_SHA224:
63f8907bbfSEdison Ai 	case TEE_ALG_DSA_SHA224:
64f8907bbfSEdison Ai 	case TEE_ALG_HMAC_SHA224:
65f8907bbfSEdison Ai 		return MBEDTLS_MD_SHA224;
66f8907bbfSEdison Ai #endif
67f8907bbfSEdison Ai #if defined(CFG_CRYPTO_SHA256)
68f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA256:
69f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA256:
70f8907bbfSEdison Ai 	case TEE_ALG_RSAES_PKCS1_OAEP_MGF1_SHA256:
71f8907bbfSEdison Ai 	case TEE_ALG_SHA256:
72f8907bbfSEdison Ai 	case TEE_ALG_DSA_SHA256:
73f8907bbfSEdison Ai 	case TEE_ALG_HMAC_SHA256:
74f8907bbfSEdison Ai 		return MBEDTLS_MD_SHA256;
75f8907bbfSEdison Ai #endif
76f8907bbfSEdison Ai #if defined(CFG_CRYPTO_SHA384)
77f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA384:
78f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA384:
79f8907bbfSEdison Ai 	case TEE_ALG_RSAES_PKCS1_OAEP_MGF1_SHA384:
80f8907bbfSEdison Ai 	case TEE_ALG_SHA384:
81f8907bbfSEdison Ai 	case TEE_ALG_HMAC_SHA384:
82f8907bbfSEdison Ai 		return MBEDTLS_MD_SHA384;
83f8907bbfSEdison Ai #endif
84f8907bbfSEdison Ai #if defined(CFG_CRYPTO_SHA512)
85f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA512:
86f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA512:
87f8907bbfSEdison Ai 	case TEE_ALG_RSAES_PKCS1_OAEP_MGF1_SHA512:
88f8907bbfSEdison Ai 	case TEE_ALG_SHA512:
89f8907bbfSEdison Ai 	case TEE_ALG_HMAC_SHA512:
90f8907bbfSEdison Ai 		return MBEDTLS_MD_SHA512;
91f8907bbfSEdison Ai #endif
92f8907bbfSEdison Ai 	default:
93f8907bbfSEdison Ai 		return MBEDTLS_MD_NONE;
94f8907bbfSEdison Ai 	}
95f8907bbfSEdison Ai }
96f8907bbfSEdison Ai 
97f8907bbfSEdison Ai static void rsa_init_from_key_pair(mbedtls_rsa_context *rsa,
98f8907bbfSEdison Ai 				struct rsa_keypair *key)
99f8907bbfSEdison Ai {
100f8907bbfSEdison Ai 	mbedtls_rsa_init(rsa, 0, 0);
101f8907bbfSEdison Ai 
102f8907bbfSEdison Ai 	rsa->E = *(mbedtls_mpi *)key->e;
103f8907bbfSEdison Ai 	rsa->N = *(mbedtls_mpi *)key->n;
104f8907bbfSEdison Ai 	rsa->D = *(mbedtls_mpi *)key->d;
105f8907bbfSEdison Ai 	if (key->p && crypto_bignum_num_bytes(key->p)) {
106f8907bbfSEdison Ai 		rsa->P = *(mbedtls_mpi *)key->p;
107f8907bbfSEdison Ai 		rsa->Q = *(mbedtls_mpi *)key->q;
108f8907bbfSEdison Ai 		rsa->QP = *(mbedtls_mpi *)key->qp;
109f8907bbfSEdison Ai 		rsa->DP = *(mbedtls_mpi *)key->dp;
110f8907bbfSEdison Ai 		rsa->DQ = *(mbedtls_mpi *)key->dq;
111f8907bbfSEdison Ai 	}
112f8907bbfSEdison Ai 	rsa->len = mbedtls_mpi_size(&rsa->N);
113f8907bbfSEdison Ai }
114f8907bbfSEdison Ai 
115f8907bbfSEdison Ai static void mbd_rsa_free(mbedtls_rsa_context *rsa)
116f8907bbfSEdison Ai {
117f8907bbfSEdison Ai 	/* Reset mpi to skip freeing here, those mpis will be freed with key */
118f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa->E);
119f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa->N);
120f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa->D);
121f8907bbfSEdison Ai 	if (mbedtls_mpi_size(&rsa->P)) {
122f8907bbfSEdison Ai 		mbedtls_mpi_init(&rsa->P);
123f8907bbfSEdison Ai 		mbedtls_mpi_init(&rsa->Q);
124f8907bbfSEdison Ai 		mbedtls_mpi_init(&rsa->QP);
125f8907bbfSEdison Ai 		mbedtls_mpi_init(&rsa->DP);
126f8907bbfSEdison Ai 		mbedtls_mpi_init(&rsa->DQ);
127f8907bbfSEdison Ai 	}
128f8907bbfSEdison Ai 	mbedtls_rsa_free(rsa);
129f8907bbfSEdison Ai }
130f8907bbfSEdison Ai 
131f8907bbfSEdison Ai TEE_Result crypto_acipher_alloc_rsa_keypair(struct rsa_keypair *s,
132f8907bbfSEdison Ai 					    size_t key_size_bits)
133eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_alloc_rsa_keypair");
134eac16613SJorge Ramirez-Ortiz 
135eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_alloc_rsa_keypair(struct rsa_keypair *s,
136eac16613SJorge Ramirez-Ortiz 					       size_t key_size_bits)
137f8907bbfSEdison Ai {
138f8907bbfSEdison Ai 	memset(s, 0, sizeof(*s));
139f8907bbfSEdison Ai 	s->e = crypto_bignum_allocate(key_size_bits);
140f8907bbfSEdison Ai 	if (!s->e)
141f8907bbfSEdison Ai 		goto err;
142f8907bbfSEdison Ai 	s->d = crypto_bignum_allocate(key_size_bits);
143f8907bbfSEdison Ai 	if (!s->d)
144f8907bbfSEdison Ai 		goto err;
145f8907bbfSEdison Ai 	s->n = crypto_bignum_allocate(key_size_bits);
146f8907bbfSEdison Ai 	if (!s->n)
147f8907bbfSEdison Ai 		goto err;
148f8907bbfSEdison Ai 	s->p = crypto_bignum_allocate(key_size_bits);
149f8907bbfSEdison Ai 	if (!s->p)
150f8907bbfSEdison Ai 		goto err;
151f8907bbfSEdison Ai 	s->q = crypto_bignum_allocate(key_size_bits);
152f8907bbfSEdison Ai 	if (!s->q)
153f8907bbfSEdison Ai 		goto err;
154f8907bbfSEdison Ai 	s->qp = crypto_bignum_allocate(key_size_bits);
155f8907bbfSEdison Ai 	if (!s->qp)
156f8907bbfSEdison Ai 		goto err;
157f8907bbfSEdison Ai 	s->dp = crypto_bignum_allocate(key_size_bits);
158f8907bbfSEdison Ai 	if (!s->dp)
159f8907bbfSEdison Ai 		goto err;
160f8907bbfSEdison Ai 	s->dq = crypto_bignum_allocate(key_size_bits);
161f8907bbfSEdison Ai 	if (!s->dq)
162f8907bbfSEdison Ai 		goto err;
163f8907bbfSEdison Ai 
164f8907bbfSEdison Ai 	return TEE_SUCCESS;
165f8907bbfSEdison Ai err:
1661ab1ebd8SJerome Forissier 	crypto_acipher_free_rsa_keypair(s);
167f8907bbfSEdison Ai 	return TEE_ERROR_OUT_OF_MEMORY;
168f8907bbfSEdison Ai }
169f8907bbfSEdison Ai 
170f8907bbfSEdison Ai TEE_Result crypto_acipher_alloc_rsa_public_key(struct rsa_public_key *s,
171f8907bbfSEdison Ai 					       size_t key_size_bits)
172eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_alloc_rsa_public_key");
173eac16613SJorge Ramirez-Ortiz 
174eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_alloc_rsa_public_key(struct rsa_public_key *s,
175eac16613SJorge Ramirez-Ortiz 						  size_t key_size_bits)
176f8907bbfSEdison Ai {
177f8907bbfSEdison Ai 	memset(s, 0, sizeof(*s));
178f8907bbfSEdison Ai 	s->e = crypto_bignum_allocate(key_size_bits);
179f8907bbfSEdison Ai 	if (!s->e)
180f8907bbfSEdison Ai 		return TEE_ERROR_OUT_OF_MEMORY;
181f8907bbfSEdison Ai 	s->n = crypto_bignum_allocate(key_size_bits);
182f8907bbfSEdison Ai 	if (!s->n)
183f8907bbfSEdison Ai 		goto err;
184f8907bbfSEdison Ai 	return TEE_SUCCESS;
185f8907bbfSEdison Ai err:
186f8907bbfSEdison Ai 	crypto_bignum_free(s->e);
187f8907bbfSEdison Ai 	return TEE_ERROR_OUT_OF_MEMORY;
188f8907bbfSEdison Ai }
189f8907bbfSEdison Ai 
190f8907bbfSEdison Ai void crypto_acipher_free_rsa_public_key(struct rsa_public_key *s)
191eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_free_rsa_public_key");
192eac16613SJorge Ramirez-Ortiz 
193eac16613SJorge Ramirez-Ortiz void sw_crypto_acipher_free_rsa_public_key(struct rsa_public_key *s)
194f8907bbfSEdison Ai {
195f8907bbfSEdison Ai 	if (!s)
196f8907bbfSEdison Ai 		return;
197f8907bbfSEdison Ai 	crypto_bignum_free(s->n);
198f8907bbfSEdison Ai 	crypto_bignum_free(s->e);
199f8907bbfSEdison Ai }
200f8907bbfSEdison Ai 
201a1d5c81fSElias von Däniken void crypto_acipher_free_rsa_keypair(struct rsa_keypair *s)
202eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_free_rsa_keypair");
203eac16613SJorge Ramirez-Ortiz 
204eac16613SJorge Ramirez-Ortiz void sw_crypto_acipher_free_rsa_keypair(struct rsa_keypair *s)
205a1d5c81fSElias von Däniken {
206a1d5c81fSElias von Däniken 	if (!s)
207a1d5c81fSElias von Däniken 		return;
208a1d5c81fSElias von Däniken 	crypto_bignum_free(s->e);
209a1d5c81fSElias von Däniken 	crypto_bignum_free(s->d);
210a1d5c81fSElias von Däniken 	crypto_bignum_free(s->n);
211a1d5c81fSElias von Däniken 	crypto_bignum_free(s->p);
212a1d5c81fSElias von Däniken 	crypto_bignum_free(s->q);
213a1d5c81fSElias von Däniken 	crypto_bignum_free(s->qp);
214a1d5c81fSElias von Däniken 	crypto_bignum_free(s->dp);
2155118efbeSJerome Forissier 	crypto_bignum_free(s->dq);
216a1d5c81fSElias von Däniken }
217a1d5c81fSElias von Däniken 
218eac16613SJorge Ramirez-Ortiz TEE_Result crypto_acipher_gen_rsa_key(struct rsa_keypair *key,
219eac16613SJorge Ramirez-Ortiz 				      size_t key_size)
220eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_gen_rsa_key");
221eac16613SJorge Ramirez-Ortiz 
222eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_gen_rsa_key(struct rsa_keypair *key,
223eac16613SJorge Ramirez-Ortiz 					 size_t key_size)
224f8907bbfSEdison Ai {
225f8907bbfSEdison Ai 	TEE_Result res = TEE_SUCCESS;
226f8907bbfSEdison Ai 	mbedtls_rsa_context rsa;
2277910f4d8SLars Persson 	mbedtls_ctr_drbg_context rngctx;
228f8907bbfSEdison Ai 	int lmd_res = 0;
229f8907bbfSEdison Ai 	uint32_t e = 0;
230f8907bbfSEdison Ai 
2317910f4d8SLars Persson 	mbedtls_ctr_drbg_init(&rngctx);
2327910f4d8SLars Persson 	if (mbedtls_ctr_drbg_seed(&rngctx, mbd_rand, NULL, NULL, 0))
2337910f4d8SLars Persson 		return TEE_ERROR_BAD_STATE;
2347910f4d8SLars Persson 
235f8907bbfSEdison Ai 	memset(&rsa, 0, sizeof(rsa));
236f8907bbfSEdison Ai 	mbedtls_rsa_init(&rsa, 0, 0);
237f8907bbfSEdison Ai 
238f8907bbfSEdison Ai 	/* get the public exponent */
239f8907bbfSEdison Ai 	mbedtls_mpi_write_binary((mbedtls_mpi *)key->e,
240f8907bbfSEdison Ai 				 (unsigned char *)&e, sizeof(uint32_t));
241f8907bbfSEdison Ai 
242f8907bbfSEdison Ai 	e = TEE_U32_FROM_BIG_ENDIAN(e);
2437910f4d8SLars Persson 	lmd_res = mbedtls_rsa_gen_key(&rsa, mbedtls_ctr_drbg_random, &rngctx,
2447910f4d8SLars Persson 				      key_size, (int)e);
2457910f4d8SLars Persson 	mbedtls_ctr_drbg_free(&rngctx);
246f8907bbfSEdison Ai 	if (lmd_res != 0) {
247f8907bbfSEdison Ai 		res = get_tee_result(lmd_res);
248f8907bbfSEdison Ai 	} else if ((size_t)mbedtls_mpi_bitlen(&rsa.N) != key_size) {
249f8907bbfSEdison Ai 		res = TEE_ERROR_BAD_PARAMETERS;
250f8907bbfSEdison Ai 	} else {
251f8907bbfSEdison Ai 		/* Copy the key */
252f8907bbfSEdison Ai 		crypto_bignum_copy(key->e, (void *)&rsa.E);
253f8907bbfSEdison Ai 		crypto_bignum_copy(key->d, (void *)&rsa.D);
254f8907bbfSEdison Ai 		crypto_bignum_copy(key->n, (void *)&rsa.N);
255f8907bbfSEdison Ai 		crypto_bignum_copy(key->p, (void *)&rsa.P);
256f8907bbfSEdison Ai 
257f8907bbfSEdison Ai 		crypto_bignum_copy(key->q, (void *)&rsa.Q);
258f8907bbfSEdison Ai 		crypto_bignum_copy(key->qp, (void *)&rsa.QP);
259f8907bbfSEdison Ai 		crypto_bignum_copy(key->dp, (void *)&rsa.DP);
260f8907bbfSEdison Ai 		crypto_bignum_copy(key->dq, (void *)&rsa.DQ);
261f8907bbfSEdison Ai 
262f8907bbfSEdison Ai 		res = TEE_SUCCESS;
263f8907bbfSEdison Ai 	}
264f8907bbfSEdison Ai 
265f8907bbfSEdison Ai 	mbedtls_rsa_free(&rsa);
266f8907bbfSEdison Ai 
267f8907bbfSEdison Ai 	return res;
268f8907bbfSEdison Ai }
269f8907bbfSEdison Ai 
270f8907bbfSEdison Ai TEE_Result crypto_acipher_rsanopad_encrypt(struct rsa_public_key *key,
271eac16613SJorge Ramirez-Ortiz 					   const uint8_t *src,
272eac16613SJorge Ramirez-Ortiz 					   size_t src_len, uint8_t *dst,
273eac16613SJorge Ramirez-Ortiz 					   size_t *dst_len)
274eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_rsanopad_encrypt");
275eac16613SJorge Ramirez-Ortiz 
276eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_rsanopad_encrypt(struct rsa_public_key *key,
277eac16613SJorge Ramirez-Ortiz 					      const uint8_t *src,
278eac16613SJorge Ramirez-Ortiz 					      size_t src_len, uint8_t *dst,
279eac16613SJorge Ramirez-Ortiz 					      size_t *dst_len)
280f8907bbfSEdison Ai {
281f8907bbfSEdison Ai 	TEE_Result res = TEE_SUCCESS;
282f8907bbfSEdison Ai 	mbedtls_rsa_context rsa;
283f8907bbfSEdison Ai 	int lmd_res = 0;
284f8907bbfSEdison Ai 	uint8_t *buf = NULL;
285f8907bbfSEdison Ai 	unsigned long blen = 0;
286f8907bbfSEdison Ai 	unsigned long offset = 0;
287f8907bbfSEdison Ai 
288f8907bbfSEdison Ai 	memset(&rsa, 0, sizeof(rsa));
289f8907bbfSEdison Ai 	mbedtls_rsa_init(&rsa, 0, 0);
290f8907bbfSEdison Ai 
291f8907bbfSEdison Ai 	rsa.E = *(mbedtls_mpi *)key->e;
292f8907bbfSEdison Ai 	rsa.N = *(mbedtls_mpi *)key->n;
293f8907bbfSEdison Ai 
294f8907bbfSEdison Ai 	rsa.len = crypto_bignum_num_bytes((void *)&rsa.N);
295f8907bbfSEdison Ai 
296f8907bbfSEdison Ai 	blen = CFG_CORE_BIGNUM_MAX_BITS / 8;
297f8907bbfSEdison Ai 	buf = malloc(blen);
298f8907bbfSEdison Ai 	if (!buf) {
299f8907bbfSEdison Ai 		res = TEE_ERROR_OUT_OF_MEMORY;
300f8907bbfSEdison Ai 		goto out;
301f8907bbfSEdison Ai 	}
302f8907bbfSEdison Ai 
303f8907bbfSEdison Ai 	memset(buf, 0, blen);
304f8907bbfSEdison Ai 	memcpy(buf + rsa.len - src_len, src, src_len);
305f8907bbfSEdison Ai 
306f8907bbfSEdison Ai 	lmd_res = mbedtls_rsa_public(&rsa, buf, buf);
307f8907bbfSEdison Ai 	if (lmd_res != 0) {
308f8907bbfSEdison Ai 		FMSG("mbedtls_rsa_public() returned 0x%x", -lmd_res);
309f8907bbfSEdison Ai 		res = get_tee_result(lmd_res);
310f8907bbfSEdison Ai 		goto out;
311f8907bbfSEdison Ai 	}
312f8907bbfSEdison Ai 
313f8907bbfSEdison Ai 	/* Remove the zero-padding (leave one zero if buff is all zeroes) */
314f8907bbfSEdison Ai 	offset = 0;
315f8907bbfSEdison Ai 	while ((offset < rsa.len - 1) && (buf[offset] == 0))
316f8907bbfSEdison Ai 		offset++;
317f8907bbfSEdison Ai 
318f8907bbfSEdison Ai 	if (*dst_len < rsa.len - offset) {
319f8907bbfSEdison Ai 		*dst_len = rsa.len - offset;
320f8907bbfSEdison Ai 		res = TEE_ERROR_SHORT_BUFFER;
321f8907bbfSEdison Ai 		goto out;
322f8907bbfSEdison Ai 	}
323f8907bbfSEdison Ai 	*dst_len = rsa.len - offset;
324f8907bbfSEdison Ai 	memcpy(dst, buf + offset, *dst_len);
325f8907bbfSEdison Ai out:
326f8907bbfSEdison Ai 	free(buf);
327f8907bbfSEdison Ai 	/* Reset mpi to skip freeing here, those mpis will be freed with key */
328f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa.E);
329f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa.N);
330f8907bbfSEdison Ai 	mbedtls_rsa_free(&rsa);
331f8907bbfSEdison Ai 
332f8907bbfSEdison Ai 	return res;
333f8907bbfSEdison Ai }
334f8907bbfSEdison Ai 
335f8907bbfSEdison Ai TEE_Result crypto_acipher_rsanopad_decrypt(struct rsa_keypair *key,
336eac16613SJorge Ramirez-Ortiz 					   const uint8_t *src,
337eac16613SJorge Ramirez-Ortiz 					   size_t src_len, uint8_t *dst,
338eac16613SJorge Ramirez-Ortiz 					   size_t *dst_len)
339eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_rsanopad_decrypt");
340eac16613SJorge Ramirez-Ortiz 
341eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_rsanopad_decrypt(struct rsa_keypair *key,
342eac16613SJorge Ramirez-Ortiz 					      const uint8_t *src,
343eac16613SJorge Ramirez-Ortiz 					      size_t src_len, uint8_t *dst,
344eac16613SJorge Ramirez-Ortiz 					      size_t *dst_len)
345f8907bbfSEdison Ai {
346f8907bbfSEdison Ai 	TEE_Result res = TEE_SUCCESS;
347f8907bbfSEdison Ai 	mbedtls_rsa_context rsa;
348f8907bbfSEdison Ai 	int lmd_res = 0;
349f8907bbfSEdison Ai 	uint8_t *buf = NULL;
350f8907bbfSEdison Ai 	unsigned long blen = 0;
351f8907bbfSEdison Ai 	unsigned long offset = 0;
352f8907bbfSEdison Ai 
353f8907bbfSEdison Ai 	memset(&rsa, 0, sizeof(rsa));
354f8907bbfSEdison Ai 	rsa_init_from_key_pair(&rsa, key);
355f8907bbfSEdison Ai 
356f8907bbfSEdison Ai 	blen = CFG_CORE_BIGNUM_MAX_BITS / 8;
357f8907bbfSEdison Ai 	buf = malloc(blen);
358f8907bbfSEdison Ai 	if (!buf) {
359f8907bbfSEdison Ai 		res = TEE_ERROR_OUT_OF_MEMORY;
360f8907bbfSEdison Ai 		goto out;
361f8907bbfSEdison Ai 	}
362f8907bbfSEdison Ai 
363f8907bbfSEdison Ai 	memset(buf, 0, blen);
364f8907bbfSEdison Ai 	memcpy(buf + rsa.len - src_len, src, src_len);
365f8907bbfSEdison Ai 
366f8907bbfSEdison Ai 	lmd_res = mbedtls_rsa_private(&rsa, NULL, NULL, buf, buf);
367f8907bbfSEdison Ai 	if (lmd_res != 0) {
368f8907bbfSEdison Ai 		FMSG("mbedtls_rsa_private() returned 0x%x", -lmd_res);
369f8907bbfSEdison Ai 		res = get_tee_result(lmd_res);
370f8907bbfSEdison Ai 		goto out;
371f8907bbfSEdison Ai 	}
372f8907bbfSEdison Ai 
373f8907bbfSEdison Ai 	/* Remove the zero-padding (leave one zero if buff is all zeroes) */
374f8907bbfSEdison Ai 	offset = 0;
375f8907bbfSEdison Ai 	while ((offset < rsa.len - 1) && (buf[offset] == 0))
376f8907bbfSEdison Ai 		offset++;
377f8907bbfSEdison Ai 
378f8907bbfSEdison Ai 	if (*dst_len < rsa.len - offset) {
379f8907bbfSEdison Ai 		*dst_len = rsa.len - offset;
380f8907bbfSEdison Ai 		res = TEE_ERROR_SHORT_BUFFER;
381f8907bbfSEdison Ai 		goto out;
382f8907bbfSEdison Ai 	}
383f8907bbfSEdison Ai 	*dst_len = rsa.len - offset;
384f8907bbfSEdison Ai 	memcpy(dst, (char *)buf + offset, *dst_len);
385f8907bbfSEdison Ai out:
386f8907bbfSEdison Ai 	if (buf)
387f8907bbfSEdison Ai 		free(buf);
388f8907bbfSEdison Ai 	mbd_rsa_free(&rsa);
389f8907bbfSEdison Ai 	return res;
390f8907bbfSEdison Ai }
391f8907bbfSEdison Ai 
392eac16613SJorge Ramirez-Ortiz TEE_Result crypto_acipher_rsaes_decrypt(uint32_t algo,
393eac16613SJorge Ramirez-Ortiz 					struct rsa_keypair *key,
394eac16613SJorge Ramirez-Ortiz 					const uint8_t *label __unused,
395eac16613SJorge Ramirez-Ortiz 					size_t label_len __unused,
396eac16613SJorge Ramirez-Ortiz 					const uint8_t *src, size_t src_len,
397eac16613SJorge Ramirez-Ortiz 					uint8_t *dst, size_t *dst_len)
398eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_rsaes_decrypt");
399eac16613SJorge Ramirez-Ortiz 
400eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_rsaes_decrypt(uint32_t algo,
401eac16613SJorge Ramirez-Ortiz 					   struct rsa_keypair *key,
402f8907bbfSEdison Ai 					   const uint8_t *label __unused,
403f8907bbfSEdison Ai 					   size_t label_len __unused,
404f8907bbfSEdison Ai 					   const uint8_t *src, size_t src_len,
405f8907bbfSEdison Ai 					   uint8_t *dst, size_t *dst_len)
406f8907bbfSEdison Ai {
407f8907bbfSEdison Ai 	TEE_Result res = TEE_SUCCESS;
408f8907bbfSEdison Ai 	int lmd_res = 0;
409f8907bbfSEdison Ai 	int lmd_padding = 0;
410f8907bbfSEdison Ai 	size_t blen = 0;
411f8907bbfSEdison Ai 	size_t mod_size = 0;
412f8907bbfSEdison Ai 	void *buf = NULL;
413f8907bbfSEdison Ai 	mbedtls_rsa_context rsa;
414f8907bbfSEdison Ai 	const mbedtls_pk_info_t *pk_info = NULL;
415f8907bbfSEdison Ai 	uint32_t md_algo = MBEDTLS_MD_NONE;
416f8907bbfSEdison Ai 
417f8907bbfSEdison Ai 	memset(&rsa, 0, sizeof(rsa));
418f8907bbfSEdison Ai 	rsa_init_from_key_pair(&rsa, key);
419f8907bbfSEdison Ai 
420f8907bbfSEdison Ai 	/*
421f8907bbfSEdison Ai 	 * Use a temporary buffer since we don't know exactly how large
422f8907bbfSEdison Ai 	 * the required size of the out buffer without doing a partial
423f8907bbfSEdison Ai 	 * decrypt. We know the upper bound though.
424f8907bbfSEdison Ai 	 */
425f8907bbfSEdison Ai 	if (algo == TEE_ALG_RSAES_PKCS1_V1_5) {
426f8907bbfSEdison Ai 		mod_size = crypto_bignum_num_bytes(key->n);
427f8907bbfSEdison Ai 		blen = mod_size - 11;
428f8907bbfSEdison Ai 		lmd_padding = MBEDTLS_RSA_PKCS_V15;
429f8907bbfSEdison Ai 	} else {
430f8907bbfSEdison Ai 		/* Decoded message is always shorter than encrypted message */
431f8907bbfSEdison Ai 		blen = src_len;
432f8907bbfSEdison Ai 		lmd_padding = MBEDTLS_RSA_PKCS_V21;
433f8907bbfSEdison Ai 	}
434f8907bbfSEdison Ai 
435f8907bbfSEdison Ai 	buf = malloc(blen);
436f8907bbfSEdison Ai 	if (!buf) {
437f8907bbfSEdison Ai 		res = TEE_ERROR_OUT_OF_MEMORY;
438f8907bbfSEdison Ai 		goto out;
439f8907bbfSEdison Ai 	}
440f8907bbfSEdison Ai 
441f8907bbfSEdison Ai 	pk_info = mbedtls_pk_info_from_type(MBEDTLS_PK_RSA);
442f8907bbfSEdison Ai 	if (!pk_info) {
443f8907bbfSEdison Ai 		res = TEE_ERROR_NOT_SUPPORTED;
444f8907bbfSEdison Ai 		goto out;
445f8907bbfSEdison Ai 	}
446f8907bbfSEdison Ai 
447f8907bbfSEdison Ai 	/*
448f8907bbfSEdison Ai 	 * TEE_ALG_RSAES_PKCS1_V1_5 is invalid in hash. But its hash algo will
449f8907bbfSEdison Ai 	 * not be used in rsa, so skip it here.
450f8907bbfSEdison Ai 	 */
451f8907bbfSEdison Ai 	if (algo != TEE_ALG_RSAES_PKCS1_V1_5) {
452f8907bbfSEdison Ai 		md_algo = tee_algo_to_mbedtls_hash_algo(algo);
453f8907bbfSEdison Ai 		if (md_algo == MBEDTLS_MD_NONE) {
454f8907bbfSEdison Ai 			res = TEE_ERROR_NOT_SUPPORTED;
455f8907bbfSEdison Ai 			goto out;
456f8907bbfSEdison Ai 		}
457f8907bbfSEdison Ai 	}
458f8907bbfSEdison Ai 
459f8907bbfSEdison Ai 	mbedtls_rsa_set_padding(&rsa, lmd_padding, md_algo);
460f8907bbfSEdison Ai 
461f8907bbfSEdison Ai 	if (lmd_padding == MBEDTLS_RSA_PKCS_V15)
462f8907bbfSEdison Ai 		lmd_res = pk_info->decrypt_func(&rsa, src, src_len, buf, &blen,
463f8907bbfSEdison Ai 						blen, NULL, NULL);
464f8907bbfSEdison Ai 	else
465f8907bbfSEdison Ai 		lmd_res = pk_info->decrypt_func(&rsa, src, src_len, buf, &blen,
466f8907bbfSEdison Ai 						blen, mbd_rand, NULL);
467f8907bbfSEdison Ai 	if (lmd_res != 0) {
468f8907bbfSEdison Ai 		FMSG("decrypt_func() returned 0x%x", -lmd_res);
469f8907bbfSEdison Ai 		res = get_tee_result(lmd_res);
470f8907bbfSEdison Ai 		goto out;
471f8907bbfSEdison Ai 	}
472f8907bbfSEdison Ai 
473f8907bbfSEdison Ai 	if (*dst_len < blen) {
474f8907bbfSEdison Ai 		*dst_len = blen;
475f8907bbfSEdison Ai 		res = TEE_ERROR_SHORT_BUFFER;
476f8907bbfSEdison Ai 		goto out;
477f8907bbfSEdison Ai 	}
478f8907bbfSEdison Ai 
479f8907bbfSEdison Ai 	res = TEE_SUCCESS;
480f8907bbfSEdison Ai 	*dst_len = blen;
481f8907bbfSEdison Ai 	memcpy(dst, buf, blen);
482f8907bbfSEdison Ai out:
483f8907bbfSEdison Ai 	if (buf)
484f8907bbfSEdison Ai 		free(buf);
485f8907bbfSEdison Ai 	mbd_rsa_free(&rsa);
486f8907bbfSEdison Ai 	return res;
487f8907bbfSEdison Ai }
488f8907bbfSEdison Ai 
489f8907bbfSEdison Ai TEE_Result crypto_acipher_rsaes_encrypt(uint32_t algo,
490f8907bbfSEdison Ai 					struct rsa_public_key *key,
491f8907bbfSEdison Ai 					const uint8_t *label __unused,
492f8907bbfSEdison Ai 					size_t label_len __unused,
493f8907bbfSEdison Ai 					const uint8_t *src, size_t src_len,
494f8907bbfSEdison Ai 					uint8_t *dst, size_t *dst_len)
495eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_rsaes_encrypt");
496eac16613SJorge Ramirez-Ortiz 
497eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_rsaes_encrypt(uint32_t algo,
498eac16613SJorge Ramirez-Ortiz 					   struct rsa_public_key *key,
499eac16613SJorge Ramirez-Ortiz 					   const uint8_t *label __unused,
500eac16613SJorge Ramirez-Ortiz 					   size_t label_len __unused,
501eac16613SJorge Ramirez-Ortiz 					   const uint8_t *src, size_t src_len,
502eac16613SJorge Ramirez-Ortiz 					   uint8_t *dst, size_t *dst_len)
503f8907bbfSEdison Ai {
504f8907bbfSEdison Ai 	TEE_Result res = TEE_SUCCESS;
505f8907bbfSEdison Ai 	int lmd_res = 0;
506f8907bbfSEdison Ai 	int lmd_padding = 0;
507f8907bbfSEdison Ai 	size_t mod_size = 0;
508f8907bbfSEdison Ai 	mbedtls_rsa_context rsa;
509f8907bbfSEdison Ai 	const mbedtls_pk_info_t *pk_info = NULL;
510f8907bbfSEdison Ai 	uint32_t md_algo = MBEDTLS_MD_NONE;
511f8907bbfSEdison Ai 
512f8907bbfSEdison Ai 	memset(&rsa, 0, sizeof(rsa));
513f8907bbfSEdison Ai 	mbedtls_rsa_init(&rsa, 0, 0);
514f8907bbfSEdison Ai 
515f8907bbfSEdison Ai 	rsa.E = *(mbedtls_mpi *)key->e;
516f8907bbfSEdison Ai 	rsa.N = *(mbedtls_mpi *)key->n;
517f8907bbfSEdison Ai 
518f8907bbfSEdison Ai 	mod_size = crypto_bignum_num_bytes(key->n);
519f8907bbfSEdison Ai 	if (*dst_len < mod_size) {
520f8907bbfSEdison Ai 		*dst_len = mod_size;
521f8907bbfSEdison Ai 		res = TEE_ERROR_SHORT_BUFFER;
522f8907bbfSEdison Ai 		goto out;
523f8907bbfSEdison Ai 	}
524f8907bbfSEdison Ai 	*dst_len = mod_size;
525f8907bbfSEdison Ai 	rsa.len = mod_size;
526f8907bbfSEdison Ai 
527f8907bbfSEdison Ai 	if (algo == TEE_ALG_RSAES_PKCS1_V1_5)
528f8907bbfSEdison Ai 		lmd_padding = MBEDTLS_RSA_PKCS_V15;
529f8907bbfSEdison Ai 	else
530f8907bbfSEdison Ai 		lmd_padding = MBEDTLS_RSA_PKCS_V21;
531f8907bbfSEdison Ai 
532f8907bbfSEdison Ai 	pk_info = mbedtls_pk_info_from_type(MBEDTLS_PK_RSA);
533f8907bbfSEdison Ai 	if (!pk_info) {
534f8907bbfSEdison Ai 		res = TEE_ERROR_NOT_SUPPORTED;
535f8907bbfSEdison Ai 		goto out;
536f8907bbfSEdison Ai 	}
537f8907bbfSEdison Ai 
538f8907bbfSEdison Ai 	/*
539f8907bbfSEdison Ai 	 * TEE_ALG_RSAES_PKCS1_V1_5 is invalid in hash. But its hash algo will
540f8907bbfSEdison Ai 	 * not be used in rsa, so skip it here.
541f8907bbfSEdison Ai 	 */
542f8907bbfSEdison Ai 	if (algo != TEE_ALG_RSAES_PKCS1_V1_5) {
543f8907bbfSEdison Ai 		md_algo = tee_algo_to_mbedtls_hash_algo(algo);
544f8907bbfSEdison Ai 		if (md_algo == MBEDTLS_MD_NONE) {
545f8907bbfSEdison Ai 			res = TEE_ERROR_NOT_SUPPORTED;
546f8907bbfSEdison Ai 			goto out;
547f8907bbfSEdison Ai 		}
548f8907bbfSEdison Ai 	}
549f8907bbfSEdison Ai 
550f8907bbfSEdison Ai 	mbedtls_rsa_set_padding(&rsa, lmd_padding, md_algo);
551f8907bbfSEdison Ai 
552f8907bbfSEdison Ai 	lmd_res = pk_info->encrypt_func(&rsa, src, src_len, dst, dst_len,
553f8907bbfSEdison Ai 					*dst_len, mbd_rand, NULL);
554f8907bbfSEdison Ai 	if (lmd_res != 0) {
555f8907bbfSEdison Ai 		FMSG("encrypt_func() returned 0x%x", -lmd_res);
556f8907bbfSEdison Ai 		res = get_tee_result(lmd_res);
557f8907bbfSEdison Ai 		goto out;
558f8907bbfSEdison Ai 	}
559f8907bbfSEdison Ai 	res = TEE_SUCCESS;
560f8907bbfSEdison Ai out:
561f8907bbfSEdison Ai 	/* Reset mpi to skip freeing here, those mpis will be freed with key */
562f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa.E);
563f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa.N);
564f8907bbfSEdison Ai 	mbedtls_rsa_free(&rsa);
565f8907bbfSEdison Ai 	return res;
566f8907bbfSEdison Ai }
567f8907bbfSEdison Ai 
568f8907bbfSEdison Ai TEE_Result crypto_acipher_rsassa_sign(uint32_t algo, struct rsa_keypair *key,
569eac16613SJorge Ramirez-Ortiz 				      int salt_len __unused,
570eac16613SJorge Ramirez-Ortiz 				      const uint8_t *msg, size_t msg_len,
571eac16613SJorge Ramirez-Ortiz 				      uint8_t *sig, size_t *sig_len)
572eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_rsassa_sign");
573eac16613SJorge Ramirez-Ortiz 
574eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_rsassa_sign(uint32_t algo, struct rsa_keypair *key,
575eac16613SJorge Ramirez-Ortiz 					 int salt_len __unused,
576eac16613SJorge Ramirez-Ortiz 					 const uint8_t *msg, size_t msg_len,
577eac16613SJorge Ramirez-Ortiz 					 uint8_t *sig, size_t *sig_len)
578f8907bbfSEdison Ai {
579f8907bbfSEdison Ai 	TEE_Result res = TEE_SUCCESS;
580f8907bbfSEdison Ai 	int lmd_res = 0;
581f8907bbfSEdison Ai 	int lmd_padding = 0;
582f8907bbfSEdison Ai 	size_t mod_size = 0;
583f8907bbfSEdison Ai 	size_t hash_size = 0;
584f8907bbfSEdison Ai 	mbedtls_rsa_context rsa;
585f8907bbfSEdison Ai 	const mbedtls_pk_info_t *pk_info = NULL;
586f8907bbfSEdison Ai 	uint32_t md_algo = 0;
587f8907bbfSEdison Ai 
588f8907bbfSEdison Ai 	memset(&rsa, 0, sizeof(rsa));
589f8907bbfSEdison Ai 	rsa_init_from_key_pair(&rsa, key);
590f8907bbfSEdison Ai 
591f8907bbfSEdison Ai 	switch (algo) {
592f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_MD5:
593f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA1:
594f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA224:
595f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA256:
596f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA384:
597f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA512:
598f8907bbfSEdison Ai 		lmd_padding = MBEDTLS_RSA_PKCS_V15;
599f8907bbfSEdison Ai 		break;
600f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA1:
601f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA224:
602f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA256:
603f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA384:
604f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA512:
605f8907bbfSEdison Ai 		lmd_padding = MBEDTLS_RSA_PKCS_V21;
606f8907bbfSEdison Ai 		break;
607f8907bbfSEdison Ai 	default:
608f8907bbfSEdison Ai 		res = TEE_ERROR_BAD_PARAMETERS;
609f8907bbfSEdison Ai 		goto err;
610f8907bbfSEdison Ai 	}
611f8907bbfSEdison Ai 
6127c767434SAlbert Schwarzkopf 	res = tee_alg_get_digest_size(TEE_DIGEST_HASH_TO_ALGO(algo),
613f8907bbfSEdison Ai 				      &hash_size);
614f8907bbfSEdison Ai 	if (res != TEE_SUCCESS)
615f8907bbfSEdison Ai 		goto err;
616f8907bbfSEdison Ai 
617f8907bbfSEdison Ai 	if (msg_len != hash_size) {
618f8907bbfSEdison Ai 		res = TEE_ERROR_BAD_PARAMETERS;
619f8907bbfSEdison Ai 		goto err;
620f8907bbfSEdison Ai 	}
621f8907bbfSEdison Ai 
622f8907bbfSEdison Ai 	mod_size = crypto_bignum_num_bytes(key->n);
623f8907bbfSEdison Ai 	if (*sig_len < mod_size) {
624f8907bbfSEdison Ai 		*sig_len = mod_size;
625f8907bbfSEdison Ai 		res = TEE_ERROR_SHORT_BUFFER;
626f8907bbfSEdison Ai 		goto err;
627f8907bbfSEdison Ai 	}
628f8907bbfSEdison Ai 	rsa.len = mod_size;
629f8907bbfSEdison Ai 
630f8907bbfSEdison Ai 	md_algo = tee_algo_to_mbedtls_hash_algo(algo);
631f8907bbfSEdison Ai 	if (md_algo == MBEDTLS_MD_NONE) {
632f8907bbfSEdison Ai 		res = TEE_ERROR_NOT_SUPPORTED;
633f8907bbfSEdison Ai 		goto err;
634f8907bbfSEdison Ai 	}
635f8907bbfSEdison Ai 
636f8907bbfSEdison Ai 	pk_info = mbedtls_pk_info_from_type(MBEDTLS_PK_RSA);
637f8907bbfSEdison Ai 	if (!pk_info) {
638f8907bbfSEdison Ai 		res = TEE_ERROR_NOT_SUPPORTED;
639f8907bbfSEdison Ai 		goto err;
640f8907bbfSEdison Ai 	}
641f8907bbfSEdison Ai 
642f8907bbfSEdison Ai 	mbedtls_rsa_set_padding(&rsa, lmd_padding, md_algo);
643f8907bbfSEdison Ai 
644f8907bbfSEdison Ai 	if (lmd_padding == MBEDTLS_RSA_PKCS_V15)
645f8907bbfSEdison Ai 		lmd_res = pk_info->sign_func(&rsa, md_algo, msg, msg_len, sig,
646f8907bbfSEdison Ai 					     sig_len, NULL, NULL);
647f8907bbfSEdison Ai 	else
648f8907bbfSEdison Ai 		lmd_res = pk_info->sign_func(&rsa, md_algo, msg, msg_len, sig,
649f8907bbfSEdison Ai 					     sig_len, mbd_rand, NULL);
650f8907bbfSEdison Ai 	if (lmd_res != 0) {
651f8907bbfSEdison Ai 		FMSG("sign_func failed, returned 0x%x", -lmd_res);
652f8907bbfSEdison Ai 		res = get_tee_result(lmd_res);
653f8907bbfSEdison Ai 		goto err;
654f8907bbfSEdison Ai 	}
655f8907bbfSEdison Ai 	res = TEE_SUCCESS;
656f8907bbfSEdison Ai err:
657f8907bbfSEdison Ai 	mbd_rsa_free(&rsa);
658f8907bbfSEdison Ai 	return res;
659f8907bbfSEdison Ai }
660f8907bbfSEdison Ai 
661f8907bbfSEdison Ai TEE_Result crypto_acipher_rsassa_verify(uint32_t algo,
662f8907bbfSEdison Ai 					struct rsa_public_key *key,
663f8907bbfSEdison Ai 					int salt_len __unused,
664f8907bbfSEdison Ai 					const uint8_t *msg,
665f8907bbfSEdison Ai 					size_t msg_len, const uint8_t *sig,
666f8907bbfSEdison Ai 					size_t sig_len)
667eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_rsassa_verify");
668eac16613SJorge Ramirez-Ortiz 
669eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_rsassa_verify(uint32_t algo,
670eac16613SJorge Ramirez-Ortiz 					   struct rsa_public_key *key,
671eac16613SJorge Ramirez-Ortiz 					   int salt_len __unused,
672eac16613SJorge Ramirez-Ortiz 					   const uint8_t *msg,
673eac16613SJorge Ramirez-Ortiz 					   size_t msg_len, const uint8_t *sig,
674eac16613SJorge Ramirez-Ortiz 					   size_t sig_len)
675f8907bbfSEdison Ai {
676f8907bbfSEdison Ai 	TEE_Result res = TEE_SUCCESS;
677f8907bbfSEdison Ai 	int lmd_res = 0;
678f8907bbfSEdison Ai 	int lmd_padding = 0;
679f8907bbfSEdison Ai 	size_t hash_size = 0;
680f8907bbfSEdison Ai 	size_t bigint_size = 0;
681f8907bbfSEdison Ai 	mbedtls_rsa_context rsa;
682f8907bbfSEdison Ai 	const mbedtls_pk_info_t *pk_info = NULL;
683f8907bbfSEdison Ai 	uint32_t md_algo = 0;
684*98ada65eSJens Wiklander 	struct ftmn ftmn = { };
685*98ada65eSJens Wiklander 	unsigned long arg_hash = 0;
686*98ada65eSJens Wiklander 
687*98ada65eSJens Wiklander 	/*
688*98ada65eSJens Wiklander 	 * The caller expects to call crypto_acipher_rsassa_verify(),
689*98ada65eSJens Wiklander 	 * update the hash as needed.
690*98ada65eSJens Wiklander 	 */
691*98ada65eSJens Wiklander 	FTMN_CALLEE_SWAP_HASH(FTMN_FUNC_HASH("crypto_acipher_rsassa_verify"));
692f8907bbfSEdison Ai 
693f8907bbfSEdison Ai 	memset(&rsa, 0, sizeof(rsa));
694f8907bbfSEdison Ai 	mbedtls_rsa_init(&rsa, 0, 0);
695f8907bbfSEdison Ai 
696f8907bbfSEdison Ai 	rsa.E = *(mbedtls_mpi *)key->e;
697f8907bbfSEdison Ai 	rsa.N = *(mbedtls_mpi *)key->n;
698f8907bbfSEdison Ai 
6997c767434SAlbert Schwarzkopf 	res = tee_alg_get_digest_size(TEE_DIGEST_HASH_TO_ALGO(algo),
700f8907bbfSEdison Ai 				      &hash_size);
701f8907bbfSEdison Ai 	if (res != TEE_SUCCESS)
702f8907bbfSEdison Ai 		goto err;
703f8907bbfSEdison Ai 
704f8907bbfSEdison Ai 	if (msg_len != hash_size) {
705f8907bbfSEdison Ai 		res = TEE_ERROR_BAD_PARAMETERS;
706f8907bbfSEdison Ai 		goto err;
707f8907bbfSEdison Ai 	}
708f8907bbfSEdison Ai 
709f8907bbfSEdison Ai 	bigint_size = crypto_bignum_num_bytes(key->n);
710f8907bbfSEdison Ai 	if (sig_len < bigint_size) {
711c282ebd6Slubing 		res = TEE_ERROR_SIGNATURE_INVALID;
712f8907bbfSEdison Ai 		goto err;
713f8907bbfSEdison Ai 	}
714f8907bbfSEdison Ai 
715f8907bbfSEdison Ai 	rsa.len = bigint_size;
716f8907bbfSEdison Ai 
717f8907bbfSEdison Ai 	switch (algo) {
718f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_MD5:
719f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA1:
720f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA224:
721f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA256:
722f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA384:
723f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA512:
724*98ada65eSJens Wiklander 		arg_hash = FTMN_FUNC_HASH("mbedtls_rsa_rsassa_pkcs1_v15_verify");
725f8907bbfSEdison Ai 		lmd_padding = MBEDTLS_RSA_PKCS_V15;
726f8907bbfSEdison Ai 		break;
727f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA1:
728f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA224:
729f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA256:
730f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA384:
731f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA512:
732*98ada65eSJens Wiklander 		arg_hash = FTMN_FUNC_HASH("mbedtls_rsa_rsassa_pss_verify_ext");
733f8907bbfSEdison Ai 		lmd_padding = MBEDTLS_RSA_PKCS_V21;
734f8907bbfSEdison Ai 		break;
735f8907bbfSEdison Ai 	default:
736f8907bbfSEdison Ai 		res = TEE_ERROR_BAD_PARAMETERS;
737f8907bbfSEdison Ai 		goto err;
738f8907bbfSEdison Ai 	}
739f8907bbfSEdison Ai 
740f8907bbfSEdison Ai 	md_algo = tee_algo_to_mbedtls_hash_algo(algo);
741f8907bbfSEdison Ai 	if (md_algo == MBEDTLS_MD_NONE) {
742f8907bbfSEdison Ai 		res = TEE_ERROR_NOT_SUPPORTED;
743f8907bbfSEdison Ai 		goto err;
744f8907bbfSEdison Ai 	}
745f8907bbfSEdison Ai 
746f8907bbfSEdison Ai 	pk_info = mbedtls_pk_info_from_type(MBEDTLS_PK_RSA);
747f8907bbfSEdison Ai 	if (!pk_info) {
748f8907bbfSEdison Ai 		res = TEE_ERROR_NOT_SUPPORTED;
749f8907bbfSEdison Ai 		goto err;
750f8907bbfSEdison Ai 	}
751f8907bbfSEdison Ai 
752f8907bbfSEdison Ai 	mbedtls_rsa_set_padding(&rsa, lmd_padding, md_algo);
753f8907bbfSEdison Ai 
754*98ada65eSJens Wiklander 	FTMN_PUSH_LINKED_CALL(&ftmn, arg_hash);
755f8907bbfSEdison Ai 	lmd_res = pk_info->verify_func(&rsa, md_algo, msg, msg_len,
756f8907bbfSEdison Ai 				       sig, sig_len);
757*98ada65eSJens Wiklander 	if (!lmd_res)
758*98ada65eSJens Wiklander 		FTMN_SET_CHECK_RES_FROM_CALL(&ftmn, FTMN_INCR0, lmd_res);
759*98ada65eSJens Wiklander 	FTMN_POP_LINKED_CALL(&ftmn);
760f8907bbfSEdison Ai 	if (lmd_res != 0) {
761f8907bbfSEdison Ai 		FMSG("verify_func failed, returned 0x%x", -lmd_res);
762f8907bbfSEdison Ai 		res = TEE_ERROR_SIGNATURE_INVALID;
763f8907bbfSEdison Ai 		goto err;
764f8907bbfSEdison Ai 	}
765f8907bbfSEdison Ai 	res = TEE_SUCCESS;
766*98ada65eSJens Wiklander 	goto out;
767*98ada65eSJens Wiklander 
768f8907bbfSEdison Ai err:
769*98ada65eSJens Wiklander 	FTMN_SET_CHECK_RES_NOT_ZERO(&ftmn, FTMN_INCR0, res);
770*98ada65eSJens Wiklander out:
771*98ada65eSJens Wiklander 	FTMN_CALLEE_DONE_CHECK(&ftmn, FTMN_INCR0, FTMN_STEP_COUNT(1), res);
772f8907bbfSEdison Ai 	/* Reset mpi to skip freeing here, those mpis will be freed with key */
773f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa.E);
774f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa.N);
775f8907bbfSEdison Ai 	mbedtls_rsa_free(&rsa);
776f8907bbfSEdison Ai 	return res;
777f8907bbfSEdison Ai }
778