xref: /optee_os/lib/libmbedtls/core/rsa.c (revision eac1661337cb5c879047a469553e19b71094b081)
1f8907bbfSEdison Ai // SPDX-License-Identifier: BSD-2-Clause
2f8907bbfSEdison Ai /*
3f8907bbfSEdison Ai  * Copyright (C) 2018, ARM Limited
4f8907bbfSEdison Ai  * Copyright (C) 2019, Linaro Limited
5f8907bbfSEdison Ai  */
6f8907bbfSEdison Ai 
7f8907bbfSEdison Ai #include <assert.h>
8f8907bbfSEdison Ai #include <crypto/crypto.h>
9*eac16613SJorge Ramirez-Ortiz #include <crypto/crypto_impl.h>
10f8907bbfSEdison Ai #include <mbedtls/ctr_drbg.h>
11f8907bbfSEdison Ai #include <mbedtls/entropy.h>
12f8907bbfSEdison Ai #include <mbedtls/pk.h>
13f8907bbfSEdison Ai #include <mbedtls/pk_internal.h>
14f8907bbfSEdison Ai #include <stdlib.h>
15f8907bbfSEdison Ai #include <string.h>
16f8907bbfSEdison Ai #include <tee/tee_cryp_utl.h>
17f8907bbfSEdison Ai #include <utee_defines.h>
18f8907bbfSEdison Ai 
196630b846SJerome Forissier #include "mbed_helpers.h"
20f8907bbfSEdison Ai 
21f8907bbfSEdison Ai static TEE_Result get_tee_result(int lmd_res)
22f8907bbfSEdison Ai {
23f8907bbfSEdison Ai 	switch (lmd_res) {
24f8907bbfSEdison Ai 	case 0:
25f8907bbfSEdison Ai 		return TEE_SUCCESS;
263ddd5cd7Sliushiwei 	case MBEDTLS_ERR_RSA_PRIVATE_FAILED +
273ddd5cd7Sliushiwei 		MBEDTLS_ERR_MPI_BAD_INPUT_DATA:
28f8907bbfSEdison Ai 	case MBEDTLS_ERR_RSA_BAD_INPUT_DATA:
29f8907bbfSEdison Ai 	case MBEDTLS_ERR_RSA_INVALID_PADDING:
30f8907bbfSEdison Ai 	case MBEDTLS_ERR_PK_TYPE_MISMATCH:
31f8907bbfSEdison Ai 		return TEE_ERROR_BAD_PARAMETERS;
32f8907bbfSEdison Ai 	case MBEDTLS_ERR_RSA_OUTPUT_TOO_LARGE:
33f8907bbfSEdison Ai 		return TEE_ERROR_SHORT_BUFFER;
34f8907bbfSEdison Ai 	default:
35f8907bbfSEdison Ai 		return TEE_ERROR_BAD_STATE;
36f8907bbfSEdison Ai 	}
37f8907bbfSEdison Ai }
38f8907bbfSEdison Ai 
39f8907bbfSEdison Ai static uint32_t tee_algo_to_mbedtls_hash_algo(uint32_t algo)
40f8907bbfSEdison Ai {
41f8907bbfSEdison Ai 	switch (algo) {
42f8907bbfSEdison Ai #if defined(CFG_CRYPTO_SHA1)
43f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA1:
44f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA1:
45f8907bbfSEdison Ai 	case TEE_ALG_RSAES_PKCS1_OAEP_MGF1_SHA1:
46f8907bbfSEdison Ai 	case TEE_ALG_SHA1:
47f8907bbfSEdison Ai 	case TEE_ALG_DSA_SHA1:
48f8907bbfSEdison Ai 	case TEE_ALG_HMAC_SHA1:
49f8907bbfSEdison Ai 		return MBEDTLS_MD_SHA1;
50f8907bbfSEdison Ai #endif
51f8907bbfSEdison Ai #if defined(CFG_CRYPTO_MD5)
52f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_MD5:
53f8907bbfSEdison Ai 	case TEE_ALG_MD5:
54f8907bbfSEdison Ai 	case TEE_ALG_HMAC_MD5:
55f8907bbfSEdison Ai 		return MBEDTLS_MD_MD5;
56f8907bbfSEdison Ai #endif
57f8907bbfSEdison Ai #if defined(CFG_CRYPTO_SHA224)
58f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA224:
59f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA224:
60f8907bbfSEdison Ai 	case TEE_ALG_RSAES_PKCS1_OAEP_MGF1_SHA224:
61f8907bbfSEdison Ai 	case TEE_ALG_SHA224:
62f8907bbfSEdison Ai 	case TEE_ALG_DSA_SHA224:
63f8907bbfSEdison Ai 	case TEE_ALG_HMAC_SHA224:
64f8907bbfSEdison Ai 		return MBEDTLS_MD_SHA224;
65f8907bbfSEdison Ai #endif
66f8907bbfSEdison Ai #if defined(CFG_CRYPTO_SHA256)
67f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA256:
68f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA256:
69f8907bbfSEdison Ai 	case TEE_ALG_RSAES_PKCS1_OAEP_MGF1_SHA256:
70f8907bbfSEdison Ai 	case TEE_ALG_SHA256:
71f8907bbfSEdison Ai 	case TEE_ALG_DSA_SHA256:
72f8907bbfSEdison Ai 	case TEE_ALG_HMAC_SHA256:
73f8907bbfSEdison Ai 		return MBEDTLS_MD_SHA256;
74f8907bbfSEdison Ai #endif
75f8907bbfSEdison Ai #if defined(CFG_CRYPTO_SHA384)
76f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA384:
77f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA384:
78f8907bbfSEdison Ai 	case TEE_ALG_RSAES_PKCS1_OAEP_MGF1_SHA384:
79f8907bbfSEdison Ai 	case TEE_ALG_SHA384:
80f8907bbfSEdison Ai 	case TEE_ALG_HMAC_SHA384:
81f8907bbfSEdison Ai 		return MBEDTLS_MD_SHA384;
82f8907bbfSEdison Ai #endif
83f8907bbfSEdison Ai #if defined(CFG_CRYPTO_SHA512)
84f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA512:
85f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA512:
86f8907bbfSEdison Ai 	case TEE_ALG_RSAES_PKCS1_OAEP_MGF1_SHA512:
87f8907bbfSEdison Ai 	case TEE_ALG_SHA512:
88f8907bbfSEdison Ai 	case TEE_ALG_HMAC_SHA512:
89f8907bbfSEdison Ai 		return MBEDTLS_MD_SHA512;
90f8907bbfSEdison Ai #endif
91f8907bbfSEdison Ai 	default:
92f8907bbfSEdison Ai 		return MBEDTLS_MD_NONE;
93f8907bbfSEdison Ai 	}
94f8907bbfSEdison Ai }
95f8907bbfSEdison Ai 
96f8907bbfSEdison Ai static void rsa_init_from_key_pair(mbedtls_rsa_context *rsa,
97f8907bbfSEdison Ai 				struct rsa_keypair *key)
98f8907bbfSEdison Ai {
99f8907bbfSEdison Ai 	mbedtls_rsa_init(rsa, 0, 0);
100f8907bbfSEdison Ai 
101f8907bbfSEdison Ai 	rsa->E = *(mbedtls_mpi *)key->e;
102f8907bbfSEdison Ai 	rsa->N = *(mbedtls_mpi *)key->n;
103f8907bbfSEdison Ai 	rsa->D = *(mbedtls_mpi *)key->d;
104f8907bbfSEdison Ai 	if (key->p && crypto_bignum_num_bytes(key->p)) {
105f8907bbfSEdison Ai 		rsa->P = *(mbedtls_mpi *)key->p;
106f8907bbfSEdison Ai 		rsa->Q = *(mbedtls_mpi *)key->q;
107f8907bbfSEdison Ai 		rsa->QP = *(mbedtls_mpi *)key->qp;
108f8907bbfSEdison Ai 		rsa->DP = *(mbedtls_mpi *)key->dp;
109f8907bbfSEdison Ai 		rsa->DQ = *(mbedtls_mpi *)key->dq;
110f8907bbfSEdison Ai 	}
111f8907bbfSEdison Ai 	rsa->len = mbedtls_mpi_size(&rsa->N);
112f8907bbfSEdison Ai }
113f8907bbfSEdison Ai 
114f8907bbfSEdison Ai static void mbd_rsa_free(mbedtls_rsa_context *rsa)
115f8907bbfSEdison Ai {
116f8907bbfSEdison Ai 	/* Reset mpi to skip freeing here, those mpis will be freed with key */
117f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa->E);
118f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa->N);
119f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa->D);
120f8907bbfSEdison Ai 	if (mbedtls_mpi_size(&rsa->P)) {
121f8907bbfSEdison Ai 		mbedtls_mpi_init(&rsa->P);
122f8907bbfSEdison Ai 		mbedtls_mpi_init(&rsa->Q);
123f8907bbfSEdison Ai 		mbedtls_mpi_init(&rsa->QP);
124f8907bbfSEdison Ai 		mbedtls_mpi_init(&rsa->DP);
125f8907bbfSEdison Ai 		mbedtls_mpi_init(&rsa->DQ);
126f8907bbfSEdison Ai 	}
127f8907bbfSEdison Ai 	mbedtls_rsa_free(rsa);
128f8907bbfSEdison Ai }
129f8907bbfSEdison Ai 
130f8907bbfSEdison Ai TEE_Result crypto_acipher_alloc_rsa_keypair(struct rsa_keypair *s,
131f8907bbfSEdison Ai 					    size_t key_size_bits)
132*eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_alloc_rsa_keypair");
133*eac16613SJorge Ramirez-Ortiz 
134*eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_alloc_rsa_keypair(struct rsa_keypair *s,
135*eac16613SJorge Ramirez-Ortiz 					       size_t key_size_bits)
136f8907bbfSEdison Ai {
137f8907bbfSEdison Ai 	memset(s, 0, sizeof(*s));
138f8907bbfSEdison Ai 	s->e = crypto_bignum_allocate(key_size_bits);
139f8907bbfSEdison Ai 	if (!s->e)
140f8907bbfSEdison Ai 		goto err;
141f8907bbfSEdison Ai 	s->d = crypto_bignum_allocate(key_size_bits);
142f8907bbfSEdison Ai 	if (!s->d)
143f8907bbfSEdison Ai 		goto err;
144f8907bbfSEdison Ai 	s->n = crypto_bignum_allocate(key_size_bits);
145f8907bbfSEdison Ai 	if (!s->n)
146f8907bbfSEdison Ai 		goto err;
147f8907bbfSEdison Ai 	s->p = crypto_bignum_allocate(key_size_bits);
148f8907bbfSEdison Ai 	if (!s->p)
149f8907bbfSEdison Ai 		goto err;
150f8907bbfSEdison Ai 	s->q = crypto_bignum_allocate(key_size_bits);
151f8907bbfSEdison Ai 	if (!s->q)
152f8907bbfSEdison Ai 		goto err;
153f8907bbfSEdison Ai 	s->qp = crypto_bignum_allocate(key_size_bits);
154f8907bbfSEdison Ai 	if (!s->qp)
155f8907bbfSEdison Ai 		goto err;
156f8907bbfSEdison Ai 	s->dp = crypto_bignum_allocate(key_size_bits);
157f8907bbfSEdison Ai 	if (!s->dp)
158f8907bbfSEdison Ai 		goto err;
159f8907bbfSEdison Ai 	s->dq = crypto_bignum_allocate(key_size_bits);
160f8907bbfSEdison Ai 	if (!s->dq)
161f8907bbfSEdison Ai 		goto err;
162f8907bbfSEdison Ai 
163f8907bbfSEdison Ai 	return TEE_SUCCESS;
164f8907bbfSEdison Ai err:
1651ab1ebd8SJerome Forissier 	crypto_acipher_free_rsa_keypair(s);
166f8907bbfSEdison Ai 	return TEE_ERROR_OUT_OF_MEMORY;
167f8907bbfSEdison Ai }
168f8907bbfSEdison Ai 
169f8907bbfSEdison Ai TEE_Result crypto_acipher_alloc_rsa_public_key(struct rsa_public_key *s,
170f8907bbfSEdison Ai 					       size_t key_size_bits)
171*eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_alloc_rsa_public_key");
172*eac16613SJorge Ramirez-Ortiz 
173*eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_alloc_rsa_public_key(struct rsa_public_key *s,
174*eac16613SJorge Ramirez-Ortiz 						  size_t key_size_bits)
175f8907bbfSEdison Ai {
176f8907bbfSEdison Ai 	memset(s, 0, sizeof(*s));
177f8907bbfSEdison Ai 	s->e = crypto_bignum_allocate(key_size_bits);
178f8907bbfSEdison Ai 	if (!s->e)
179f8907bbfSEdison Ai 		return TEE_ERROR_OUT_OF_MEMORY;
180f8907bbfSEdison Ai 	s->n = crypto_bignum_allocate(key_size_bits);
181f8907bbfSEdison Ai 	if (!s->n)
182f8907bbfSEdison Ai 		goto err;
183f8907bbfSEdison Ai 	return TEE_SUCCESS;
184f8907bbfSEdison Ai err:
185f8907bbfSEdison Ai 	crypto_bignum_free(s->e);
186f8907bbfSEdison Ai 	return TEE_ERROR_OUT_OF_MEMORY;
187f8907bbfSEdison Ai }
188f8907bbfSEdison Ai 
189f8907bbfSEdison Ai void crypto_acipher_free_rsa_public_key(struct rsa_public_key *s)
190*eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_free_rsa_public_key");
191*eac16613SJorge Ramirez-Ortiz 
192*eac16613SJorge Ramirez-Ortiz void sw_crypto_acipher_free_rsa_public_key(struct rsa_public_key *s)
193f8907bbfSEdison Ai {
194f8907bbfSEdison Ai 	if (!s)
195f8907bbfSEdison Ai 		return;
196f8907bbfSEdison Ai 	crypto_bignum_free(s->n);
197f8907bbfSEdison Ai 	crypto_bignum_free(s->e);
198f8907bbfSEdison Ai }
199f8907bbfSEdison Ai 
200a1d5c81fSElias von Däniken void crypto_acipher_free_rsa_keypair(struct rsa_keypair *s)
201*eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_free_rsa_keypair");
202*eac16613SJorge Ramirez-Ortiz 
203*eac16613SJorge Ramirez-Ortiz void sw_crypto_acipher_free_rsa_keypair(struct rsa_keypair *s)
204a1d5c81fSElias von Däniken {
205a1d5c81fSElias von Däniken 	if (!s)
206a1d5c81fSElias von Däniken 		return;
207a1d5c81fSElias von Däniken 	crypto_bignum_free(s->e);
208a1d5c81fSElias von Däniken 	crypto_bignum_free(s->d);
209a1d5c81fSElias von Däniken 	crypto_bignum_free(s->n);
210a1d5c81fSElias von Däniken 	crypto_bignum_free(s->p);
211a1d5c81fSElias von Däniken 	crypto_bignum_free(s->q);
212a1d5c81fSElias von Däniken 	crypto_bignum_free(s->qp);
213a1d5c81fSElias von Däniken 	crypto_bignum_free(s->dp);
2145118efbeSJerome Forissier 	crypto_bignum_free(s->dq);
215a1d5c81fSElias von Däniken }
216a1d5c81fSElias von Däniken 
217*eac16613SJorge Ramirez-Ortiz TEE_Result crypto_acipher_gen_rsa_key(struct rsa_keypair *key,
218*eac16613SJorge Ramirez-Ortiz 				      size_t key_size)
219*eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_gen_rsa_key");
220*eac16613SJorge Ramirez-Ortiz 
221*eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_gen_rsa_key(struct rsa_keypair *key,
222*eac16613SJorge Ramirez-Ortiz 					 size_t key_size)
223f8907bbfSEdison Ai {
224f8907bbfSEdison Ai 	TEE_Result res = TEE_SUCCESS;
225f8907bbfSEdison Ai 	mbedtls_rsa_context rsa;
2267910f4d8SLars Persson 	mbedtls_ctr_drbg_context rngctx;
227f8907bbfSEdison Ai 	int lmd_res = 0;
228f8907bbfSEdison Ai 	uint32_t e = 0;
229f8907bbfSEdison Ai 
2307910f4d8SLars Persson 	mbedtls_ctr_drbg_init(&rngctx);
2317910f4d8SLars Persson 	if (mbedtls_ctr_drbg_seed(&rngctx, mbd_rand, NULL, NULL, 0))
2327910f4d8SLars Persson 		return TEE_ERROR_BAD_STATE;
2337910f4d8SLars Persson 
234f8907bbfSEdison Ai 	memset(&rsa, 0, sizeof(rsa));
235f8907bbfSEdison Ai 	mbedtls_rsa_init(&rsa, 0, 0);
236f8907bbfSEdison Ai 
237f8907bbfSEdison Ai 	/* get the public exponent */
238f8907bbfSEdison Ai 	mbedtls_mpi_write_binary((mbedtls_mpi *)key->e,
239f8907bbfSEdison Ai 				 (unsigned char *)&e, sizeof(uint32_t));
240f8907bbfSEdison Ai 
241f8907bbfSEdison Ai 	e = TEE_U32_FROM_BIG_ENDIAN(e);
2427910f4d8SLars Persson 	lmd_res = mbedtls_rsa_gen_key(&rsa, mbedtls_ctr_drbg_random, &rngctx,
2437910f4d8SLars Persson 				      key_size, (int)e);
2447910f4d8SLars Persson 	mbedtls_ctr_drbg_free(&rngctx);
245f8907bbfSEdison Ai 	if (lmd_res != 0) {
246f8907bbfSEdison Ai 		res = get_tee_result(lmd_res);
247f8907bbfSEdison Ai 	} else if ((size_t)mbedtls_mpi_bitlen(&rsa.N) != key_size) {
248f8907bbfSEdison Ai 		res = TEE_ERROR_BAD_PARAMETERS;
249f8907bbfSEdison Ai 	} else {
250f8907bbfSEdison Ai 		/* Copy the key */
251f8907bbfSEdison Ai 		crypto_bignum_copy(key->e, (void *)&rsa.E);
252f8907bbfSEdison Ai 		crypto_bignum_copy(key->d, (void *)&rsa.D);
253f8907bbfSEdison Ai 		crypto_bignum_copy(key->n, (void *)&rsa.N);
254f8907bbfSEdison Ai 		crypto_bignum_copy(key->p, (void *)&rsa.P);
255f8907bbfSEdison Ai 
256f8907bbfSEdison Ai 		crypto_bignum_copy(key->q, (void *)&rsa.Q);
257f8907bbfSEdison Ai 		crypto_bignum_copy(key->qp, (void *)&rsa.QP);
258f8907bbfSEdison Ai 		crypto_bignum_copy(key->dp, (void *)&rsa.DP);
259f8907bbfSEdison Ai 		crypto_bignum_copy(key->dq, (void *)&rsa.DQ);
260f8907bbfSEdison Ai 
261f8907bbfSEdison Ai 		res = TEE_SUCCESS;
262f8907bbfSEdison Ai 	}
263f8907bbfSEdison Ai 
264f8907bbfSEdison Ai 	mbedtls_rsa_free(&rsa);
265f8907bbfSEdison Ai 
266f8907bbfSEdison Ai 	return res;
267f8907bbfSEdison Ai }
268f8907bbfSEdison Ai 
269f8907bbfSEdison Ai TEE_Result crypto_acipher_rsanopad_encrypt(struct rsa_public_key *key,
270*eac16613SJorge Ramirez-Ortiz 					   const uint8_t *src,
271*eac16613SJorge Ramirez-Ortiz 					   size_t src_len, uint8_t *dst,
272*eac16613SJorge Ramirez-Ortiz 					   size_t *dst_len)
273*eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_rsanopad_encrypt");
274*eac16613SJorge Ramirez-Ortiz 
275*eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_rsanopad_encrypt(struct rsa_public_key *key,
276*eac16613SJorge Ramirez-Ortiz 					      const uint8_t *src,
277*eac16613SJorge Ramirez-Ortiz 					      size_t src_len, uint8_t *dst,
278*eac16613SJorge Ramirez-Ortiz 					      size_t *dst_len)
279f8907bbfSEdison Ai {
280f8907bbfSEdison Ai 	TEE_Result res = TEE_SUCCESS;
281f8907bbfSEdison Ai 	mbedtls_rsa_context rsa;
282f8907bbfSEdison Ai 	int lmd_res = 0;
283f8907bbfSEdison Ai 	uint8_t *buf = NULL;
284f8907bbfSEdison Ai 	unsigned long blen = 0;
285f8907bbfSEdison Ai 	unsigned long offset = 0;
286f8907bbfSEdison Ai 
287f8907bbfSEdison Ai 	memset(&rsa, 0, sizeof(rsa));
288f8907bbfSEdison Ai 	mbedtls_rsa_init(&rsa, 0, 0);
289f8907bbfSEdison Ai 
290f8907bbfSEdison Ai 	rsa.E = *(mbedtls_mpi *)key->e;
291f8907bbfSEdison Ai 	rsa.N = *(mbedtls_mpi *)key->n;
292f8907bbfSEdison Ai 
293f8907bbfSEdison Ai 	rsa.len = crypto_bignum_num_bytes((void *)&rsa.N);
294f8907bbfSEdison Ai 
295f8907bbfSEdison Ai 	blen = CFG_CORE_BIGNUM_MAX_BITS / 8;
296f8907bbfSEdison Ai 	buf = malloc(blen);
297f8907bbfSEdison Ai 	if (!buf) {
298f8907bbfSEdison Ai 		res = TEE_ERROR_OUT_OF_MEMORY;
299f8907bbfSEdison Ai 		goto out;
300f8907bbfSEdison Ai 	}
301f8907bbfSEdison Ai 
302f8907bbfSEdison Ai 	memset(buf, 0, blen);
303f8907bbfSEdison Ai 	memcpy(buf + rsa.len - src_len, src, src_len);
304f8907bbfSEdison Ai 
305f8907bbfSEdison Ai 	lmd_res = mbedtls_rsa_public(&rsa, buf, buf);
306f8907bbfSEdison Ai 	if (lmd_res != 0) {
307f8907bbfSEdison Ai 		FMSG("mbedtls_rsa_public() returned 0x%x", -lmd_res);
308f8907bbfSEdison Ai 		res = get_tee_result(lmd_res);
309f8907bbfSEdison Ai 		goto out;
310f8907bbfSEdison Ai 	}
311f8907bbfSEdison Ai 
312f8907bbfSEdison Ai 	/* Remove the zero-padding (leave one zero if buff is all zeroes) */
313f8907bbfSEdison Ai 	offset = 0;
314f8907bbfSEdison Ai 	while ((offset < rsa.len - 1) && (buf[offset] == 0))
315f8907bbfSEdison Ai 		offset++;
316f8907bbfSEdison Ai 
317f8907bbfSEdison Ai 	if (*dst_len < rsa.len - offset) {
318f8907bbfSEdison Ai 		*dst_len = rsa.len - offset;
319f8907bbfSEdison Ai 		res = TEE_ERROR_SHORT_BUFFER;
320f8907bbfSEdison Ai 		goto out;
321f8907bbfSEdison Ai 	}
322f8907bbfSEdison Ai 	*dst_len = rsa.len - offset;
323f8907bbfSEdison Ai 	memcpy(dst, buf + offset, *dst_len);
324f8907bbfSEdison Ai out:
325f8907bbfSEdison Ai 	free(buf);
326f8907bbfSEdison Ai 	/* Reset mpi to skip freeing here, those mpis will be freed with key */
327f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa.E);
328f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa.N);
329f8907bbfSEdison Ai 	mbedtls_rsa_free(&rsa);
330f8907bbfSEdison Ai 
331f8907bbfSEdison Ai 	return res;
332f8907bbfSEdison Ai }
333f8907bbfSEdison Ai 
334f8907bbfSEdison Ai TEE_Result crypto_acipher_rsanopad_decrypt(struct rsa_keypair *key,
335*eac16613SJorge Ramirez-Ortiz 					   const uint8_t *src,
336*eac16613SJorge Ramirez-Ortiz 					   size_t src_len, uint8_t *dst,
337*eac16613SJorge Ramirez-Ortiz 					   size_t *dst_len)
338*eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_rsanopad_decrypt");
339*eac16613SJorge Ramirez-Ortiz 
340*eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_rsanopad_decrypt(struct rsa_keypair *key,
341*eac16613SJorge Ramirez-Ortiz 					      const uint8_t *src,
342*eac16613SJorge Ramirez-Ortiz 					      size_t src_len, uint8_t *dst,
343*eac16613SJorge Ramirez-Ortiz 					      size_t *dst_len)
344f8907bbfSEdison Ai {
345f8907bbfSEdison Ai 	TEE_Result res = TEE_SUCCESS;
346f8907bbfSEdison Ai 	mbedtls_rsa_context rsa;
347f8907bbfSEdison Ai 	int lmd_res = 0;
348f8907bbfSEdison Ai 	uint8_t *buf = NULL;
349f8907bbfSEdison Ai 	unsigned long blen = 0;
350f8907bbfSEdison Ai 	unsigned long offset = 0;
351f8907bbfSEdison Ai 
352f8907bbfSEdison Ai 	memset(&rsa, 0, sizeof(rsa));
353f8907bbfSEdison Ai 	rsa_init_from_key_pair(&rsa, key);
354f8907bbfSEdison Ai 
355f8907bbfSEdison Ai 	blen = CFG_CORE_BIGNUM_MAX_BITS / 8;
356f8907bbfSEdison Ai 	buf = malloc(blen);
357f8907bbfSEdison Ai 	if (!buf) {
358f8907bbfSEdison Ai 		res = TEE_ERROR_OUT_OF_MEMORY;
359f8907bbfSEdison Ai 		goto out;
360f8907bbfSEdison Ai 	}
361f8907bbfSEdison Ai 
362f8907bbfSEdison Ai 	memset(buf, 0, blen);
363f8907bbfSEdison Ai 	memcpy(buf + rsa.len - src_len, src, src_len);
364f8907bbfSEdison Ai 
365f8907bbfSEdison Ai 	lmd_res = mbedtls_rsa_private(&rsa, NULL, NULL, buf, buf);
366f8907bbfSEdison Ai 	if (lmd_res != 0) {
367f8907bbfSEdison Ai 		FMSG("mbedtls_rsa_private() returned 0x%x", -lmd_res);
368f8907bbfSEdison Ai 		res = get_tee_result(lmd_res);
369f8907bbfSEdison Ai 		goto out;
370f8907bbfSEdison Ai 	}
371f8907bbfSEdison Ai 
372f8907bbfSEdison Ai 	/* Remove the zero-padding (leave one zero if buff is all zeroes) */
373f8907bbfSEdison Ai 	offset = 0;
374f8907bbfSEdison Ai 	while ((offset < rsa.len - 1) && (buf[offset] == 0))
375f8907bbfSEdison Ai 		offset++;
376f8907bbfSEdison Ai 
377f8907bbfSEdison Ai 	if (*dst_len < rsa.len - offset) {
378f8907bbfSEdison Ai 		*dst_len = rsa.len - offset;
379f8907bbfSEdison Ai 		res = TEE_ERROR_SHORT_BUFFER;
380f8907bbfSEdison Ai 		goto out;
381f8907bbfSEdison Ai 	}
382f8907bbfSEdison Ai 	*dst_len = rsa.len - offset;
383f8907bbfSEdison Ai 	memcpy(dst, (char *)buf + offset, *dst_len);
384f8907bbfSEdison Ai out:
385f8907bbfSEdison Ai 	if (buf)
386f8907bbfSEdison Ai 		free(buf);
387f8907bbfSEdison Ai 	mbd_rsa_free(&rsa);
388f8907bbfSEdison Ai 	return res;
389f8907bbfSEdison Ai }
390f8907bbfSEdison Ai 
391*eac16613SJorge Ramirez-Ortiz TEE_Result crypto_acipher_rsaes_decrypt(uint32_t algo,
392*eac16613SJorge Ramirez-Ortiz 					struct rsa_keypair *key,
393*eac16613SJorge Ramirez-Ortiz 					const uint8_t *label __unused,
394*eac16613SJorge Ramirez-Ortiz 					size_t label_len __unused,
395*eac16613SJorge Ramirez-Ortiz 					const uint8_t *src, size_t src_len,
396*eac16613SJorge Ramirez-Ortiz 					uint8_t *dst, size_t *dst_len)
397*eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_rsaes_decrypt");
398*eac16613SJorge Ramirez-Ortiz 
399*eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_rsaes_decrypt(uint32_t algo,
400*eac16613SJorge Ramirez-Ortiz 					   struct rsa_keypair *key,
401f8907bbfSEdison Ai 					   const uint8_t *label __unused,
402f8907bbfSEdison Ai 					   size_t label_len __unused,
403f8907bbfSEdison Ai 					   const uint8_t *src, size_t src_len,
404f8907bbfSEdison Ai 					   uint8_t *dst, size_t *dst_len)
405f8907bbfSEdison Ai {
406f8907bbfSEdison Ai 	TEE_Result res = TEE_SUCCESS;
407f8907bbfSEdison Ai 	int lmd_res = 0;
408f8907bbfSEdison Ai 	int lmd_padding = 0;
409f8907bbfSEdison Ai 	size_t blen = 0;
410f8907bbfSEdison Ai 	size_t mod_size = 0;
411f8907bbfSEdison Ai 	void *buf = NULL;
412f8907bbfSEdison Ai 	mbedtls_rsa_context rsa;
413f8907bbfSEdison Ai 	const mbedtls_pk_info_t *pk_info = NULL;
414f8907bbfSEdison Ai 	uint32_t md_algo = MBEDTLS_MD_NONE;
415f8907bbfSEdison Ai 
416f8907bbfSEdison Ai 	memset(&rsa, 0, sizeof(rsa));
417f8907bbfSEdison Ai 	rsa_init_from_key_pair(&rsa, key);
418f8907bbfSEdison Ai 
419f8907bbfSEdison Ai 	/*
420f8907bbfSEdison Ai 	 * Use a temporary buffer since we don't know exactly how large
421f8907bbfSEdison Ai 	 * the required size of the out buffer without doing a partial
422f8907bbfSEdison Ai 	 * decrypt. We know the upper bound though.
423f8907bbfSEdison Ai 	 */
424f8907bbfSEdison Ai 	if (algo == TEE_ALG_RSAES_PKCS1_V1_5) {
425f8907bbfSEdison Ai 		mod_size = crypto_bignum_num_bytes(key->n);
426f8907bbfSEdison Ai 		blen = mod_size - 11;
427f8907bbfSEdison Ai 		lmd_padding = MBEDTLS_RSA_PKCS_V15;
428f8907bbfSEdison Ai 	} else {
429f8907bbfSEdison Ai 		/* Decoded message is always shorter than encrypted message */
430f8907bbfSEdison Ai 		blen = src_len;
431f8907bbfSEdison Ai 		lmd_padding = MBEDTLS_RSA_PKCS_V21;
432f8907bbfSEdison Ai 	}
433f8907bbfSEdison Ai 
434f8907bbfSEdison Ai 	buf = malloc(blen);
435f8907bbfSEdison Ai 	if (!buf) {
436f8907bbfSEdison Ai 		res = TEE_ERROR_OUT_OF_MEMORY;
437f8907bbfSEdison Ai 		goto out;
438f8907bbfSEdison Ai 	}
439f8907bbfSEdison Ai 
440f8907bbfSEdison Ai 	pk_info = mbedtls_pk_info_from_type(MBEDTLS_PK_RSA);
441f8907bbfSEdison Ai 	if (!pk_info) {
442f8907bbfSEdison Ai 		res = TEE_ERROR_NOT_SUPPORTED;
443f8907bbfSEdison Ai 		goto out;
444f8907bbfSEdison Ai 	}
445f8907bbfSEdison Ai 
446f8907bbfSEdison Ai 	/*
447f8907bbfSEdison Ai 	 * TEE_ALG_RSAES_PKCS1_V1_5 is invalid in hash. But its hash algo will
448f8907bbfSEdison Ai 	 * not be used in rsa, so skip it here.
449f8907bbfSEdison Ai 	 */
450f8907bbfSEdison Ai 	if (algo != TEE_ALG_RSAES_PKCS1_V1_5) {
451f8907bbfSEdison Ai 		md_algo = tee_algo_to_mbedtls_hash_algo(algo);
452f8907bbfSEdison Ai 		if (md_algo == MBEDTLS_MD_NONE) {
453f8907bbfSEdison Ai 			res = TEE_ERROR_NOT_SUPPORTED;
454f8907bbfSEdison Ai 			goto out;
455f8907bbfSEdison Ai 		}
456f8907bbfSEdison Ai 	}
457f8907bbfSEdison Ai 
458f8907bbfSEdison Ai 	mbedtls_rsa_set_padding(&rsa, lmd_padding, md_algo);
459f8907bbfSEdison Ai 
460f8907bbfSEdison Ai 	if (lmd_padding == MBEDTLS_RSA_PKCS_V15)
461f8907bbfSEdison Ai 		lmd_res = pk_info->decrypt_func(&rsa, src, src_len, buf, &blen,
462f8907bbfSEdison Ai 						blen, NULL, NULL);
463f8907bbfSEdison Ai 	else
464f8907bbfSEdison Ai 		lmd_res = pk_info->decrypt_func(&rsa, src, src_len, buf, &blen,
465f8907bbfSEdison Ai 						blen, mbd_rand, NULL);
466f8907bbfSEdison Ai 	if (lmd_res != 0) {
467f8907bbfSEdison Ai 		FMSG("decrypt_func() returned 0x%x", -lmd_res);
468f8907bbfSEdison Ai 		res = get_tee_result(lmd_res);
469f8907bbfSEdison Ai 		goto out;
470f8907bbfSEdison Ai 	}
471f8907bbfSEdison Ai 
472f8907bbfSEdison Ai 	if (*dst_len < blen) {
473f8907bbfSEdison Ai 		*dst_len = blen;
474f8907bbfSEdison Ai 		res = TEE_ERROR_SHORT_BUFFER;
475f8907bbfSEdison Ai 		goto out;
476f8907bbfSEdison Ai 	}
477f8907bbfSEdison Ai 
478f8907bbfSEdison Ai 	res = TEE_SUCCESS;
479f8907bbfSEdison Ai 	*dst_len = blen;
480f8907bbfSEdison Ai 	memcpy(dst, buf, blen);
481f8907bbfSEdison Ai out:
482f8907bbfSEdison Ai 	if (buf)
483f8907bbfSEdison Ai 		free(buf);
484f8907bbfSEdison Ai 	mbd_rsa_free(&rsa);
485f8907bbfSEdison Ai 	return res;
486f8907bbfSEdison Ai }
487f8907bbfSEdison Ai 
488f8907bbfSEdison Ai TEE_Result crypto_acipher_rsaes_encrypt(uint32_t algo,
489f8907bbfSEdison Ai 					struct rsa_public_key *key,
490f8907bbfSEdison Ai 					const uint8_t *label __unused,
491f8907bbfSEdison Ai 					size_t label_len __unused,
492f8907bbfSEdison Ai 					const uint8_t *src, size_t src_len,
493f8907bbfSEdison Ai 					uint8_t *dst, size_t *dst_len)
494*eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_rsaes_encrypt");
495*eac16613SJorge Ramirez-Ortiz 
496*eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_rsaes_encrypt(uint32_t algo,
497*eac16613SJorge Ramirez-Ortiz 					   struct rsa_public_key *key,
498*eac16613SJorge Ramirez-Ortiz 					   const uint8_t *label __unused,
499*eac16613SJorge Ramirez-Ortiz 					   size_t label_len __unused,
500*eac16613SJorge Ramirez-Ortiz 					   const uint8_t *src, size_t src_len,
501*eac16613SJorge Ramirez-Ortiz 					   uint8_t *dst, size_t *dst_len)
502f8907bbfSEdison Ai {
503f8907bbfSEdison Ai 	TEE_Result res = TEE_SUCCESS;
504f8907bbfSEdison Ai 	int lmd_res = 0;
505f8907bbfSEdison Ai 	int lmd_padding = 0;
506f8907bbfSEdison Ai 	size_t mod_size = 0;
507f8907bbfSEdison Ai 	mbedtls_rsa_context rsa;
508f8907bbfSEdison Ai 	const mbedtls_pk_info_t *pk_info = NULL;
509f8907bbfSEdison Ai 	uint32_t md_algo = MBEDTLS_MD_NONE;
510f8907bbfSEdison Ai 
511f8907bbfSEdison Ai 	memset(&rsa, 0, sizeof(rsa));
512f8907bbfSEdison Ai 	mbedtls_rsa_init(&rsa, 0, 0);
513f8907bbfSEdison Ai 
514f8907bbfSEdison Ai 	rsa.E = *(mbedtls_mpi *)key->e;
515f8907bbfSEdison Ai 	rsa.N = *(mbedtls_mpi *)key->n;
516f8907bbfSEdison Ai 
517f8907bbfSEdison Ai 	mod_size = crypto_bignum_num_bytes(key->n);
518f8907bbfSEdison Ai 	if (*dst_len < mod_size) {
519f8907bbfSEdison Ai 		*dst_len = mod_size;
520f8907bbfSEdison Ai 		res = TEE_ERROR_SHORT_BUFFER;
521f8907bbfSEdison Ai 		goto out;
522f8907bbfSEdison Ai 	}
523f8907bbfSEdison Ai 	*dst_len = mod_size;
524f8907bbfSEdison Ai 	rsa.len = mod_size;
525f8907bbfSEdison Ai 
526f8907bbfSEdison Ai 	if (algo == TEE_ALG_RSAES_PKCS1_V1_5)
527f8907bbfSEdison Ai 		lmd_padding = MBEDTLS_RSA_PKCS_V15;
528f8907bbfSEdison Ai 	else
529f8907bbfSEdison Ai 		lmd_padding = MBEDTLS_RSA_PKCS_V21;
530f8907bbfSEdison Ai 
531f8907bbfSEdison Ai 	pk_info = mbedtls_pk_info_from_type(MBEDTLS_PK_RSA);
532f8907bbfSEdison Ai 	if (!pk_info) {
533f8907bbfSEdison Ai 		res = TEE_ERROR_NOT_SUPPORTED;
534f8907bbfSEdison Ai 		goto out;
535f8907bbfSEdison Ai 	}
536f8907bbfSEdison Ai 
537f8907bbfSEdison Ai 	/*
538f8907bbfSEdison Ai 	 * TEE_ALG_RSAES_PKCS1_V1_5 is invalid in hash. But its hash algo will
539f8907bbfSEdison Ai 	 * not be used in rsa, so skip it here.
540f8907bbfSEdison Ai 	 */
541f8907bbfSEdison Ai 	if (algo != TEE_ALG_RSAES_PKCS1_V1_5) {
542f8907bbfSEdison Ai 		md_algo = tee_algo_to_mbedtls_hash_algo(algo);
543f8907bbfSEdison Ai 		if (md_algo == MBEDTLS_MD_NONE) {
544f8907bbfSEdison Ai 			res = TEE_ERROR_NOT_SUPPORTED;
545f8907bbfSEdison Ai 			goto out;
546f8907bbfSEdison Ai 		}
547f8907bbfSEdison Ai 	}
548f8907bbfSEdison Ai 
549f8907bbfSEdison Ai 	mbedtls_rsa_set_padding(&rsa, lmd_padding, md_algo);
550f8907bbfSEdison Ai 
551f8907bbfSEdison Ai 	lmd_res = pk_info->encrypt_func(&rsa, src, src_len, dst, dst_len,
552f8907bbfSEdison Ai 					*dst_len, mbd_rand, NULL);
553f8907bbfSEdison Ai 	if (lmd_res != 0) {
554f8907bbfSEdison Ai 		FMSG("encrypt_func() returned 0x%x", -lmd_res);
555f8907bbfSEdison Ai 		res = get_tee_result(lmd_res);
556f8907bbfSEdison Ai 		goto out;
557f8907bbfSEdison Ai 	}
558f8907bbfSEdison Ai 	res = TEE_SUCCESS;
559f8907bbfSEdison Ai out:
560f8907bbfSEdison Ai 	/* Reset mpi to skip freeing here, those mpis will be freed with key */
561f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa.E);
562f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa.N);
563f8907bbfSEdison Ai 	mbedtls_rsa_free(&rsa);
564f8907bbfSEdison Ai 	return res;
565f8907bbfSEdison Ai }
566f8907bbfSEdison Ai 
567f8907bbfSEdison Ai TEE_Result crypto_acipher_rsassa_sign(uint32_t algo, struct rsa_keypair *key,
568*eac16613SJorge Ramirez-Ortiz 				      int salt_len __unused,
569*eac16613SJorge Ramirez-Ortiz 				      const uint8_t *msg, size_t msg_len,
570*eac16613SJorge Ramirez-Ortiz 				      uint8_t *sig, size_t *sig_len)
571*eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_rsassa_sign");
572*eac16613SJorge Ramirez-Ortiz 
573*eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_rsassa_sign(uint32_t algo, struct rsa_keypair *key,
574*eac16613SJorge Ramirez-Ortiz 					 int salt_len __unused,
575*eac16613SJorge Ramirez-Ortiz 					 const uint8_t *msg, size_t msg_len,
576*eac16613SJorge Ramirez-Ortiz 					 uint8_t *sig, size_t *sig_len)
577f8907bbfSEdison Ai {
578f8907bbfSEdison Ai 	TEE_Result res = TEE_SUCCESS;
579f8907bbfSEdison Ai 	int lmd_res = 0;
580f8907bbfSEdison Ai 	int lmd_padding = 0;
581f8907bbfSEdison Ai 	size_t mod_size = 0;
582f8907bbfSEdison Ai 	size_t hash_size = 0;
583f8907bbfSEdison Ai 	mbedtls_rsa_context rsa;
584f8907bbfSEdison Ai 	const mbedtls_pk_info_t *pk_info = NULL;
585f8907bbfSEdison Ai 	uint32_t md_algo = 0;
586f8907bbfSEdison Ai 
587f8907bbfSEdison Ai 	memset(&rsa, 0, sizeof(rsa));
588f8907bbfSEdison Ai 	rsa_init_from_key_pair(&rsa, key);
589f8907bbfSEdison Ai 
590f8907bbfSEdison Ai 	switch (algo) {
591f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_MD5:
592f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA1:
593f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA224:
594f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA256:
595f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA384:
596f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA512:
597f8907bbfSEdison Ai 		lmd_padding = MBEDTLS_RSA_PKCS_V15;
598f8907bbfSEdison Ai 		break;
599f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA1:
600f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA224:
601f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA256:
602f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA384:
603f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA512:
604f8907bbfSEdison Ai 		lmd_padding = MBEDTLS_RSA_PKCS_V21;
605f8907bbfSEdison Ai 		break;
606f8907bbfSEdison Ai 	default:
607f8907bbfSEdison Ai 		res = TEE_ERROR_BAD_PARAMETERS;
608f8907bbfSEdison Ai 		goto err;
609f8907bbfSEdison Ai 	}
610f8907bbfSEdison Ai 
6117c767434SAlbert Schwarzkopf 	res = tee_alg_get_digest_size(TEE_DIGEST_HASH_TO_ALGO(algo),
612f8907bbfSEdison Ai 				      &hash_size);
613f8907bbfSEdison Ai 	if (res != TEE_SUCCESS)
614f8907bbfSEdison Ai 		goto err;
615f8907bbfSEdison Ai 
616f8907bbfSEdison Ai 	if (msg_len != hash_size) {
617f8907bbfSEdison Ai 		res = TEE_ERROR_BAD_PARAMETERS;
618f8907bbfSEdison Ai 		goto err;
619f8907bbfSEdison Ai 	}
620f8907bbfSEdison Ai 
621f8907bbfSEdison Ai 	mod_size = crypto_bignum_num_bytes(key->n);
622f8907bbfSEdison Ai 	if (*sig_len < mod_size) {
623f8907bbfSEdison Ai 		*sig_len = mod_size;
624f8907bbfSEdison Ai 		res = TEE_ERROR_SHORT_BUFFER;
625f8907bbfSEdison Ai 		goto err;
626f8907bbfSEdison Ai 	}
627f8907bbfSEdison Ai 	rsa.len = mod_size;
628f8907bbfSEdison Ai 
629f8907bbfSEdison Ai 	md_algo = tee_algo_to_mbedtls_hash_algo(algo);
630f8907bbfSEdison Ai 	if (md_algo == MBEDTLS_MD_NONE) {
631f8907bbfSEdison Ai 		res = TEE_ERROR_NOT_SUPPORTED;
632f8907bbfSEdison Ai 		goto err;
633f8907bbfSEdison Ai 	}
634f8907bbfSEdison Ai 
635f8907bbfSEdison Ai 	pk_info = mbedtls_pk_info_from_type(MBEDTLS_PK_RSA);
636f8907bbfSEdison Ai 	if (!pk_info) {
637f8907bbfSEdison Ai 		res = TEE_ERROR_NOT_SUPPORTED;
638f8907bbfSEdison Ai 		goto err;
639f8907bbfSEdison Ai 	}
640f8907bbfSEdison Ai 
641f8907bbfSEdison Ai 	mbedtls_rsa_set_padding(&rsa, lmd_padding, md_algo);
642f8907bbfSEdison Ai 
643f8907bbfSEdison Ai 	if (lmd_padding == MBEDTLS_RSA_PKCS_V15)
644f8907bbfSEdison Ai 		lmd_res = pk_info->sign_func(&rsa, md_algo, msg, msg_len, sig,
645f8907bbfSEdison Ai 					     sig_len, NULL, NULL);
646f8907bbfSEdison Ai 	else
647f8907bbfSEdison Ai 		lmd_res = pk_info->sign_func(&rsa, md_algo, msg, msg_len, sig,
648f8907bbfSEdison Ai 					     sig_len, mbd_rand, NULL);
649f8907bbfSEdison Ai 	if (lmd_res != 0) {
650f8907bbfSEdison Ai 		FMSG("sign_func failed, returned 0x%x", -lmd_res);
651f8907bbfSEdison Ai 		res = get_tee_result(lmd_res);
652f8907bbfSEdison Ai 		goto err;
653f8907bbfSEdison Ai 	}
654f8907bbfSEdison Ai 	res = TEE_SUCCESS;
655f8907bbfSEdison Ai err:
656f8907bbfSEdison Ai 	mbd_rsa_free(&rsa);
657f8907bbfSEdison Ai 	return res;
658f8907bbfSEdison Ai }
659f8907bbfSEdison Ai 
660f8907bbfSEdison Ai TEE_Result crypto_acipher_rsassa_verify(uint32_t algo,
661f8907bbfSEdison Ai 					struct rsa_public_key *key,
662f8907bbfSEdison Ai 					int salt_len __unused,
663f8907bbfSEdison Ai 					const uint8_t *msg,
664f8907bbfSEdison Ai 					size_t msg_len, const uint8_t *sig,
665f8907bbfSEdison Ai 					size_t sig_len)
666*eac16613SJorge Ramirez-Ortiz __weak __alias("sw_crypto_acipher_rsassa_verify");
667*eac16613SJorge Ramirez-Ortiz 
668*eac16613SJorge Ramirez-Ortiz TEE_Result sw_crypto_acipher_rsassa_verify(uint32_t algo,
669*eac16613SJorge Ramirez-Ortiz 					   struct rsa_public_key *key,
670*eac16613SJorge Ramirez-Ortiz 					   int salt_len __unused,
671*eac16613SJorge Ramirez-Ortiz 					   const uint8_t *msg,
672*eac16613SJorge Ramirez-Ortiz 					   size_t msg_len, const uint8_t *sig,
673*eac16613SJorge Ramirez-Ortiz 					   size_t sig_len)
674f8907bbfSEdison Ai {
675f8907bbfSEdison Ai 	TEE_Result res = TEE_SUCCESS;
676f8907bbfSEdison Ai 	int lmd_res = 0;
677f8907bbfSEdison Ai 	int lmd_padding = 0;
678f8907bbfSEdison Ai 	size_t hash_size = 0;
679f8907bbfSEdison Ai 	size_t bigint_size = 0;
680f8907bbfSEdison Ai 	mbedtls_rsa_context rsa;
681f8907bbfSEdison Ai 	const mbedtls_pk_info_t *pk_info = NULL;
682f8907bbfSEdison Ai 	uint32_t md_algo = 0;
683f8907bbfSEdison Ai 
684f8907bbfSEdison Ai 	memset(&rsa, 0, sizeof(rsa));
685f8907bbfSEdison Ai 	mbedtls_rsa_init(&rsa, 0, 0);
686f8907bbfSEdison Ai 
687f8907bbfSEdison Ai 	rsa.E = *(mbedtls_mpi *)key->e;
688f8907bbfSEdison Ai 	rsa.N = *(mbedtls_mpi *)key->n;
689f8907bbfSEdison Ai 
6907c767434SAlbert Schwarzkopf 	res = tee_alg_get_digest_size(TEE_DIGEST_HASH_TO_ALGO(algo),
691f8907bbfSEdison Ai 				      &hash_size);
692f8907bbfSEdison Ai 	if (res != TEE_SUCCESS)
693f8907bbfSEdison Ai 		goto err;
694f8907bbfSEdison Ai 
695f8907bbfSEdison Ai 	if (msg_len != hash_size) {
696f8907bbfSEdison Ai 		res = TEE_ERROR_BAD_PARAMETERS;
697f8907bbfSEdison Ai 		goto err;
698f8907bbfSEdison Ai 	}
699f8907bbfSEdison Ai 
700f8907bbfSEdison Ai 	bigint_size = crypto_bignum_num_bytes(key->n);
701f8907bbfSEdison Ai 	if (sig_len < bigint_size) {
702c282ebd6Slubing 		res = TEE_ERROR_SIGNATURE_INVALID;
703f8907bbfSEdison Ai 		goto err;
704f8907bbfSEdison Ai 	}
705f8907bbfSEdison Ai 
706f8907bbfSEdison Ai 	rsa.len = bigint_size;
707f8907bbfSEdison Ai 
708f8907bbfSEdison Ai 	switch (algo) {
709f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_MD5:
710f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA1:
711f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA224:
712f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA256:
713f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA384:
714f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_V1_5_SHA512:
715f8907bbfSEdison Ai 		lmd_padding = MBEDTLS_RSA_PKCS_V15;
716f8907bbfSEdison Ai 		break;
717f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA1:
718f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA224:
719f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA256:
720f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA384:
721f8907bbfSEdison Ai 	case TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA512:
722f8907bbfSEdison Ai 		lmd_padding = MBEDTLS_RSA_PKCS_V21;
723f8907bbfSEdison Ai 		break;
724f8907bbfSEdison Ai 	default:
725f8907bbfSEdison Ai 		res = TEE_ERROR_BAD_PARAMETERS;
726f8907bbfSEdison Ai 		goto err;
727f8907bbfSEdison Ai 	}
728f8907bbfSEdison Ai 
729f8907bbfSEdison Ai 	md_algo = tee_algo_to_mbedtls_hash_algo(algo);
730f8907bbfSEdison Ai 	if (md_algo == MBEDTLS_MD_NONE) {
731f8907bbfSEdison Ai 		res = TEE_ERROR_NOT_SUPPORTED;
732f8907bbfSEdison Ai 		goto err;
733f8907bbfSEdison Ai 	}
734f8907bbfSEdison Ai 
735f8907bbfSEdison Ai 	pk_info = mbedtls_pk_info_from_type(MBEDTLS_PK_RSA);
736f8907bbfSEdison Ai 	if (!pk_info) {
737f8907bbfSEdison Ai 		res = TEE_ERROR_NOT_SUPPORTED;
738f8907bbfSEdison Ai 		goto err;
739f8907bbfSEdison Ai 	}
740f8907bbfSEdison Ai 
741f8907bbfSEdison Ai 	mbedtls_rsa_set_padding(&rsa, lmd_padding, md_algo);
742f8907bbfSEdison Ai 
743f8907bbfSEdison Ai 	lmd_res = pk_info->verify_func(&rsa, md_algo, msg, msg_len,
744f8907bbfSEdison Ai 				       sig, sig_len);
745f8907bbfSEdison Ai 	if (lmd_res != 0) {
746f8907bbfSEdison Ai 		FMSG("verify_func failed, returned 0x%x", -lmd_res);
747f8907bbfSEdison Ai 		res = TEE_ERROR_SIGNATURE_INVALID;
748f8907bbfSEdison Ai 		goto err;
749f8907bbfSEdison Ai 	}
750f8907bbfSEdison Ai 	res = TEE_SUCCESS;
751f8907bbfSEdison Ai err:
752f8907bbfSEdison Ai 	/* Reset mpi to skip freeing here, those mpis will be freed with key */
753f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa.E);
754f8907bbfSEdison Ai 	mbedtls_mpi_init(&rsa.N);
755f8907bbfSEdison Ai 	mbedtls_rsa_free(&rsa);
756f8907bbfSEdison Ai 	return res;
757f8907bbfSEdison Ai }
758