xref: /optee_os/ta/pkcs11/src/processing_asymm.c (revision d9af50bc47024ff71fcd6a980d2503bd8cd9545b)
1fb279d8bSVesa Jääskeläinen // SPDX-License-Identifier: BSD-2-Clause
2fb279d8bSVesa Jääskeläinen /*
3fb279d8bSVesa Jääskeläinen  * Copyright (c) 2018-2020, Linaro Limited
4fb279d8bSVesa Jääskeläinen  */
5fb279d8bSVesa Jääskeläinen 
6fb279d8bSVesa Jääskeläinen #include <assert.h>
7fb279d8bSVesa Jääskeläinen #include <compiler.h>
8fb279d8bSVesa Jääskeläinen #include <tee_api_defines.h>
9fb279d8bSVesa Jääskeläinen #include <tee_internal_api.h>
10fb279d8bSVesa Jääskeläinen #include <tee_internal_api_extensions.h>
11fb279d8bSVesa Jääskeläinen 
12fb279d8bSVesa Jääskeläinen #include "attributes.h"
13fb279d8bSVesa Jääskeläinen #include "pkcs11_helpers.h"
14fb279d8bSVesa Jääskeläinen #include "pkcs11_token.h"
15fb279d8bSVesa Jääskeläinen #include "processing.h"
16fb279d8bSVesa Jääskeläinen #include "serializer.h"
17fb279d8bSVesa Jääskeläinen 
18fb279d8bSVesa Jääskeläinen bool processing_is_tee_asymm(uint32_t proc_id)
19fb279d8bSVesa Jääskeläinen {
20fb279d8bSVesa Jääskeläinen 	switch (proc_id) {
210442c956SVesa Jääskeläinen 	/* RSA flavors */
220442c956SVesa Jääskeläinen 	case PKCS11_CKM_RSA_PKCS:
23*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_RSA_PKCS_PSS:
240442c956SVesa Jääskeläinen 	case PKCS11_CKM_MD5_RSA_PKCS:
250442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA1_RSA_PKCS:
260442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA224_RSA_PKCS:
270442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA256_RSA_PKCS:
280442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA384_RSA_PKCS:
290442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA512_RSA_PKCS:
30*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA1_RSA_PKCS_PSS:
31*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA224_RSA_PKCS_PSS:
32*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA256_RSA_PKCS_PSS:
33*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA384_RSA_PKCS_PSS:
34*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA512_RSA_PKCS_PSS:
35fb279d8bSVesa Jääskeläinen 	/* EC flavors */
36fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA:
37fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA1:
38fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA224:
39fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA256:
40fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA384:
41fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA512:
42fb279d8bSVesa Jääskeläinen 		return true;
43fb279d8bSVesa Jääskeläinen 	default:
44fb279d8bSVesa Jääskeläinen 		return false;
45fb279d8bSVesa Jääskeläinen 	}
46fb279d8bSVesa Jääskeläinen }
47fb279d8bSVesa Jääskeläinen 
48fb279d8bSVesa Jääskeläinen static enum pkcs11_rc
49fb279d8bSVesa Jääskeläinen pkcs2tee_algorithm(uint32_t *tee_id, uint32_t *tee_hash_id,
50fb279d8bSVesa Jääskeläinen 		   enum processing_func function __unused,
51fb279d8bSVesa Jääskeläinen 		   struct pkcs11_attribute_head *proc_params,
52fb279d8bSVesa Jääskeläinen 		   struct pkcs11_object *obj)
53fb279d8bSVesa Jääskeläinen {
54fb279d8bSVesa Jääskeläinen 	static const struct {
55fb279d8bSVesa Jääskeläinen 		enum pkcs11_mechanism_id mech_id;
56fb279d8bSVesa Jääskeläinen 		uint32_t tee_id;
57fb279d8bSVesa Jääskeläinen 		uint32_t tee_hash_id;
58fb279d8bSVesa Jääskeläinen 	} pkcs2tee_algo[] = {
590442c956SVesa Jääskeläinen 		/* RSA flavors */
600442c956SVesa Jääskeläinen 		{ PKCS11_CKM_RSA_PKCS, TEE_ALG_RSAES_PKCS1_V1_5, 0 },
61*d9af50bcSVesa Jääskeläinen 		{ PKCS11_CKM_RSA_PKCS_PSS, 1, 0 },
620442c956SVesa Jääskeläinen 		{ PKCS11_CKM_MD5_RSA_PKCS, TEE_ALG_RSASSA_PKCS1_V1_5_MD5,
630442c956SVesa Jääskeläinen 		  TEE_ALG_MD5 },
640442c956SVesa Jääskeläinen 		{ PKCS11_CKM_SHA1_RSA_PKCS, TEE_ALG_RSASSA_PKCS1_V1_5_SHA1,
650442c956SVesa Jääskeläinen 		  TEE_ALG_SHA1 },
660442c956SVesa Jääskeläinen 		{ PKCS11_CKM_SHA224_RSA_PKCS, TEE_ALG_RSASSA_PKCS1_V1_5_SHA224,
670442c956SVesa Jääskeläinen 		  TEE_ALG_SHA224 },
680442c956SVesa Jääskeläinen 		{ PKCS11_CKM_SHA256_RSA_PKCS, TEE_ALG_RSASSA_PKCS1_V1_5_SHA256,
690442c956SVesa Jääskeläinen 		  TEE_ALG_SHA256 },
700442c956SVesa Jääskeläinen 		{ PKCS11_CKM_SHA384_RSA_PKCS, TEE_ALG_RSASSA_PKCS1_V1_5_SHA384,
710442c956SVesa Jääskeläinen 		  TEE_ALG_SHA384 },
720442c956SVesa Jääskeläinen 		{ PKCS11_CKM_SHA512_RSA_PKCS, TEE_ALG_RSASSA_PKCS1_V1_5_SHA512,
730442c956SVesa Jääskeläinen 		  TEE_ALG_SHA512 },
74*d9af50bcSVesa Jääskeläinen 		{ PKCS11_CKM_SHA1_RSA_PKCS_PSS,
75*d9af50bcSVesa Jääskeläinen 		  TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA1, TEE_ALG_SHA1 },
76*d9af50bcSVesa Jääskeläinen 		{ PKCS11_CKM_SHA224_RSA_PKCS_PSS,
77*d9af50bcSVesa Jääskeläinen 		  TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA224, TEE_ALG_SHA224 },
78*d9af50bcSVesa Jääskeläinen 		{ PKCS11_CKM_SHA256_RSA_PKCS_PSS,
79*d9af50bcSVesa Jääskeläinen 		  TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA256, TEE_ALG_SHA256 },
80*d9af50bcSVesa Jääskeläinen 		{ PKCS11_CKM_SHA384_RSA_PKCS_PSS,
81*d9af50bcSVesa Jääskeläinen 		  TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA384, TEE_ALG_SHA384 },
82*d9af50bcSVesa Jääskeläinen 		{ PKCS11_CKM_SHA512_RSA_PKCS_PSS,
83*d9af50bcSVesa Jääskeläinen 		  TEE_ALG_RSASSA_PKCS1_PSS_MGF1_SHA512, TEE_ALG_SHA512 },
84fb279d8bSVesa Jääskeläinen 		/* EC flavors (Must find key size from the object) */
85fb279d8bSVesa Jääskeläinen 		{ PKCS11_CKM_ECDSA, 1, 0 },
86fb279d8bSVesa Jääskeläinen 		{ PKCS11_CKM_ECDSA_SHA1, 1, TEE_ALG_SHA1 },
87fb279d8bSVesa Jääskeläinen 		{ PKCS11_CKM_ECDSA_SHA224, 1, TEE_ALG_SHA224 },
88fb279d8bSVesa Jääskeläinen 		{ PKCS11_CKM_ECDSA_SHA256, 1, TEE_ALG_SHA256 },
89fb279d8bSVesa Jääskeläinen 		{ PKCS11_CKM_ECDSA_SHA384, 1, TEE_ALG_SHA384 },
90fb279d8bSVesa Jääskeläinen 		{ PKCS11_CKM_ECDSA_SHA512, 1, TEE_ALG_SHA512 },
91fb279d8bSVesa Jääskeläinen 	};
92fb279d8bSVesa Jääskeläinen 	size_t n = 0;
93fb279d8bSVesa Jääskeläinen 	enum pkcs11_rc rc = PKCS11_CKR_GENERAL_ERROR;
94fb279d8bSVesa Jääskeläinen 
95fb279d8bSVesa Jääskeläinen 	for (n = 0; n < ARRAY_SIZE(pkcs2tee_algo); n++) {
96fb279d8bSVesa Jääskeläinen 		if (pkcs2tee_algo[n].mech_id == proc_params->id) {
97fb279d8bSVesa Jääskeläinen 			*tee_id = pkcs2tee_algo[n].tee_id;
98fb279d8bSVesa Jääskeläinen 			*tee_hash_id = pkcs2tee_algo[n].tee_hash_id;
99fb279d8bSVesa Jääskeläinen 			break;
100fb279d8bSVesa Jääskeläinen 		}
101fb279d8bSVesa Jääskeläinen 	}
102fb279d8bSVesa Jääskeläinen 
103fb279d8bSVesa Jääskeläinen 	if (n == ARRAY_SIZE(pkcs2tee_algo))
104fb279d8bSVesa Jääskeläinen 		return PKCS11_RV_NOT_IMPLEMENTED;
105fb279d8bSVesa Jääskeläinen 
106fb279d8bSVesa Jääskeläinen 	switch (proc_params->id) {
107*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_RSA_PKCS_PSS:
108*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA1_RSA_PKCS_PSS:
109*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA224_RSA_PKCS_PSS:
110*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA256_RSA_PKCS_PSS:
111*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA384_RSA_PKCS_PSS:
112*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA512_RSA_PKCS_PSS:
113*d9af50bcSVesa Jääskeläinen 		rc = pkcs2tee_algo_rsa_pss(tee_id, proc_params);
114*d9af50bcSVesa Jääskeläinen 		break;
115fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA:
116fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA1:
117fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA224:
118fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA256:
119fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA384:
120fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA512:
121fb279d8bSVesa Jääskeläinen 		rc = pkcs2tee_algo_ecdsa(tee_id, proc_params, obj);
122fb279d8bSVesa Jääskeläinen 		break;
123fb279d8bSVesa Jääskeläinen 	default:
124fb279d8bSVesa Jääskeläinen 		rc = PKCS11_CKR_OK;
125fb279d8bSVesa Jääskeläinen 		break;
126fb279d8bSVesa Jääskeläinen 	}
127fb279d8bSVesa Jääskeläinen 
1280442c956SVesa Jääskeläinen 	/*
1290442c956SVesa Jääskeläinen 	 * PKCS#11 uses single mechanism CKM_RSA_PKCS for both ciphering and
1300442c956SVesa Jääskeläinen 	 * authentication whereas GPD TEE expects TEE_ALG_RSAES_PKCS1_V1_5 for
1310442c956SVesa Jääskeläinen 	 * ciphering and TEE_ALG_RSASSA_PKCS1_V1_5 for authentication.
1320442c956SVesa Jääskeläinen 	 */
1330442c956SVesa Jääskeläinen 	if (*tee_id == TEE_ALG_RSAES_PKCS1_V1_5 &&
1340442c956SVesa Jääskeläinen 	    (function == PKCS11_FUNCTION_SIGN ||
1350442c956SVesa Jääskeläinen 	     function == PKCS11_FUNCTION_VERIFY))
1360442c956SVesa Jääskeläinen 		*tee_id = TEE_ALG_RSASSA_PKCS1_V1_5;
1370442c956SVesa Jääskeläinen 
138fb279d8bSVesa Jääskeläinen 	return rc;
139fb279d8bSVesa Jääskeläinen }
140fb279d8bSVesa Jääskeläinen 
141fb279d8bSVesa Jääskeläinen static enum pkcs11_rc pkcs2tee_key_type(uint32_t *tee_type,
142fb279d8bSVesa Jääskeläinen 					struct pkcs11_object *obj,
143fb279d8bSVesa Jääskeläinen 					enum processing_func function)
144fb279d8bSVesa Jääskeläinen {
145fb279d8bSVesa Jääskeläinen 	enum pkcs11_class_id class = get_class(obj->attributes);
146fb279d8bSVesa Jääskeläinen 	enum pkcs11_key_type type = get_key_type(obj->attributes);
147fb279d8bSVesa Jääskeläinen 
148fb279d8bSVesa Jääskeläinen 	switch (class) {
149fb279d8bSVesa Jääskeläinen 	case PKCS11_CKO_PUBLIC_KEY:
150fb279d8bSVesa Jääskeläinen 	case PKCS11_CKO_PRIVATE_KEY:
151fb279d8bSVesa Jääskeläinen 		break;
152fb279d8bSVesa Jääskeläinen 	default:
153fb279d8bSVesa Jääskeläinen 		TEE_Panic(class);
154fb279d8bSVesa Jääskeläinen 		break;
155fb279d8bSVesa Jääskeläinen 	}
156fb279d8bSVesa Jääskeläinen 
157fb279d8bSVesa Jääskeläinen 	switch (type) {
158fb279d8bSVesa Jääskeläinen 	case PKCS11_CKK_EC:
159fb279d8bSVesa Jääskeläinen 		assert(function != PKCS11_FUNCTION_DERIVE);
160fb279d8bSVesa Jääskeläinen 
161fb279d8bSVesa Jääskeläinen 		if (class == PKCS11_CKO_PRIVATE_KEY)
162fb279d8bSVesa Jääskeläinen 			*tee_type = TEE_TYPE_ECDSA_KEYPAIR;
163fb279d8bSVesa Jääskeläinen 		else
164fb279d8bSVesa Jääskeläinen 			*tee_type = TEE_TYPE_ECDSA_PUBLIC_KEY;
165fb279d8bSVesa Jääskeläinen 		break;
1660442c956SVesa Jääskeläinen 	case PKCS11_CKK_RSA:
1670442c956SVesa Jääskeläinen 		if (class == PKCS11_CKO_PRIVATE_KEY)
1680442c956SVesa Jääskeläinen 			*tee_type = TEE_TYPE_RSA_KEYPAIR;
1690442c956SVesa Jääskeläinen 		else
1700442c956SVesa Jääskeläinen 			*tee_type = TEE_TYPE_RSA_PUBLIC_KEY;
1710442c956SVesa Jääskeläinen 		break;
172fb279d8bSVesa Jääskeläinen 	default:
173fb279d8bSVesa Jääskeläinen 		TEE_Panic(type);
174fb279d8bSVesa Jääskeläinen 		break;
175fb279d8bSVesa Jääskeläinen 	}
176fb279d8bSVesa Jääskeläinen 
177fb279d8bSVesa Jääskeläinen 	return PKCS11_CKR_OK;
178fb279d8bSVesa Jääskeläinen }
179fb279d8bSVesa Jääskeläinen 
180fb279d8bSVesa Jääskeläinen static enum pkcs11_rc
181fb279d8bSVesa Jääskeläinen allocate_tee_operation(struct pkcs11_session *session,
182fb279d8bSVesa Jääskeläinen 		       enum processing_func function,
183fb279d8bSVesa Jääskeläinen 		       struct pkcs11_attribute_head *params,
184fb279d8bSVesa Jääskeläinen 		       struct pkcs11_object *obj)
185fb279d8bSVesa Jääskeläinen {
186fb279d8bSVesa Jääskeläinen 	uint32_t size = (uint32_t)get_object_key_bit_size(obj);
187fb279d8bSVesa Jääskeläinen 	uint32_t algo = 0;
188fb279d8bSVesa Jääskeläinen 	uint32_t hash_algo = 0;
189fb279d8bSVesa Jääskeläinen 	uint32_t mode = 0;
190fb279d8bSVesa Jääskeläinen 	uint32_t hash_mode = 0;
191fb279d8bSVesa Jääskeläinen 	TEE_Result res = TEE_ERROR_GENERIC;
192fb279d8bSVesa Jääskeläinen 	struct active_processing *processing = session->processing;
193fb279d8bSVesa Jääskeläinen 
194fb279d8bSVesa Jääskeläinen 	assert(processing->tee_op_handle == TEE_HANDLE_NULL);
195fb279d8bSVesa Jääskeläinen 	assert(processing->tee_hash_op_handle == TEE_HANDLE_NULL);
196fb279d8bSVesa Jääskeläinen 
197fb279d8bSVesa Jääskeläinen 	if (pkcs2tee_algorithm(&algo, &hash_algo, function, params, obj))
198fb279d8bSVesa Jääskeläinen 		return PKCS11_CKR_FUNCTION_FAILED;
199fb279d8bSVesa Jääskeläinen 
200fb279d8bSVesa Jääskeläinen 	pkcs2tee_mode(&mode, function);
201fb279d8bSVesa Jääskeläinen 
202fb279d8bSVesa Jääskeläinen 	if (hash_algo) {
203fb279d8bSVesa Jääskeläinen 		pkcs2tee_mode(&hash_mode, PKCS11_FUNCTION_DIGEST);
204fb279d8bSVesa Jääskeläinen 
205fb279d8bSVesa Jääskeläinen 		res = TEE_AllocateOperation(&processing->tee_hash_op_handle,
206fb279d8bSVesa Jääskeläinen 					    hash_algo, hash_mode, 0);
207fb279d8bSVesa Jääskeläinen 		if (res) {
208fb279d8bSVesa Jääskeläinen 			EMSG("TEE_AllocateOp. failed %#"PRIx32" %#"PRIx32,
209fb279d8bSVesa Jääskeläinen 			     hash_algo, hash_mode);
210fb279d8bSVesa Jääskeläinen 
211fb279d8bSVesa Jääskeläinen 			if (res == TEE_ERROR_NOT_SUPPORTED)
212fb279d8bSVesa Jääskeläinen 				return PKCS11_CKR_MECHANISM_INVALID;
213fb279d8bSVesa Jääskeläinen 			return tee2pkcs_error(res);
214fb279d8bSVesa Jääskeläinen 		}
215fb279d8bSVesa Jääskeläinen 		processing->tee_hash_algo = hash_algo;
216fb279d8bSVesa Jääskeläinen 	}
217fb279d8bSVesa Jääskeläinen 
218fb279d8bSVesa Jääskeläinen 	res = TEE_AllocateOperation(&processing->tee_op_handle,
219fb279d8bSVesa Jääskeläinen 				    algo, mode, size);
220fb279d8bSVesa Jääskeläinen 	if (res)
221fb279d8bSVesa Jääskeläinen 		EMSG("TEE_AllocateOp. failed %#"PRIx32" %#"PRIx32" %#"PRIx32,
222fb279d8bSVesa Jääskeläinen 		     algo, mode, size);
223fb279d8bSVesa Jääskeläinen 
224fb279d8bSVesa Jääskeläinen 	if (res == TEE_ERROR_NOT_SUPPORTED)
225fb279d8bSVesa Jääskeläinen 		return PKCS11_CKR_MECHANISM_INVALID;
226fb279d8bSVesa Jääskeläinen 
227fb279d8bSVesa Jääskeläinen 	if (res != TEE_SUCCESS &&
228fb279d8bSVesa Jääskeläinen 	    processing->tee_hash_op_handle != TEE_HANDLE_NULL) {
229fb279d8bSVesa Jääskeläinen 		TEE_FreeOperation(session->processing->tee_hash_op_handle);
230fb279d8bSVesa Jääskeläinen 		processing->tee_hash_op_handle = TEE_HANDLE_NULL;
231fb279d8bSVesa Jääskeläinen 		processing->tee_hash_algo = 0;
232fb279d8bSVesa Jääskeläinen 	}
233fb279d8bSVesa Jääskeläinen 
234fb279d8bSVesa Jääskeläinen 	return tee2pkcs_error(res);
235fb279d8bSVesa Jääskeläinen }
236fb279d8bSVesa Jääskeläinen 
237fb279d8bSVesa Jääskeläinen static enum pkcs11_rc load_tee_key(struct pkcs11_session *session,
238fb279d8bSVesa Jääskeläinen 				   struct pkcs11_object *obj,
239fb279d8bSVesa Jääskeläinen 				   enum processing_func function)
240fb279d8bSVesa Jääskeläinen {
241fb279d8bSVesa Jääskeläinen 	TEE_Attribute *tee_attrs = NULL;
242fb279d8bSVesa Jääskeläinen 	size_t tee_attrs_count = 0;
243fb279d8bSVesa Jääskeläinen 	size_t object_size = 0;
244fb279d8bSVesa Jääskeläinen 	enum pkcs11_rc rc = PKCS11_CKR_GENERAL_ERROR;
245fb279d8bSVesa Jääskeläinen 	TEE_Result res = TEE_ERROR_GENERIC;
246fb279d8bSVesa Jääskeläinen 	enum pkcs11_class_id __maybe_unused class = get_class(obj->attributes);
247fb279d8bSVesa Jääskeläinen 	enum pkcs11_key_type type = get_key_type(obj->attributes);
248fb279d8bSVesa Jääskeläinen 
249fb279d8bSVesa Jääskeläinen 	assert(class == PKCS11_CKO_PUBLIC_KEY ||
250fb279d8bSVesa Jääskeläinen 	       class == PKCS11_CKO_PRIVATE_KEY);
251fb279d8bSVesa Jääskeläinen 
252fb279d8bSVesa Jääskeläinen 	if (obj->key_handle != TEE_HANDLE_NULL) {
253fb279d8bSVesa Jääskeläinen 		switch (type) {
2540442c956SVesa Jääskeläinen 		case PKCS11_CKK_RSA:
2550442c956SVesa Jääskeläinen 			/* RSA loaded keys can be reused */
2560442c956SVesa Jääskeläinen 			assert((obj->key_type == TEE_TYPE_RSA_PUBLIC_KEY &&
2570442c956SVesa Jääskeläinen 				class == PKCS11_CKO_PUBLIC_KEY) ||
2580442c956SVesa Jääskeläinen 			       (obj->key_type == TEE_TYPE_RSA_KEYPAIR &&
2590442c956SVesa Jääskeläinen 				class == PKCS11_CKO_PRIVATE_KEY));
2600442c956SVesa Jääskeläinen 			goto key_ready;
261fb279d8bSVesa Jääskeläinen 		case PKCS11_CKK_EC:
262fb279d8bSVesa Jääskeläinen 			/* Reuse EC TEE key only if already DSA or DH */
263fb279d8bSVesa Jääskeläinen 			switch (obj->key_type) {
264fb279d8bSVesa Jääskeläinen 			case TEE_TYPE_ECDSA_PUBLIC_KEY:
265fb279d8bSVesa Jääskeläinen 			case TEE_TYPE_ECDSA_KEYPAIR:
266fb279d8bSVesa Jääskeläinen 				if (function != PKCS11_FUNCTION_DERIVE)
267fb279d8bSVesa Jääskeläinen 					goto key_ready;
268fb279d8bSVesa Jääskeläinen 				break;
269fb279d8bSVesa Jääskeläinen 			default:
270fb279d8bSVesa Jääskeläinen 				assert(0);
271fb279d8bSVesa Jääskeläinen 				break;
272fb279d8bSVesa Jääskeläinen 			}
273fb279d8bSVesa Jääskeläinen 			break;
274fb279d8bSVesa Jääskeläinen 		default:
275fb279d8bSVesa Jääskeläinen 			assert(0);
276fb279d8bSVesa Jääskeläinen 			break;
277fb279d8bSVesa Jääskeläinen 		}
278fb279d8bSVesa Jääskeläinen 
279fb279d8bSVesa Jääskeläinen 		TEE_CloseObject(obj->key_handle);
280fb279d8bSVesa Jääskeläinen 		obj->key_handle = TEE_HANDLE_NULL;
281fb279d8bSVesa Jääskeläinen 	}
282fb279d8bSVesa Jääskeläinen 
283fb279d8bSVesa Jääskeläinen 	rc = pkcs2tee_key_type(&obj->key_type, obj, function);
284fb279d8bSVesa Jääskeläinen 	if (rc)
285fb279d8bSVesa Jääskeläinen 		return rc;
286fb279d8bSVesa Jääskeläinen 
287fb279d8bSVesa Jääskeläinen 	object_size = get_object_key_bit_size(obj);
288fb279d8bSVesa Jääskeläinen 	if (!object_size)
289fb279d8bSVesa Jääskeläinen 		return PKCS11_CKR_GENERAL_ERROR;
290fb279d8bSVesa Jääskeläinen 
291fb279d8bSVesa Jääskeläinen 	switch (type) {
2920442c956SVesa Jääskeläinen 	case PKCS11_CKK_RSA:
2930442c956SVesa Jääskeläinen 		rc = load_tee_rsa_key_attrs(&tee_attrs, &tee_attrs_count, obj);
2940442c956SVesa Jääskeläinen 		break;
295fb279d8bSVesa Jääskeläinen 	case PKCS11_CKK_EC:
296fb279d8bSVesa Jääskeläinen 		rc = load_tee_ec_key_attrs(&tee_attrs, &tee_attrs_count, obj);
297fb279d8bSVesa Jääskeläinen 		break;
298fb279d8bSVesa Jääskeläinen 	default:
299fb279d8bSVesa Jääskeläinen 		break;
300fb279d8bSVesa Jääskeläinen 	}
301fb279d8bSVesa Jääskeläinen 	if (rc)
302fb279d8bSVesa Jääskeläinen 		return rc;
303fb279d8bSVesa Jääskeläinen 
304fb279d8bSVesa Jääskeläinen 	res = TEE_AllocateTransientObject(obj->key_type, object_size,
305fb279d8bSVesa Jääskeläinen 					  &obj->key_handle);
306fb279d8bSVesa Jääskeläinen 	if (res) {
307fb279d8bSVesa Jääskeläinen 		DMSG("TEE_AllocateTransientObject failed, %#"PRIx32, res);
308fb279d8bSVesa Jääskeläinen 
309fb279d8bSVesa Jääskeläinen 		return tee2pkcs_error(res);
310fb279d8bSVesa Jääskeläinen 	}
311fb279d8bSVesa Jääskeläinen 
312fb279d8bSVesa Jääskeläinen 	res = TEE_PopulateTransientObject(obj->key_handle,
313fb279d8bSVesa Jääskeläinen 					  tee_attrs, tee_attrs_count);
314fb279d8bSVesa Jääskeläinen 
315fb279d8bSVesa Jääskeläinen 	TEE_Free(tee_attrs);
316fb279d8bSVesa Jääskeläinen 
317fb279d8bSVesa Jääskeläinen 	if (res) {
318fb279d8bSVesa Jääskeläinen 		DMSG("TEE_PopulateTransientObject failed, %#"PRIx32, res);
319fb279d8bSVesa Jääskeläinen 
320fb279d8bSVesa Jääskeläinen 		goto error;
321fb279d8bSVesa Jääskeläinen 	}
322fb279d8bSVesa Jääskeläinen 
323fb279d8bSVesa Jääskeläinen key_ready:
324fb279d8bSVesa Jääskeläinen 	res = TEE_SetOperationKey(session->processing->tee_op_handle,
325fb279d8bSVesa Jääskeläinen 				  obj->key_handle);
326fb279d8bSVesa Jääskeläinen 	if (res) {
327fb279d8bSVesa Jääskeläinen 		DMSG("TEE_SetOperationKey failed, %#"PRIx32, res);
328fb279d8bSVesa Jääskeläinen 
329fb279d8bSVesa Jääskeläinen 		goto error;
330fb279d8bSVesa Jääskeläinen 	}
331fb279d8bSVesa Jääskeläinen 
332fb279d8bSVesa Jääskeläinen 	return PKCS11_CKR_OK;
333fb279d8bSVesa Jääskeläinen 
334fb279d8bSVesa Jääskeläinen error:
335fb279d8bSVesa Jääskeläinen 	TEE_FreeTransientObject(obj->key_handle);
336fb279d8bSVesa Jääskeläinen 	obj->key_handle = TEE_HANDLE_NULL;
337fb279d8bSVesa Jääskeläinen 	return tee2pkcs_error(res);
338fb279d8bSVesa Jääskeläinen }
339fb279d8bSVesa Jääskeläinen 
340fb279d8bSVesa Jääskeläinen static enum pkcs11_rc
341*d9af50bcSVesa Jääskeläinen init_tee_operation(struct pkcs11_session *session,
342*d9af50bcSVesa Jääskeläinen 		   struct pkcs11_attribute_head *proc_params,
343*d9af50bcSVesa Jääskeläinen 		   struct pkcs11_object *obj)
344fb279d8bSVesa Jääskeläinen {
345*d9af50bcSVesa Jääskeläinen 	enum pkcs11_rc rc = PKCS11_CKR_OK;
346*d9af50bcSVesa Jääskeläinen 	struct active_processing *proc = session->processing;
347*d9af50bcSVesa Jääskeläinen 
348*d9af50bcSVesa Jääskeläinen 	switch (proc_params->id) {
349*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_RSA_PKCS_PSS:
350*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA1_RSA_PKCS_PSS:
351*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA224_RSA_PKCS_PSS:
352*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA256_RSA_PKCS_PSS:
353*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA384_RSA_PKCS_PSS:
354*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA512_RSA_PKCS_PSS:
355*d9af50bcSVesa Jääskeläinen 		rc = pkcs2tee_proc_params_rsa_pss(proc, proc_params);
356*d9af50bcSVesa Jääskeläinen 		if (rc)
357*d9af50bcSVesa Jääskeläinen 			break;
358*d9af50bcSVesa Jääskeläinen 
359*d9af50bcSVesa Jääskeläinen 		rc = pkcs2tee_validate_rsa_pss(proc, obj);
360*d9af50bcSVesa Jääskeläinen 		break;
361*d9af50bcSVesa Jääskeläinen 	default:
362*d9af50bcSVesa Jääskeläinen 		break;
363*d9af50bcSVesa Jääskeläinen 	}
364*d9af50bcSVesa Jääskeläinen 
365*d9af50bcSVesa Jääskeläinen 	return rc;
366fb279d8bSVesa Jääskeläinen }
367fb279d8bSVesa Jääskeläinen 
368fb279d8bSVesa Jääskeläinen enum pkcs11_rc init_asymm_operation(struct pkcs11_session *session,
369fb279d8bSVesa Jääskeläinen 				    enum processing_func function,
370fb279d8bSVesa Jääskeläinen 				    struct pkcs11_attribute_head *proc_params,
371fb279d8bSVesa Jääskeläinen 				    struct pkcs11_object *obj)
372fb279d8bSVesa Jääskeläinen {
373fb279d8bSVesa Jääskeläinen 	enum pkcs11_rc rc = PKCS11_CKR_GENERAL_ERROR;
374fb279d8bSVesa Jääskeläinen 
375fb279d8bSVesa Jääskeläinen 	assert(processing_is_tee_asymm(proc_params->id));
376fb279d8bSVesa Jääskeläinen 
377fb279d8bSVesa Jääskeläinen 	rc = allocate_tee_operation(session, function, proc_params, obj);
378fb279d8bSVesa Jääskeläinen 	if (rc)
379fb279d8bSVesa Jääskeläinen 		return rc;
380fb279d8bSVesa Jääskeläinen 
381fb279d8bSVesa Jääskeläinen 	rc = load_tee_key(session, obj, function);
382fb279d8bSVesa Jääskeläinen 	if (rc)
383fb279d8bSVesa Jääskeläinen 		return rc;
384fb279d8bSVesa Jääskeläinen 
385*d9af50bcSVesa Jääskeläinen 	return init_tee_operation(session, proc_params, obj);
386fb279d8bSVesa Jääskeläinen }
387fb279d8bSVesa Jääskeläinen 
388fb279d8bSVesa Jääskeläinen /*
389fb279d8bSVesa Jääskeläinen  * step_sym_step - step (update/oneshot/final) on a symmetric crypto operation
390fb279d8bSVesa Jääskeläinen  *
391fb279d8bSVesa Jääskeläinen  * @session - current session
392fb279d8bSVesa Jääskeläinen  * @function - processing function (encrypt, decrypt, sign, ...)
393fb279d8bSVesa Jääskeläinen  * @step - step ID in the processing (oneshot, update, final)
394fb279d8bSVesa Jääskeläinen  * @ptypes - invocation parameter types
395fb279d8bSVesa Jääskeläinen  * @params - invocation parameter references
396fb279d8bSVesa Jääskeläinen  */
397fb279d8bSVesa Jääskeläinen enum pkcs11_rc step_asymm_operation(struct pkcs11_session *session,
398fb279d8bSVesa Jääskeläinen 				    enum processing_func function,
399fb279d8bSVesa Jääskeläinen 				    enum processing_step step,
400fb279d8bSVesa Jääskeläinen 				    uint32_t ptypes, TEE_Param *params)
401fb279d8bSVesa Jääskeläinen {
402fb279d8bSVesa Jääskeläinen 	enum pkcs11_rc rc = PKCS11_CKR_GENERAL_ERROR;
403fb279d8bSVesa Jääskeläinen 	TEE_Result res = TEE_ERROR_GENERIC;
404fb279d8bSVesa Jääskeläinen 	void *in_buf = NULL;
405fb279d8bSVesa Jääskeläinen 	void *in2_buf = NULL;
406fb279d8bSVesa Jääskeläinen 	void *out_buf = NULL;
407fb279d8bSVesa Jääskeläinen 	void *hash_buf = NULL;
408fb279d8bSVesa Jääskeläinen 	uint32_t in_size = 0;
409fb279d8bSVesa Jääskeläinen 	uint32_t in2_size = 0;
410fb279d8bSVesa Jääskeläinen 	uint32_t out_size = 0;
411fb279d8bSVesa Jääskeläinen 	uint32_t hash_size = 0;
412fb279d8bSVesa Jääskeläinen 	TEE_Attribute *tee_attrs = NULL;
413fb279d8bSVesa Jääskeläinen 	size_t tee_attrs_count = 0;
414fb279d8bSVesa Jääskeläinen 	bool output_data = false;
415fb279d8bSVesa Jääskeläinen 	struct active_processing *proc = session->processing;
416*d9af50bcSVesa Jääskeläinen 	struct rsa_pss_processing_ctx *rsa_pss_ctx = NULL;
417fb279d8bSVesa Jääskeläinen 	size_t sz = 0;
418fb279d8bSVesa Jääskeläinen 
419fb279d8bSVesa Jääskeläinen 	if (TEE_PARAM_TYPE_GET(ptypes, 1) == TEE_PARAM_TYPE_MEMREF_INPUT) {
420fb279d8bSVesa Jääskeläinen 		in_buf = params[1].memref.buffer;
421fb279d8bSVesa Jääskeläinen 		in_size = params[1].memref.size;
422fb279d8bSVesa Jääskeläinen 		if (in_size && !in_buf)
423fb279d8bSVesa Jääskeläinen 			return PKCS11_CKR_ARGUMENTS_BAD;
424fb279d8bSVesa Jääskeläinen 	}
425fb279d8bSVesa Jääskeläinen 	if (TEE_PARAM_TYPE_GET(ptypes, 2) == TEE_PARAM_TYPE_MEMREF_INPUT) {
426fb279d8bSVesa Jääskeläinen 		in2_buf = params[2].memref.buffer;
427fb279d8bSVesa Jääskeläinen 		in2_size = params[2].memref.size;
428fb279d8bSVesa Jääskeläinen 		if (in2_size && !in2_buf)
429fb279d8bSVesa Jääskeläinen 			return PKCS11_CKR_ARGUMENTS_BAD;
430fb279d8bSVesa Jääskeläinen 	}
431fb279d8bSVesa Jääskeläinen 	if (TEE_PARAM_TYPE_GET(ptypes, 2) == TEE_PARAM_TYPE_MEMREF_OUTPUT) {
432fb279d8bSVesa Jääskeläinen 		out_buf = params[2].memref.buffer;
433fb279d8bSVesa Jääskeläinen 		out_size = params[2].memref.size;
434fb279d8bSVesa Jääskeläinen 		if (out_size && !out_buf)
435fb279d8bSVesa Jääskeläinen 			return PKCS11_CKR_ARGUMENTS_BAD;
436fb279d8bSVesa Jääskeläinen 	}
437fb279d8bSVesa Jääskeläinen 	if (TEE_PARAM_TYPE_GET(ptypes, 3) != TEE_PARAM_TYPE_NONE)
438fb279d8bSVesa Jääskeläinen 		return PKCS11_CKR_ARGUMENTS_BAD;
439fb279d8bSVesa Jääskeläinen 
440fb279d8bSVesa Jääskeläinen 	switch (step) {
441fb279d8bSVesa Jääskeläinen 	case PKCS11_FUNC_STEP_ONESHOT:
442fb279d8bSVesa Jääskeläinen 	case PKCS11_FUNC_STEP_UPDATE:
443fb279d8bSVesa Jääskeläinen 	case PKCS11_FUNC_STEP_FINAL:
444fb279d8bSVesa Jääskeläinen 		break;
445fb279d8bSVesa Jääskeläinen 	default:
446fb279d8bSVesa Jääskeläinen 		return PKCS11_CKR_GENERAL_ERROR;
447fb279d8bSVesa Jääskeläinen 	}
448fb279d8bSVesa Jääskeläinen 
449*d9af50bcSVesa Jääskeläinen 	/* TEE attribute(s) required by the operation */
450*d9af50bcSVesa Jääskeläinen 	switch (proc->mecha_type) {
451*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_RSA_PKCS_PSS:
452*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA1_RSA_PKCS_PSS:
453*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA224_RSA_PKCS_PSS:
454*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA256_RSA_PKCS_PSS:
455*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA384_RSA_PKCS_PSS:
456*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA512_RSA_PKCS_PSS:
457*d9af50bcSVesa Jääskeläinen 		tee_attrs = TEE_Malloc(sizeof(TEE_Attribute),
458*d9af50bcSVesa Jääskeläinen 				       TEE_USER_MEM_HINT_NO_FILL_ZERO);
459*d9af50bcSVesa Jääskeläinen 		if (!tee_attrs) {
460*d9af50bcSVesa Jääskeläinen 			rc = PKCS11_CKR_DEVICE_MEMORY;
461*d9af50bcSVesa Jääskeläinen 			goto out;
462*d9af50bcSVesa Jääskeläinen 		}
463*d9af50bcSVesa Jääskeläinen 
464*d9af50bcSVesa Jääskeläinen 		rsa_pss_ctx = proc->extra_ctx;
465*d9af50bcSVesa Jääskeläinen 
466*d9af50bcSVesa Jääskeläinen 		TEE_InitValueAttribute(&tee_attrs[tee_attrs_count],
467*d9af50bcSVesa Jääskeläinen 				       TEE_ATTR_RSA_PSS_SALT_LENGTH,
468*d9af50bcSVesa Jääskeläinen 				       rsa_pss_ctx->salt_len, 0);
469*d9af50bcSVesa Jääskeläinen 		tee_attrs_count++;
470*d9af50bcSVesa Jääskeläinen 		break;
471*d9af50bcSVesa Jääskeläinen 	default:
472*d9af50bcSVesa Jääskeläinen 		break;
473*d9af50bcSVesa Jääskeläinen 	}
474*d9af50bcSVesa Jääskeläinen 
475fb279d8bSVesa Jääskeläinen 	/*
476fb279d8bSVesa Jääskeläinen 	 * Handle multi stage update step for mechas needing hash
477fb279d8bSVesa Jääskeläinen 	 * calculation
478fb279d8bSVesa Jääskeläinen 	 */
479fb279d8bSVesa Jääskeläinen 	if (step == PKCS11_FUNC_STEP_UPDATE) {
480fb279d8bSVesa Jääskeläinen 		switch (proc->mecha_type) {
481fb279d8bSVesa Jääskeläinen 		case PKCS11_CKM_ECDSA_SHA1:
482fb279d8bSVesa Jääskeläinen 		case PKCS11_CKM_ECDSA_SHA224:
483fb279d8bSVesa Jääskeläinen 		case PKCS11_CKM_ECDSA_SHA256:
484fb279d8bSVesa Jääskeläinen 		case PKCS11_CKM_ECDSA_SHA384:
485fb279d8bSVesa Jääskeläinen 		case PKCS11_CKM_ECDSA_SHA512:
4860442c956SVesa Jääskeläinen 		case PKCS11_CKM_MD5_RSA_PKCS:
4870442c956SVesa Jääskeläinen 		case PKCS11_CKM_SHA1_RSA_PKCS:
4880442c956SVesa Jääskeläinen 		case PKCS11_CKM_SHA224_RSA_PKCS:
4890442c956SVesa Jääskeläinen 		case PKCS11_CKM_SHA256_RSA_PKCS:
4900442c956SVesa Jääskeläinen 		case PKCS11_CKM_SHA384_RSA_PKCS:
4910442c956SVesa Jääskeläinen 		case PKCS11_CKM_SHA512_RSA_PKCS:
492*d9af50bcSVesa Jääskeläinen 		case PKCS11_CKM_SHA1_RSA_PKCS_PSS:
493*d9af50bcSVesa Jääskeläinen 		case PKCS11_CKM_SHA224_RSA_PKCS_PSS:
494*d9af50bcSVesa Jääskeläinen 		case PKCS11_CKM_SHA256_RSA_PKCS_PSS:
495*d9af50bcSVesa Jääskeläinen 		case PKCS11_CKM_SHA384_RSA_PKCS_PSS:
496*d9af50bcSVesa Jääskeläinen 		case PKCS11_CKM_SHA512_RSA_PKCS_PSS:
497fb279d8bSVesa Jääskeläinen 			assert(proc->tee_hash_op_handle != TEE_HANDLE_NULL);
498fb279d8bSVesa Jääskeläinen 
499fb279d8bSVesa Jääskeläinen 			TEE_DigestUpdate(proc->tee_hash_op_handle, in_buf,
500fb279d8bSVesa Jääskeläinen 					 in_size);
501fb279d8bSVesa Jääskeläinen 			break;
502fb279d8bSVesa Jääskeläinen 		default:
503fb279d8bSVesa Jääskeläinen 			/*
504fb279d8bSVesa Jääskeläinen 			 * Other mechanism do not expect multi stage
505fb279d8bSVesa Jääskeläinen 			 * operation
506fb279d8bSVesa Jääskeläinen 			 */
507fb279d8bSVesa Jääskeläinen 			rc = PKCS11_CKR_GENERAL_ERROR;
508fb279d8bSVesa Jääskeläinen 			break;
509fb279d8bSVesa Jääskeläinen 		}
510fb279d8bSVesa Jääskeläinen 
511fb279d8bSVesa Jääskeläinen 		goto out;
512fb279d8bSVesa Jääskeläinen 	}
513fb279d8bSVesa Jääskeläinen 
514fb279d8bSVesa Jääskeläinen 	/*
515fb279d8bSVesa Jääskeläinen 	 * Handle multi stage one shot and final steps for mechas needing hash
516fb279d8bSVesa Jääskeläinen 	 * calculation
517fb279d8bSVesa Jääskeläinen 	 */
518fb279d8bSVesa Jääskeläinen 	switch (proc->mecha_type) {
519fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA1:
520fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA224:
521fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA256:
522fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA384:
523fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA512:
5240442c956SVesa Jääskeläinen 	case PKCS11_CKM_MD5_RSA_PKCS:
5250442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA1_RSA_PKCS:
5260442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA224_RSA_PKCS:
5270442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA256_RSA_PKCS:
5280442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA384_RSA_PKCS:
5290442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA512_RSA_PKCS:
530*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA1_RSA_PKCS_PSS:
531*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA224_RSA_PKCS_PSS:
532*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA256_RSA_PKCS_PSS:
533*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA384_RSA_PKCS_PSS:
534*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA512_RSA_PKCS_PSS:
535fb279d8bSVesa Jääskeläinen 		assert(proc->tee_hash_op_handle != TEE_HANDLE_NULL);
536fb279d8bSVesa Jääskeläinen 
537fb279d8bSVesa Jääskeläinen 		hash_size = TEE_ALG_GET_DIGEST_SIZE(proc->tee_hash_algo);
538fb279d8bSVesa Jääskeläinen 		hash_buf = TEE_Malloc(hash_size, 0);
539fb279d8bSVesa Jääskeläinen 		if (!hash_buf)
540fb279d8bSVesa Jääskeläinen 			return PKCS11_CKR_DEVICE_MEMORY;
541fb279d8bSVesa Jääskeläinen 
542fb279d8bSVesa Jääskeläinen 		res = TEE_DigestDoFinal(proc->tee_hash_op_handle,
543fb279d8bSVesa Jääskeläinen 					in_buf, in_size, hash_buf,
544fb279d8bSVesa Jääskeläinen 					&hash_size);
545fb279d8bSVesa Jääskeläinen 
546fb279d8bSVesa Jääskeläinen 		rc = tee2pkcs_error(res);
547fb279d8bSVesa Jääskeläinen 		if (rc != PKCS11_CKR_OK)
548fb279d8bSVesa Jääskeläinen 			goto out;
549fb279d8bSVesa Jääskeläinen 
550fb279d8bSVesa Jääskeläinen 		break;
551fb279d8bSVesa Jääskeläinen 	default:
552fb279d8bSVesa Jääskeläinen 		break;
553fb279d8bSVesa Jääskeläinen 	}
554fb279d8bSVesa Jääskeläinen 
555fb279d8bSVesa Jääskeläinen 	/*
556fb279d8bSVesa Jääskeläinen 	 * Finalize either provided hash or calculated hash with signing
557fb279d8bSVesa Jääskeläinen 	 * operation
558fb279d8bSVesa Jääskeläinen 	 */
559fb279d8bSVesa Jääskeläinen 
560fb279d8bSVesa Jääskeläinen 	/* First determine amount of bytes for signing operation */
561fb279d8bSVesa Jääskeläinen 	switch (proc->mecha_type) {
562fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA:
563fb279d8bSVesa Jääskeläinen 		sz = ecdsa_get_input_max_byte_size(proc->tee_op_handle);
564fb279d8bSVesa Jääskeläinen 		if (!in_size || !sz) {
565fb279d8bSVesa Jääskeläinen 			rc = PKCS11_CKR_FUNCTION_FAILED;
566fb279d8bSVesa Jääskeläinen 			goto out;
567fb279d8bSVesa Jääskeläinen 		}
568fb279d8bSVesa Jääskeläinen 
569fb279d8bSVesa Jääskeläinen 		/*
570fb279d8bSVesa Jääskeläinen 		 * Note 3) Input the entire raw digest. Internally, this will
571fb279d8bSVesa Jääskeläinen 		 * be truncated to the appropriate number of bits.
572fb279d8bSVesa Jääskeläinen 		 */
573fb279d8bSVesa Jääskeläinen 		if (in_size > sz)
574fb279d8bSVesa Jääskeläinen 			in_size = sz;
575fb279d8bSVesa Jääskeläinen 
576fb279d8bSVesa Jääskeläinen 		if (function == PKCS11_FUNCTION_VERIFY && in2_size != 2 * sz) {
577fb279d8bSVesa Jääskeläinen 			rc = PKCS11_CKR_SIGNATURE_LEN_RANGE;
578fb279d8bSVesa Jääskeläinen 			goto out;
579fb279d8bSVesa Jääskeläinen 		}
580fb279d8bSVesa Jääskeläinen 		break;
581fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA1:
582fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA224:
583fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA256:
584fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA384:
585fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA512:
586fb279d8bSVesa Jääskeläinen 		/* Get key size in bytes */
587fb279d8bSVesa Jääskeläinen 		sz = ecdsa_get_input_max_byte_size(proc->tee_op_handle);
588fb279d8bSVesa Jääskeläinen 		if (!sz) {
589fb279d8bSVesa Jääskeläinen 			rc = PKCS11_CKR_FUNCTION_FAILED;
590fb279d8bSVesa Jääskeläinen 			goto out;
591fb279d8bSVesa Jääskeläinen 		}
592fb279d8bSVesa Jääskeläinen 
593fb279d8bSVesa Jääskeläinen 		if (function == PKCS11_FUNCTION_VERIFY &&
594fb279d8bSVesa Jääskeläinen 		    in2_size != 2 * sz) {
595fb279d8bSVesa Jääskeläinen 			rc = PKCS11_CKR_SIGNATURE_LEN_RANGE;
596fb279d8bSVesa Jääskeläinen 			goto out;
597fb279d8bSVesa Jääskeläinen 		}
598fb279d8bSVesa Jääskeläinen 		break;
5990442c956SVesa Jääskeläinen 	case PKCS11_CKM_RSA_PKCS:
6000442c956SVesa Jääskeläinen 	case PKCS11_CKM_MD5_RSA_PKCS:
6010442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA1_RSA_PKCS:
6020442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA224_RSA_PKCS:
6030442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA256_RSA_PKCS:
6040442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA384_RSA_PKCS:
6050442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA512_RSA_PKCS:
606*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_RSA_PKCS_PSS:
607*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA1_RSA_PKCS_PSS:
608*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA224_RSA_PKCS_PSS:
609*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA256_RSA_PKCS_PSS:
610*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA384_RSA_PKCS_PSS:
611*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA512_RSA_PKCS_PSS:
6120442c956SVesa Jääskeläinen 		/* Get key size in bytes */
6130442c956SVesa Jääskeläinen 		sz = rsa_get_input_max_byte_size(proc->tee_op_handle);
6140442c956SVesa Jääskeläinen 		if (!sz) {
6150442c956SVesa Jääskeläinen 			rc = PKCS11_CKR_FUNCTION_FAILED;
6160442c956SVesa Jääskeläinen 			goto out;
6170442c956SVesa Jääskeläinen 		}
6180442c956SVesa Jääskeläinen 
6190442c956SVesa Jääskeläinen 		if (function == PKCS11_FUNCTION_VERIFY && in2_size != sz) {
6200442c956SVesa Jääskeläinen 			rc = PKCS11_CKR_SIGNATURE_LEN_RANGE;
6210442c956SVesa Jääskeläinen 			goto out;
6220442c956SVesa Jääskeläinen 		}
6230442c956SVesa Jääskeläinen 		break;
624fb279d8bSVesa Jääskeläinen 	default:
625fb279d8bSVesa Jääskeläinen 		break;
626fb279d8bSVesa Jääskeläinen 	}
627fb279d8bSVesa Jääskeläinen 
628fb279d8bSVesa Jääskeläinen 	/* Next perform actual signing operation */
629fb279d8bSVesa Jääskeläinen 	switch (proc->mecha_type) {
630fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA:
6310442c956SVesa Jääskeläinen 	case PKCS11_CKM_RSA_PKCS:
632*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_RSA_PKCS_PSS:
633fb279d8bSVesa Jääskeläinen 		/* For operations using provided input data */
634fb279d8bSVesa Jääskeläinen 		switch (function) {
635fb279d8bSVesa Jääskeläinen 		case PKCS11_FUNCTION_ENCRYPT:
636fb279d8bSVesa Jääskeläinen 			res = TEE_AsymmetricEncrypt(proc->tee_op_handle,
637fb279d8bSVesa Jääskeläinen 						    tee_attrs, tee_attrs_count,
638fb279d8bSVesa Jääskeläinen 						    in_buf, in_size,
639fb279d8bSVesa Jääskeläinen 						    out_buf, &out_size);
640fb279d8bSVesa Jääskeläinen 			output_data = true;
641fb279d8bSVesa Jääskeläinen 			rc = tee2pkcs_error(res);
642fb279d8bSVesa Jääskeläinen 			break;
643fb279d8bSVesa Jääskeläinen 
644fb279d8bSVesa Jääskeläinen 		case PKCS11_FUNCTION_DECRYPT:
645fb279d8bSVesa Jääskeläinen 			res = TEE_AsymmetricDecrypt(proc->tee_op_handle,
646fb279d8bSVesa Jääskeläinen 						    tee_attrs, tee_attrs_count,
647fb279d8bSVesa Jääskeläinen 						    in_buf, in_size,
648fb279d8bSVesa Jääskeläinen 						    out_buf, &out_size);
649fb279d8bSVesa Jääskeläinen 			output_data = true;
650fb279d8bSVesa Jääskeläinen 			rc = tee2pkcs_error(res);
651fb279d8bSVesa Jääskeläinen 			break;
652fb279d8bSVesa Jääskeläinen 
653fb279d8bSVesa Jääskeläinen 		case PKCS11_FUNCTION_SIGN:
654fb279d8bSVesa Jääskeläinen 			res = TEE_AsymmetricSignDigest(proc->tee_op_handle,
655fb279d8bSVesa Jääskeläinen 						       tee_attrs,
656fb279d8bSVesa Jääskeläinen 						       tee_attrs_count,
657fb279d8bSVesa Jääskeläinen 						       in_buf, in_size,
658fb279d8bSVesa Jääskeläinen 						       out_buf, &out_size);
659fb279d8bSVesa Jääskeläinen 			output_data = true;
660fb279d8bSVesa Jääskeläinen 			rc = tee2pkcs_error(res);
661fb279d8bSVesa Jääskeläinen 			break;
662fb279d8bSVesa Jääskeläinen 
663fb279d8bSVesa Jääskeläinen 		case PKCS11_FUNCTION_VERIFY:
664fb279d8bSVesa Jääskeläinen 			res = TEE_AsymmetricVerifyDigest(proc->tee_op_handle,
665fb279d8bSVesa Jääskeläinen 							 tee_attrs,
666fb279d8bSVesa Jääskeläinen 							 tee_attrs_count,
667fb279d8bSVesa Jääskeläinen 							 in_buf, in_size,
668fb279d8bSVesa Jääskeläinen 							 in2_buf, in2_size);
669fb279d8bSVesa Jääskeläinen 			rc = tee2pkcs_error(res);
670fb279d8bSVesa Jääskeläinen 			break;
671fb279d8bSVesa Jääskeläinen 
672fb279d8bSVesa Jääskeläinen 		default:
673fb279d8bSVesa Jääskeläinen 			TEE_Panic(function);
674fb279d8bSVesa Jääskeläinen 			break;
675fb279d8bSVesa Jääskeläinen 		}
676fb279d8bSVesa Jääskeläinen 		break;
677fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA1:
678fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA224:
679fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA256:
680fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA384:
681fb279d8bSVesa Jääskeläinen 	case PKCS11_CKM_ECDSA_SHA512:
6820442c956SVesa Jääskeläinen 	case PKCS11_CKM_MD5_RSA_PKCS:
6830442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA1_RSA_PKCS:
6840442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA224_RSA_PKCS:
6850442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA256_RSA_PKCS:
6860442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA384_RSA_PKCS:
6870442c956SVesa Jääskeläinen 	case PKCS11_CKM_SHA512_RSA_PKCS:
688*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA1_RSA_PKCS_PSS:
689*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA224_RSA_PKCS_PSS:
690*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA256_RSA_PKCS_PSS:
691*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA384_RSA_PKCS_PSS:
692*d9af50bcSVesa Jääskeläinen 	case PKCS11_CKM_SHA512_RSA_PKCS_PSS:
693fb279d8bSVesa Jääskeläinen 		/* For operations having hash operation use calculated hash */
694fb279d8bSVesa Jääskeläinen 		switch (function) {
695fb279d8bSVesa Jääskeläinen 		case PKCS11_FUNCTION_SIGN:
696fb279d8bSVesa Jääskeläinen 			res = TEE_AsymmetricSignDigest(proc->tee_op_handle,
697fb279d8bSVesa Jääskeläinen 						       tee_attrs,
698fb279d8bSVesa Jääskeläinen 						       tee_attrs_count,
699fb279d8bSVesa Jääskeläinen 						       hash_buf, hash_size,
700fb279d8bSVesa Jääskeläinen 						       out_buf, &out_size);
701fb279d8bSVesa Jääskeläinen 			output_data = true;
702fb279d8bSVesa Jääskeläinen 			rc = tee2pkcs_error(res);
703fb279d8bSVesa Jääskeläinen 			break;
704fb279d8bSVesa Jääskeläinen 
705fb279d8bSVesa Jääskeläinen 		case PKCS11_FUNCTION_VERIFY:
706fb279d8bSVesa Jääskeläinen 			res = TEE_AsymmetricVerifyDigest(proc->tee_op_handle,
707fb279d8bSVesa Jääskeläinen 							 tee_attrs,
708fb279d8bSVesa Jääskeläinen 							 tee_attrs_count,
709fb279d8bSVesa Jääskeläinen 							 hash_buf, hash_size,
710fb279d8bSVesa Jääskeläinen 							 in2_buf, in2_size);
711fb279d8bSVesa Jääskeläinen 			rc = tee2pkcs_error(res);
712fb279d8bSVesa Jääskeläinen 			break;
713fb279d8bSVesa Jääskeläinen 
714fb279d8bSVesa Jääskeläinen 		default:
715fb279d8bSVesa Jääskeläinen 			TEE_Panic(function);
716fb279d8bSVesa Jääskeläinen 			break;
717fb279d8bSVesa Jääskeläinen 		}
718fb279d8bSVesa Jääskeläinen 		break;
719fb279d8bSVesa Jääskeläinen 	default:
720fb279d8bSVesa Jääskeläinen 		TEE_Panic(proc->mecha_type);
721fb279d8bSVesa Jääskeläinen 		break;
722fb279d8bSVesa Jääskeläinen 	}
723fb279d8bSVesa Jääskeläinen 
724fb279d8bSVesa Jääskeläinen out:
725fb279d8bSVesa Jääskeläinen 	if (output_data &&
726fb279d8bSVesa Jääskeläinen 	    (rc == PKCS11_CKR_OK || rc == PKCS11_CKR_BUFFER_TOO_SMALL)) {
727fb279d8bSVesa Jääskeläinen 		switch (TEE_PARAM_TYPE_GET(ptypes, 2)) {
728fb279d8bSVesa Jääskeläinen 		case TEE_PARAM_TYPE_MEMREF_OUTPUT:
729fb279d8bSVesa Jääskeläinen 		case TEE_PARAM_TYPE_MEMREF_INOUT:
730fb279d8bSVesa Jääskeläinen 			params[2].memref.size = out_size;
731fb279d8bSVesa Jääskeläinen 			break;
732fb279d8bSVesa Jääskeläinen 		default:
733fb279d8bSVesa Jääskeläinen 			rc = PKCS11_CKR_GENERAL_ERROR;
734fb279d8bSVesa Jääskeläinen 			break;
735fb279d8bSVesa Jääskeläinen 		}
736fb279d8bSVesa Jääskeläinen 	}
737fb279d8bSVesa Jääskeläinen 
738fb279d8bSVesa Jääskeläinen 	TEE_Free(hash_buf);
739fb279d8bSVesa Jääskeläinen 	TEE_Free(tee_attrs);
740fb279d8bSVesa Jääskeläinen 
741fb279d8bSVesa Jääskeläinen 	return rc;
742fb279d8bSVesa Jääskeläinen }
743