xref: /OK3568_Linux_fs/kernel/drivers/crypto/ccp/ccp-crypto-rsa.c (revision 4882a59341e53eb6f0b4789bf948001014eff981)
1*4882a593Smuzhiyun // SPDX-License-Identifier: GPL-2.0-only
2*4882a593Smuzhiyun /*
3*4882a593Smuzhiyun  * AMD Cryptographic Coprocessor (CCP) RSA crypto API support
4*4882a593Smuzhiyun  *
5*4882a593Smuzhiyun  * Copyright (C) 2017 Advanced Micro Devices, Inc.
6*4882a593Smuzhiyun  *
7*4882a593Smuzhiyun  * Author: Gary R Hook <gary.hook@amd.com>
8*4882a593Smuzhiyun  */
9*4882a593Smuzhiyun 
10*4882a593Smuzhiyun #include <linux/module.h>
11*4882a593Smuzhiyun #include <linux/sched.h>
12*4882a593Smuzhiyun #include <linux/scatterlist.h>
13*4882a593Smuzhiyun #include <linux/crypto.h>
14*4882a593Smuzhiyun #include <crypto/algapi.h>
15*4882a593Smuzhiyun #include <crypto/internal/rsa.h>
16*4882a593Smuzhiyun #include <crypto/internal/akcipher.h>
17*4882a593Smuzhiyun #include <crypto/akcipher.h>
18*4882a593Smuzhiyun #include <crypto/scatterwalk.h>
19*4882a593Smuzhiyun 
20*4882a593Smuzhiyun #include "ccp-crypto.h"
21*4882a593Smuzhiyun 
akcipher_request_cast(struct crypto_async_request * req)22*4882a593Smuzhiyun static inline struct akcipher_request *akcipher_request_cast(
23*4882a593Smuzhiyun 	struct crypto_async_request *req)
24*4882a593Smuzhiyun {
25*4882a593Smuzhiyun 	return container_of(req, struct akcipher_request, base);
26*4882a593Smuzhiyun }
27*4882a593Smuzhiyun 
ccp_copy_and_save_keypart(u8 ** kpbuf,unsigned int * kplen,const u8 * buf,size_t sz)28*4882a593Smuzhiyun static inline int ccp_copy_and_save_keypart(u8 **kpbuf, unsigned int *kplen,
29*4882a593Smuzhiyun 					    const u8 *buf, size_t sz)
30*4882a593Smuzhiyun {
31*4882a593Smuzhiyun 	int nskip;
32*4882a593Smuzhiyun 
33*4882a593Smuzhiyun 	for (nskip = 0; nskip < sz; nskip++)
34*4882a593Smuzhiyun 		if (buf[nskip])
35*4882a593Smuzhiyun 			break;
36*4882a593Smuzhiyun 	*kplen = sz - nskip;
37*4882a593Smuzhiyun 	*kpbuf = kmemdup(buf + nskip, *kplen, GFP_KERNEL);
38*4882a593Smuzhiyun 	if (!*kpbuf)
39*4882a593Smuzhiyun 		return -ENOMEM;
40*4882a593Smuzhiyun 
41*4882a593Smuzhiyun 	return 0;
42*4882a593Smuzhiyun }
43*4882a593Smuzhiyun 
ccp_rsa_complete(struct crypto_async_request * async_req,int ret)44*4882a593Smuzhiyun static int ccp_rsa_complete(struct crypto_async_request *async_req, int ret)
45*4882a593Smuzhiyun {
46*4882a593Smuzhiyun 	struct akcipher_request *req = akcipher_request_cast(async_req);
47*4882a593Smuzhiyun 	struct ccp_rsa_req_ctx *rctx = akcipher_request_ctx(req);
48*4882a593Smuzhiyun 
49*4882a593Smuzhiyun 	if (ret)
50*4882a593Smuzhiyun 		return ret;
51*4882a593Smuzhiyun 
52*4882a593Smuzhiyun 	req->dst_len = rctx->cmd.u.rsa.key_size >> 3;
53*4882a593Smuzhiyun 
54*4882a593Smuzhiyun 	return 0;
55*4882a593Smuzhiyun }
56*4882a593Smuzhiyun 
ccp_rsa_maxsize(struct crypto_akcipher * tfm)57*4882a593Smuzhiyun static unsigned int ccp_rsa_maxsize(struct crypto_akcipher *tfm)
58*4882a593Smuzhiyun {
59*4882a593Smuzhiyun 	struct ccp_ctx *ctx = akcipher_tfm_ctx(tfm);
60*4882a593Smuzhiyun 
61*4882a593Smuzhiyun 	return ctx->u.rsa.n_len;
62*4882a593Smuzhiyun }
63*4882a593Smuzhiyun 
ccp_rsa_crypt(struct akcipher_request * req,bool encrypt)64*4882a593Smuzhiyun static int ccp_rsa_crypt(struct akcipher_request *req, bool encrypt)
65*4882a593Smuzhiyun {
66*4882a593Smuzhiyun 	struct crypto_akcipher *tfm = crypto_akcipher_reqtfm(req);
67*4882a593Smuzhiyun 	struct ccp_ctx *ctx = akcipher_tfm_ctx(tfm);
68*4882a593Smuzhiyun 	struct ccp_rsa_req_ctx *rctx = akcipher_request_ctx(req);
69*4882a593Smuzhiyun 	int ret = 0;
70*4882a593Smuzhiyun 
71*4882a593Smuzhiyun 	memset(&rctx->cmd, 0, sizeof(rctx->cmd));
72*4882a593Smuzhiyun 	INIT_LIST_HEAD(&rctx->cmd.entry);
73*4882a593Smuzhiyun 	rctx->cmd.engine = CCP_ENGINE_RSA;
74*4882a593Smuzhiyun 
75*4882a593Smuzhiyun 	rctx->cmd.u.rsa.key_size = ctx->u.rsa.key_len; /* in bits */
76*4882a593Smuzhiyun 	if (encrypt) {
77*4882a593Smuzhiyun 		rctx->cmd.u.rsa.exp = &ctx->u.rsa.e_sg;
78*4882a593Smuzhiyun 		rctx->cmd.u.rsa.exp_len = ctx->u.rsa.e_len;
79*4882a593Smuzhiyun 	} else {
80*4882a593Smuzhiyun 		rctx->cmd.u.rsa.exp = &ctx->u.rsa.d_sg;
81*4882a593Smuzhiyun 		rctx->cmd.u.rsa.exp_len = ctx->u.rsa.d_len;
82*4882a593Smuzhiyun 	}
83*4882a593Smuzhiyun 	rctx->cmd.u.rsa.mod = &ctx->u.rsa.n_sg;
84*4882a593Smuzhiyun 	rctx->cmd.u.rsa.mod_len = ctx->u.rsa.n_len;
85*4882a593Smuzhiyun 	rctx->cmd.u.rsa.src = req->src;
86*4882a593Smuzhiyun 	rctx->cmd.u.rsa.src_len = req->src_len;
87*4882a593Smuzhiyun 	rctx->cmd.u.rsa.dst = req->dst;
88*4882a593Smuzhiyun 
89*4882a593Smuzhiyun 	ret = ccp_crypto_enqueue_request(&req->base, &rctx->cmd);
90*4882a593Smuzhiyun 
91*4882a593Smuzhiyun 	return ret;
92*4882a593Smuzhiyun }
93*4882a593Smuzhiyun 
ccp_rsa_encrypt(struct akcipher_request * req)94*4882a593Smuzhiyun static int ccp_rsa_encrypt(struct akcipher_request *req)
95*4882a593Smuzhiyun {
96*4882a593Smuzhiyun 	return ccp_rsa_crypt(req, true);
97*4882a593Smuzhiyun }
98*4882a593Smuzhiyun 
ccp_rsa_decrypt(struct akcipher_request * req)99*4882a593Smuzhiyun static int ccp_rsa_decrypt(struct akcipher_request *req)
100*4882a593Smuzhiyun {
101*4882a593Smuzhiyun 	return ccp_rsa_crypt(req, false);
102*4882a593Smuzhiyun }
103*4882a593Smuzhiyun 
ccp_check_key_length(unsigned int len)104*4882a593Smuzhiyun static int ccp_check_key_length(unsigned int len)
105*4882a593Smuzhiyun {
106*4882a593Smuzhiyun 	/* In bits */
107*4882a593Smuzhiyun 	if (len < 8 || len > 4096)
108*4882a593Smuzhiyun 		return -EINVAL;
109*4882a593Smuzhiyun 	return 0;
110*4882a593Smuzhiyun }
111*4882a593Smuzhiyun 
ccp_rsa_free_key_bufs(struct ccp_ctx * ctx)112*4882a593Smuzhiyun static void ccp_rsa_free_key_bufs(struct ccp_ctx *ctx)
113*4882a593Smuzhiyun {
114*4882a593Smuzhiyun 	/* Clean up old key data */
115*4882a593Smuzhiyun 	kfree_sensitive(ctx->u.rsa.e_buf);
116*4882a593Smuzhiyun 	ctx->u.rsa.e_buf = NULL;
117*4882a593Smuzhiyun 	ctx->u.rsa.e_len = 0;
118*4882a593Smuzhiyun 	kfree_sensitive(ctx->u.rsa.n_buf);
119*4882a593Smuzhiyun 	ctx->u.rsa.n_buf = NULL;
120*4882a593Smuzhiyun 	ctx->u.rsa.n_len = 0;
121*4882a593Smuzhiyun 	kfree_sensitive(ctx->u.rsa.d_buf);
122*4882a593Smuzhiyun 	ctx->u.rsa.d_buf = NULL;
123*4882a593Smuzhiyun 	ctx->u.rsa.d_len = 0;
124*4882a593Smuzhiyun }
125*4882a593Smuzhiyun 
ccp_rsa_setkey(struct crypto_akcipher * tfm,const void * key,unsigned int keylen,bool private)126*4882a593Smuzhiyun static int ccp_rsa_setkey(struct crypto_akcipher *tfm, const void *key,
127*4882a593Smuzhiyun 			  unsigned int keylen, bool private)
128*4882a593Smuzhiyun {
129*4882a593Smuzhiyun 	struct ccp_ctx *ctx = akcipher_tfm_ctx(tfm);
130*4882a593Smuzhiyun 	struct rsa_key raw_key;
131*4882a593Smuzhiyun 	int ret;
132*4882a593Smuzhiyun 
133*4882a593Smuzhiyun 	ccp_rsa_free_key_bufs(ctx);
134*4882a593Smuzhiyun 	memset(&raw_key, 0, sizeof(raw_key));
135*4882a593Smuzhiyun 
136*4882a593Smuzhiyun 	/* Code borrowed from crypto/rsa.c */
137*4882a593Smuzhiyun 	if (private)
138*4882a593Smuzhiyun 		ret = rsa_parse_priv_key(&raw_key, key, keylen);
139*4882a593Smuzhiyun 	else
140*4882a593Smuzhiyun 		ret = rsa_parse_pub_key(&raw_key, key, keylen);
141*4882a593Smuzhiyun 	if (ret)
142*4882a593Smuzhiyun 		goto n_key;
143*4882a593Smuzhiyun 
144*4882a593Smuzhiyun 	ret = ccp_copy_and_save_keypart(&ctx->u.rsa.n_buf, &ctx->u.rsa.n_len,
145*4882a593Smuzhiyun 					raw_key.n, raw_key.n_sz);
146*4882a593Smuzhiyun 	if (ret)
147*4882a593Smuzhiyun 		goto key_err;
148*4882a593Smuzhiyun 	sg_init_one(&ctx->u.rsa.n_sg, ctx->u.rsa.n_buf, ctx->u.rsa.n_len);
149*4882a593Smuzhiyun 
150*4882a593Smuzhiyun 	ctx->u.rsa.key_len = ctx->u.rsa.n_len << 3; /* convert to bits */
151*4882a593Smuzhiyun 	if (ccp_check_key_length(ctx->u.rsa.key_len)) {
152*4882a593Smuzhiyun 		ret = -EINVAL;
153*4882a593Smuzhiyun 		goto key_err;
154*4882a593Smuzhiyun 	}
155*4882a593Smuzhiyun 
156*4882a593Smuzhiyun 	ret = ccp_copy_and_save_keypart(&ctx->u.rsa.e_buf, &ctx->u.rsa.e_len,
157*4882a593Smuzhiyun 					raw_key.e, raw_key.e_sz);
158*4882a593Smuzhiyun 	if (ret)
159*4882a593Smuzhiyun 		goto key_err;
160*4882a593Smuzhiyun 	sg_init_one(&ctx->u.rsa.e_sg, ctx->u.rsa.e_buf, ctx->u.rsa.e_len);
161*4882a593Smuzhiyun 
162*4882a593Smuzhiyun 	if (private) {
163*4882a593Smuzhiyun 		ret = ccp_copy_and_save_keypart(&ctx->u.rsa.d_buf,
164*4882a593Smuzhiyun 						&ctx->u.rsa.d_len,
165*4882a593Smuzhiyun 						raw_key.d, raw_key.d_sz);
166*4882a593Smuzhiyun 		if (ret)
167*4882a593Smuzhiyun 			goto key_err;
168*4882a593Smuzhiyun 		sg_init_one(&ctx->u.rsa.d_sg,
169*4882a593Smuzhiyun 			    ctx->u.rsa.d_buf, ctx->u.rsa.d_len);
170*4882a593Smuzhiyun 	}
171*4882a593Smuzhiyun 
172*4882a593Smuzhiyun 	return 0;
173*4882a593Smuzhiyun 
174*4882a593Smuzhiyun key_err:
175*4882a593Smuzhiyun 	ccp_rsa_free_key_bufs(ctx);
176*4882a593Smuzhiyun 
177*4882a593Smuzhiyun n_key:
178*4882a593Smuzhiyun 	return ret;
179*4882a593Smuzhiyun }
180*4882a593Smuzhiyun 
ccp_rsa_setprivkey(struct crypto_akcipher * tfm,const void * key,unsigned int keylen)181*4882a593Smuzhiyun static int ccp_rsa_setprivkey(struct crypto_akcipher *tfm, const void *key,
182*4882a593Smuzhiyun 			      unsigned int keylen)
183*4882a593Smuzhiyun {
184*4882a593Smuzhiyun 	return ccp_rsa_setkey(tfm, key, keylen, true);
185*4882a593Smuzhiyun }
186*4882a593Smuzhiyun 
ccp_rsa_setpubkey(struct crypto_akcipher * tfm,const void * key,unsigned int keylen)187*4882a593Smuzhiyun static int ccp_rsa_setpubkey(struct crypto_akcipher *tfm, const void *key,
188*4882a593Smuzhiyun 			     unsigned int keylen)
189*4882a593Smuzhiyun {
190*4882a593Smuzhiyun 	return ccp_rsa_setkey(tfm, key, keylen, false);
191*4882a593Smuzhiyun }
192*4882a593Smuzhiyun 
ccp_rsa_init_tfm(struct crypto_akcipher * tfm)193*4882a593Smuzhiyun static int ccp_rsa_init_tfm(struct crypto_akcipher *tfm)
194*4882a593Smuzhiyun {
195*4882a593Smuzhiyun 	struct ccp_ctx *ctx = akcipher_tfm_ctx(tfm);
196*4882a593Smuzhiyun 
197*4882a593Smuzhiyun 	akcipher_set_reqsize(tfm, sizeof(struct ccp_rsa_req_ctx));
198*4882a593Smuzhiyun 	ctx->complete = ccp_rsa_complete;
199*4882a593Smuzhiyun 
200*4882a593Smuzhiyun 	return 0;
201*4882a593Smuzhiyun }
202*4882a593Smuzhiyun 
ccp_rsa_exit_tfm(struct crypto_akcipher * tfm)203*4882a593Smuzhiyun static void ccp_rsa_exit_tfm(struct crypto_akcipher *tfm)
204*4882a593Smuzhiyun {
205*4882a593Smuzhiyun 	struct ccp_ctx *ctx = crypto_tfm_ctx(&tfm->base);
206*4882a593Smuzhiyun 
207*4882a593Smuzhiyun 	ccp_rsa_free_key_bufs(ctx);
208*4882a593Smuzhiyun }
209*4882a593Smuzhiyun 
210*4882a593Smuzhiyun static struct akcipher_alg ccp_rsa_defaults = {
211*4882a593Smuzhiyun 	.encrypt = ccp_rsa_encrypt,
212*4882a593Smuzhiyun 	.decrypt = ccp_rsa_decrypt,
213*4882a593Smuzhiyun 	.set_pub_key = ccp_rsa_setpubkey,
214*4882a593Smuzhiyun 	.set_priv_key = ccp_rsa_setprivkey,
215*4882a593Smuzhiyun 	.max_size = ccp_rsa_maxsize,
216*4882a593Smuzhiyun 	.init = ccp_rsa_init_tfm,
217*4882a593Smuzhiyun 	.exit = ccp_rsa_exit_tfm,
218*4882a593Smuzhiyun 	.base = {
219*4882a593Smuzhiyun 		.cra_name = "rsa",
220*4882a593Smuzhiyun 		.cra_driver_name = "rsa-ccp",
221*4882a593Smuzhiyun 		.cra_priority = CCP_CRA_PRIORITY,
222*4882a593Smuzhiyun 		.cra_module = THIS_MODULE,
223*4882a593Smuzhiyun 		.cra_ctxsize = 2 * sizeof(struct ccp_ctx),
224*4882a593Smuzhiyun 	},
225*4882a593Smuzhiyun };
226*4882a593Smuzhiyun 
227*4882a593Smuzhiyun struct ccp_rsa_def {
228*4882a593Smuzhiyun 	unsigned int version;
229*4882a593Smuzhiyun 	const char *name;
230*4882a593Smuzhiyun 	const char *driver_name;
231*4882a593Smuzhiyun 	unsigned int reqsize;
232*4882a593Smuzhiyun 	struct akcipher_alg *alg_defaults;
233*4882a593Smuzhiyun };
234*4882a593Smuzhiyun 
235*4882a593Smuzhiyun static struct ccp_rsa_def rsa_algs[] = {
236*4882a593Smuzhiyun 	{
237*4882a593Smuzhiyun 		.version	= CCP_VERSION(3, 0),
238*4882a593Smuzhiyun 		.name		= "rsa",
239*4882a593Smuzhiyun 		.driver_name	= "rsa-ccp",
240*4882a593Smuzhiyun 		.reqsize	= sizeof(struct ccp_rsa_req_ctx),
241*4882a593Smuzhiyun 		.alg_defaults	= &ccp_rsa_defaults,
242*4882a593Smuzhiyun 	}
243*4882a593Smuzhiyun };
244*4882a593Smuzhiyun 
ccp_register_rsa_alg(struct list_head * head,const struct ccp_rsa_def * def)245*4882a593Smuzhiyun static int ccp_register_rsa_alg(struct list_head *head,
246*4882a593Smuzhiyun 			        const struct ccp_rsa_def *def)
247*4882a593Smuzhiyun {
248*4882a593Smuzhiyun 	struct ccp_crypto_akcipher_alg *ccp_alg;
249*4882a593Smuzhiyun 	struct akcipher_alg *alg;
250*4882a593Smuzhiyun 	int ret;
251*4882a593Smuzhiyun 
252*4882a593Smuzhiyun 	ccp_alg = kzalloc(sizeof(*ccp_alg), GFP_KERNEL);
253*4882a593Smuzhiyun 	if (!ccp_alg)
254*4882a593Smuzhiyun 		return -ENOMEM;
255*4882a593Smuzhiyun 
256*4882a593Smuzhiyun 	INIT_LIST_HEAD(&ccp_alg->entry);
257*4882a593Smuzhiyun 
258*4882a593Smuzhiyun 	alg = &ccp_alg->alg;
259*4882a593Smuzhiyun 	*alg = *def->alg_defaults;
260*4882a593Smuzhiyun 	snprintf(alg->base.cra_name, CRYPTO_MAX_ALG_NAME, "%s", def->name);
261*4882a593Smuzhiyun 	snprintf(alg->base.cra_driver_name, CRYPTO_MAX_ALG_NAME, "%s",
262*4882a593Smuzhiyun 		 def->driver_name);
263*4882a593Smuzhiyun 	ret = crypto_register_akcipher(alg);
264*4882a593Smuzhiyun 	if (ret) {
265*4882a593Smuzhiyun 		pr_err("%s akcipher algorithm registration error (%d)\n",
266*4882a593Smuzhiyun 		       alg->base.cra_name, ret);
267*4882a593Smuzhiyun 		kfree(ccp_alg);
268*4882a593Smuzhiyun 		return ret;
269*4882a593Smuzhiyun 	}
270*4882a593Smuzhiyun 
271*4882a593Smuzhiyun 	list_add(&ccp_alg->entry, head);
272*4882a593Smuzhiyun 
273*4882a593Smuzhiyun 	return 0;
274*4882a593Smuzhiyun }
275*4882a593Smuzhiyun 
ccp_register_rsa_algs(struct list_head * head)276*4882a593Smuzhiyun int ccp_register_rsa_algs(struct list_head *head)
277*4882a593Smuzhiyun {
278*4882a593Smuzhiyun 	int i, ret;
279*4882a593Smuzhiyun 	unsigned int ccpversion = ccp_version();
280*4882a593Smuzhiyun 
281*4882a593Smuzhiyun 	/* Register the RSA algorithm in standard mode
282*4882a593Smuzhiyun 	 * This works for CCP v3 and later
283*4882a593Smuzhiyun 	 */
284*4882a593Smuzhiyun 	for (i = 0; i < ARRAY_SIZE(rsa_algs); i++) {
285*4882a593Smuzhiyun 		if (rsa_algs[i].version > ccpversion)
286*4882a593Smuzhiyun 			continue;
287*4882a593Smuzhiyun 		ret = ccp_register_rsa_alg(head, &rsa_algs[i]);
288*4882a593Smuzhiyun 		if (ret)
289*4882a593Smuzhiyun 			return ret;
290*4882a593Smuzhiyun 	}
291*4882a593Smuzhiyun 
292*4882a593Smuzhiyun 	return 0;
293*4882a593Smuzhiyun }
294