1## RK356X/RK3588/RV1103/RV1106 RKNN SDK 1.4.0 2 3### 主要修改 4 5#### RKNN Compiler & Runtime v1.4.0: 6- 新增权重压缩功能支持;(RK3588/RV1106),减少内存消耗 7- RK3588新增sram功能支持,减少系统DDR负载 8- RK3588新增单batch多核支持; 9- 新增NPU直接输出NHWC layout的支持; 10- 新增Reshape、Transpose、MatMul、 Max、Min、exGelu、exSoftmax13等op部分shape下的npu支持; 11- 新增rknn_api weight 权重共享的功能; 12- 完善对非4维输入支持 13 14#### RKNN-Toolkit2 1.4.0 15 16- 更新对 pytorch 1.10.2 版本的支持 17- 更新对 tensorflow 2.6.2 版本的支持 18- 升级相关依赖包到主流版本 (如onnx==1.9.0, onnxruntime==1.10.0等) 19- 添加对 If / SplitToSequence / SequenceAt / Gelu / HardSwish / group_norm 等OP的支持 20- 添加 2/3 维 OP 的支持 21- 添加 config.remove_weight 的功能(用于 runtime 共享 weight 权重) 22- 更新 onnx_optimzie 接口功能,支持导入自定义量化参数 23- 优化 simulator 的内存占用,降低转换/推理模型的内存消耗,并提高其性能 24 25### 版本号查询 26 27- librknnrt runtime版本:1.4.0(strings librknnrt.so | grep version | grep lib) 28- rknpu driver版本:0.8.2(dmesg | grep rknpu) 29 30### 其他说明 31 32- rknn-toolkit适用RV1109/RV1126/RK1808/RK3399Pro,rknn-toolkit2适用RK356X/RK3588/RV1103/RV1106 33- rknn-toolkit2与rknn-toolkit API接口基本保持一致,用户不需要太多修改(rknn.config()部分参数有删减) 34- rknpu2需要与rknn-toolkit2同步升级到1.4.0的版本。之前客户使用rknn toolkit2 1.3.0版本生成的rknn模型建议重新生成 35- rknn api里面部分demo依赖MPI MMZ/RGA,使用时,需要和系统中相应的库匹配 36- 本次发布也支持RV1103/RV1106 37 38