1## 连板调试简介 2RKNN Toolkit2的连板功能一般需要更新板端的 rknn_server 和 librknnrt.so/librknnmrt.so，并且手动启动 rknn_server 才能正常工作。 3rknn_server: 是一个运行在板子上的后台代理服务，用于接收PC通过USB传输过来的协议，然后执行板端runtime对应的接口，并返回结果给PC。 4 5- librknnrt.so: 是一个板端的runtime库。 6- librknnmrt.so: 是专用于1103/1106平台的runtime库。 7 8有些固件默认已经集成了rknn_server，如果已经集成，可以忽略下面的启动步骤。 9 10## 一、版本要求 11- 若使用动态形状输入RKNN模型，要求rknn_server和RKNPU Runtime库版本>=1.5.0。 12 13 14## 二、rknn_server存放目录 15RV1106、RK356X和RK3588上的rknn_server分别对应存放在runtime/目录下对应的平台里(RV1103与RV1106使用相同的库和rknn_server)，以RK356X为例，rknn_server的存放目录层次如下： 16### Android平台 17``` 18Android 19└── rknn_server 20 ├── arm64 21 │ └── rknn_server 22 └── arm 23 └── rknn_server 24``` 25 26### Linux平台 27``` 28Linux 29└── rknn_server 30 ├── aarch64 31 │ └── usr 32 │ └── bin 33 │ ├── restart_rknn.sh 34 │ ├── rknn_server 35 │ └── start_rknn.sh 36 └── armhf 37 └── usr 38 └── bin 39 ├── restart_rknn.sh 40 ├── rknn_server 41 └── start_rknn.sh 42``` 43 44## 三、 启动步骤 45本章节适用于RK3566/RK3568/RK3588平台，RV1103/RV1106平台请参考**RV1106启动步骤**章节。 46 47以RK356X为例，进入到runtime/RK356X/目录，根据不同平台，选择以下不同的启动步骤： 48 49### 1. Android平台 50BOARD_ARCH在64位安卓系统中，对应arm64目录，在32位系统，对应arm目录 511. adb root && adb remount 522. adb push Android/rknn_server/${BOARD_ARCH}/rknn_server到板子/vendor/bin/目录 533. adb push Android/librknn_api/${BOARD_ARCH}/librknnrt.so到/vendor/lib64（64位系统特有）和/vendor/lib目录 544. 进入板子的**串口**终端，执行： 55``` 56su 57chmod +x /vendor/bin/rknn_server 58sync 59reboot 60``` 615. 重新进入板子的**串口**终端，执行 `ps |grep rknn_server`, 查看是否有 rknn_server的进程id（较新的固件开机会自动启动rknn_server），如果不存在，则手动执行: 62``` 63su 64setenforce 0 65/vendor/bin/rknn_server & 66``` 67 68### 2. Linux平台 69BOARD_ARCH在64位Linux系统中，对应aarch64目录，在32位系统，对应armhf目录 701. adb push Linux/rknn_server/${BOARD_ARCH}/usr/bin/下的所有文件到/usr/bin目录 712. adb push Linux/librknn_api/${BOARD_ARCH}/librknnrt.so到/usr/lib目录 723. 进入板子的**串口**终端，执行： 73``` 74chmod +x /usr/bin/rknn_server 75chmod +x /usr/bin/start_rknn.sh 76chmod +x /usr/bin/restart_rknn.sh 77restart_rknn.sh 78``` 79 80 81### **串口**查看rknn_server详细日志 82#### 1. Android平台 831. 进入**串口**终端,设置日志等级 84``` 85su 86setenforce 0 87setprop persist.vendor.rknn.server.log.level 5 88``` 892. 杀死rknn_server进程 90``` 91kill -9 `pgrep rknn_server` 92``` 933. 重启rknn_server进程(若固件没有自启动rknn_server) 94``` 95/vendor/bin/rknn_server & 96logcat 97``` 984. 再次使用python接口连板推理 99#### 2. Linux平台 1001. 进入**串口**终端,设置日志等级 101``` 102export RKNN_SERVER_LOGLEVEL=5 103``` 1042. 重启rknn_server进程(若固件没有自启动rknn_server) 105``` 106restart_rknn.sh 107``` 1083. 再次使用python接口连板推理 109 110## 四、 RV1106启动步骤 111RV1103/RV1106上使用的RKNPU Runtime库是librknnmrt.so，使用32-bit的rknn_server,启动步骤如下： 1121. adb push RV1106/Linux/rknn_server/arm/usr/bin下的所有文件到/oem/usr/bin目录 1132. adb push RV1106/Linux/librknn_api/armhf/librknnmrt.so到/oem/usr/lib目录 1143. 进入板子的**串口**终端，执行： 115``` 116chmod +x /oem/usr/bin/rknn_server 117chmod +x /oem/usr/bin/start_rknn.sh 118chmod +x /oem/usr/bin/restart_rknn.sh 119restart_rknn.sh 120``` 121 122### RV1106使用**串口**查看rknn_server详细日志 1231. 进入**串口**终端,设置日志等级 124``` 125export RKNN_SERVER_LOGLEVEL=5 126``` 1272. 重启rknn_server进程 128``` 129restart_rknn.sh 130``` 1313. 再次使用python接口连板推理 132 133**注意：** 134 135- 遇到"E RKNN: failed to allocate fd, ret: -1, errno: 12"报错，可以在RV1103/RV1106上运行RkLunch-stop.sh，关闭其他占用内存的应用后再连板推理。 136- RV1103/RV1106使用init_runtime python接口时，**不支持**perf_debug=True参数。 137- accuracy_analysis python接口使用时，可能会因为模型太大，板子上存储容量不够导致运行失败，可以在板子上使用df -h命令来确认。