1*4882a593Smuzhiyun## 连板调试简介 2*4882a593SmuzhiyunRKNN Toolkit2的连板功能一般需要更新板端的 rknn_server 和 librknnrt.so/librknnmrt.so，并且手动启动 rknn_server 才能正常工作。 3*4882a593Smuzhiyunrknn_server: 是一个运行在板子上的后台代理服务，用于接收PC通过USB传输过来的协议，然后执行板端runtime对应的接口，并返回结果给PC。 4*4882a593Smuzhiyun 5*4882a593Smuzhiyun- librknnrt.so: 是一个板端的runtime库。 6*4882a593Smuzhiyun- librknnmrt.so: 是专用于1103/1106平台的runtime库。 7*4882a593Smuzhiyun 8*4882a593Smuzhiyun有些固件默认已经集成了rknn_server，如果已经集成，可以忽略下面的启动步骤。 9*4882a593Smuzhiyun 10*4882a593Smuzhiyun## 一、版本要求 11*4882a593Smuzhiyun- 若使用动态形状输入RKNN模型，要求rknn_server和RKNPU Runtime库版本>=1.5.0。 12*4882a593Smuzhiyun 13*4882a593Smuzhiyun 14*4882a593Smuzhiyun## 二、rknn_server存放目录 15*4882a593SmuzhiyunRV1106、RK356X和RK3588上的rknn_server分别对应存放在runtime/目录下对应的平台里(RV1103与RV1106使用相同的库和rknn_server)，以RK356X为例，rknn_server的存放目录层次如下： 16*4882a593Smuzhiyun### Android平台 17*4882a593Smuzhiyun``` 18*4882a593SmuzhiyunAndroid 19*4882a593Smuzhiyun└── rknn_server 20*4882a593Smuzhiyun ├── arm64 21*4882a593Smuzhiyun │ └── rknn_server 22*4882a593Smuzhiyun └── arm 23*4882a593Smuzhiyun └── rknn_server 24*4882a593Smuzhiyun``` 25*4882a593Smuzhiyun 26*4882a593Smuzhiyun### Linux平台 27*4882a593Smuzhiyun``` 28*4882a593SmuzhiyunLinux 29*4882a593Smuzhiyun└── rknn_server 30*4882a593Smuzhiyun ├── aarch64 31*4882a593Smuzhiyun │ └── usr 32*4882a593Smuzhiyun │ └── bin 33*4882a593Smuzhiyun │ ├── restart_rknn.sh 34*4882a593Smuzhiyun │ ├── rknn_server 35*4882a593Smuzhiyun │ └── start_rknn.sh 36*4882a593Smuzhiyun └── armhf 37*4882a593Smuzhiyun └── usr 38*4882a593Smuzhiyun └── bin 39*4882a593Smuzhiyun ├── restart_rknn.sh 40*4882a593Smuzhiyun ├── rknn_server 41*4882a593Smuzhiyun └── start_rknn.sh 42*4882a593Smuzhiyun``` 43*4882a593Smuzhiyun 44*4882a593Smuzhiyun## 三、 启动步骤 45*4882a593Smuzhiyun本章节适用于RK3566/RK3568/RK3588平台，RV1103/RV1106平台请参考**RV1106启动步骤**章节。 46*4882a593Smuzhiyun 47*4882a593Smuzhiyun以RK356X为例，进入到runtime/RK356X/目录，根据不同平台，选择以下不同的启动步骤： 48*4882a593Smuzhiyun 49*4882a593Smuzhiyun### 1. Android平台 50*4882a593SmuzhiyunBOARD_ARCH在64位安卓系统中，对应arm64目录，在32位系统，对应arm目录 51*4882a593Smuzhiyun1. adb root && adb remount 52*4882a593Smuzhiyun2. adb push Android/rknn_server/${BOARD_ARCH}/rknn_server到板子/vendor/bin/目录 53*4882a593Smuzhiyun3. adb push Android/librknn_api/${BOARD_ARCH}/librknnrt.so到/vendor/lib64（64位系统特有）和/vendor/lib目录 54*4882a593Smuzhiyun4. 进入板子的**串口**终端，执行： 55*4882a593Smuzhiyun``` 56*4882a593Smuzhiyunsu 57*4882a593Smuzhiyunchmod +x /vendor/bin/rknn_server 58*4882a593Smuzhiyunsync 59*4882a593Smuzhiyunreboot 60*4882a593Smuzhiyun``` 61*4882a593Smuzhiyun5. 重新进入板子的**串口**终端，执行 `ps |grep rknn_server`, 查看是否有 rknn_server的进程id（较新的固件开机会自动启动rknn_server），如果不存在，则手动执行: 62*4882a593Smuzhiyun``` 63*4882a593Smuzhiyunsu 64*4882a593Smuzhiyunsetenforce 0 65*4882a593Smuzhiyun/vendor/bin/rknn_server & 66*4882a593Smuzhiyun``` 67*4882a593Smuzhiyun 68*4882a593Smuzhiyun### 2. Linux平台 69*4882a593SmuzhiyunBOARD_ARCH在64位Linux系统中，对应aarch64目录，在32位系统，对应armhf目录 70*4882a593Smuzhiyun1. adb push Linux/rknn_server/${BOARD_ARCH}/usr/bin/下的所有文件到/usr/bin目录 71*4882a593Smuzhiyun2. adb push Linux/librknn_api/${BOARD_ARCH}/librknnrt.so到/usr/lib目录 72*4882a593Smuzhiyun3. 进入板子的**串口**终端，执行： 73*4882a593Smuzhiyun``` 74*4882a593Smuzhiyunchmod +x /usr/bin/rknn_server 75*4882a593Smuzhiyunchmod +x /usr/bin/start_rknn.sh 76*4882a593Smuzhiyunchmod +x /usr/bin/restart_rknn.sh 77*4882a593Smuzhiyunrestart_rknn.sh 78*4882a593Smuzhiyun``` 79*4882a593Smuzhiyun 80*4882a593Smuzhiyun 81*4882a593Smuzhiyun### **串口**查看rknn_server详细日志 82*4882a593Smuzhiyun#### 1. Android平台 83*4882a593Smuzhiyun1. 进入**串口**终端,设置日志等级 84*4882a593Smuzhiyun``` 85*4882a593Smuzhiyunsu 86*4882a593Smuzhiyunsetenforce 0 87*4882a593Smuzhiyunsetprop persist.vendor.rknn.server.log.level 5 88*4882a593Smuzhiyun``` 89*4882a593Smuzhiyun2. 杀死rknn_server进程 90*4882a593Smuzhiyun``` 91*4882a593Smuzhiyunkill -9 `pgrep rknn_server` 92*4882a593Smuzhiyun``` 93*4882a593Smuzhiyun3. 重启rknn_server进程(若固件没有自启动rknn_server) 94*4882a593Smuzhiyun``` 95*4882a593Smuzhiyun/vendor/bin/rknn_server & 96*4882a593Smuzhiyunlogcat 97*4882a593Smuzhiyun``` 98*4882a593Smuzhiyun4. 再次使用python接口连板推理 99*4882a593Smuzhiyun#### 2. Linux平台 100*4882a593Smuzhiyun1. 进入**串口**终端,设置日志等级 101*4882a593Smuzhiyun``` 102*4882a593Smuzhiyunexport RKNN_SERVER_LOGLEVEL=5 103*4882a593Smuzhiyun``` 104*4882a593Smuzhiyun2. 重启rknn_server进程(若固件没有自启动rknn_server) 105*4882a593Smuzhiyun``` 106*4882a593Smuzhiyunrestart_rknn.sh 107*4882a593Smuzhiyun``` 108*4882a593Smuzhiyun3. 再次使用python接口连板推理 109*4882a593Smuzhiyun 110*4882a593Smuzhiyun## 四、 RV1106启动步骤 111*4882a593SmuzhiyunRV1103/RV1106上使用的RKNPU Runtime库是librknnmrt.so，使用32-bit的rknn_server,启动步骤如下： 112*4882a593Smuzhiyun1. adb push RV1106/Linux/rknn_server/arm/usr/bin下的所有文件到/oem/usr/bin目录 113*4882a593Smuzhiyun2. adb push RV1106/Linux/librknn_api/armhf/librknnmrt.so到/oem/usr/lib目录 114*4882a593Smuzhiyun3. 进入板子的**串口**终端，执行： 115*4882a593Smuzhiyun``` 116*4882a593Smuzhiyunchmod +x /oem/usr/bin/rknn_server 117*4882a593Smuzhiyunchmod +x /oem/usr/bin/start_rknn.sh 118*4882a593Smuzhiyunchmod +x /oem/usr/bin/restart_rknn.sh 119*4882a593Smuzhiyunrestart_rknn.sh 120*4882a593Smuzhiyun``` 121*4882a593Smuzhiyun 122*4882a593Smuzhiyun### RV1106使用**串口**查看rknn_server详细日志 123*4882a593Smuzhiyun1. 进入**串口**终端,设置日志等级 124*4882a593Smuzhiyun``` 125*4882a593Smuzhiyunexport RKNN_SERVER_LOGLEVEL=5 126*4882a593Smuzhiyun``` 127*4882a593Smuzhiyun2. 重启rknn_server进程 128*4882a593Smuzhiyun``` 129*4882a593Smuzhiyunrestart_rknn.sh 130*4882a593Smuzhiyun``` 131*4882a593Smuzhiyun3. 再次使用python接口连板推理 132*4882a593Smuzhiyun 133*4882a593Smuzhiyun**注意：** 134*4882a593Smuzhiyun 135*4882a593Smuzhiyun- 遇到"E RKNN: failed to allocate fd, ret: -1, errno: 12"报错，可以在RV1103/RV1106上运行RkLunch-stop.sh，关闭其他占用内存的应用后再连板推理。 136*4882a593Smuzhiyun- RV1103/RV1106使用init_runtime python接口时，**不支持**perf_debug=True参数。 137*4882a593Smuzhiyun- accuracy_analysis python接口使用时，可能会因为模型太大，板子上存储容量不够导致运行失败，可以在板子上使用df -h命令来确认。