具体来说是把主流的模型如Caffe、TensorFlow、TensorFlow Lite、ONNX、DarkNet、PyTorch 等转换为RKNN模型,并可以在PC端使用这个RKNN模型进行推理仿真,计算时间和内存开销。板端还有一部分,就是rknn runtime环境,包含一组C API库以及与NPU进行通信的驱动模块,可执行程序等。 RKNN软件栈可以帮助用户快速将AI模型部署到瑞...
在RK3588平台上部署模型前,你需要安装RKNN Runtime环境。RKNN Runtime是Rockchip公司提供的一套运行时库,用于在RK3588等Rockchip芯片上运行RKNN格式的模型。 3.2 模型部署 将转换好的RKNN模型文件拷贝到RK3588平台上,并使用RKNN Runtime加载模型。然后,你可以编写应用程序来调用RKNN Runtime,实现目标检测功能。 4. ...
这通常涉及到从开发板或SDK的供应商那里获取最新的库文件,并使用adb push或其他适当的方法将其传输到开发板上。 检查软链接是否正确: 如果librknn_runtime.so是一个软链接,确保它指向正确的库文件。你可以使用ls -l命令来检查软链接的目标: bash ls -l /usr/lib/librknn_runtime.so 如果软链接指向错误的...
按照文档build 编译运行提升缺少librknn_runtime.so库 请教一下,按照文档可以编译运行,但是运行后提示报错。 ldd查看依赖并不需要librknn_runtime.so库 root@hzmct:/usr/local/rknn_ocr-master/install/rknn_ocr# ls model rknn_ocr root@hzmct:/usr/local/rknn_ocr-master/install/rknn_ocr# ldd rknn_ocr lin...
librknnrt.so: 是一个板端的runtime库 rknn_server: 是一个运行在板子上的后台代理服务,用于接收PC通过USB传输过来的协议,然后执行板端runtime接口,并返回结果给PC。 下载RKNPU工程: git clone https://github.com/rockchip-linux/rknpu2 Linux adb push rknpu2/runtime/RK3588/Linux/rknn_server/aarch64...
done --> Export RKNN model done --> Init runtime environment I NPUTransfer: Starting NPU Transfer Client, Transfer version 2.0.0 (8f9ebbc@2020-04-03T09:12:30) D RKNNAPI: === D RKNNAPI: RKNN VERSION: D RKNNAPI: API: 1.4.0 (b4a8096 build: 2020-08-12 10:15:19) D RKNNAPI...
在该文件夹下新建include文件夹,里面放置rknn_api.h(该头文件在rknpu2/runtime/RK3588/Linux/librknn_api/include下)。新建lib文件夹,里面放置文件(该动态库文件包含在rknpu2/runtime/RK3588/Linux/librknn_api/aarch64下)。新建model文件夹,放入之前生成的xxx.rknn模型。 step3: 编写rknn_model.cpp(以通用...
2、板卡上启动rknn_server服务,该服务是一个运行在板子上的后台代理服务,用于接收PC通过USB传输过来的协议,然后执行板端runtime对应的接口,并返回结果给PC,该rknn_server文件,鲁班猫板卡系统固件默认已经添加(可以从 RKNPU2工程 文件获取,或者从配套例程获取)。
在开发环境中检测rknn_server是否运行成功 有返回进程id说明运行成功。06：模型转换 在开发环境中进入到rknn_toolkit2工具中的examples目录中选择一个模型。本例选择的是将onnx模型转换为RKNN模型。修改test.py 在rknn.config中添加target_platform='rk3588'在rknn.init_runtime中添加target='rk3588'修改完成后，运行...
(/root/anaconda3/envs/RKNN/rknn-toolkit2/rknpu2/runtime/Linux/librknn_api/include) include_directories(${CMAKE_CURRENT_SOURCE_DIR}/../../../3rdparty/allocator/dma) endif() add_subdirectory(${CMAKE_CURRENT_SOURCE_DIR}/../../../3rdparty/3rdparty.out) add_subdirectory(${CMAKE_...