1. rknn-toolkit :python程序,可用于转换模型、量化模型和推理 2. rknn-api :c库(.h/.so),用于c/c++程序调用推理引擎 3. npu-drv :npu驱动简介:1. rknn-toolkit (python) 该组件用于将各类模型转换为rknn格式模型,并包含推理、评估、调试等功能。
RKNN中包含两组API,分别是通用API接口和零拷贝API接口,RK3562/RK3566/RK3568/RK3588 同时支持这两种接口。两组API接口的区别是通用接口每次更新数据时,将外部模块分配的数据拷贝到NPU运行时的输入内存,零拷贝会直接使用预分配的内存,减少了内存拷贝的开销。当用户输入数据只有虚拟地址时,只能使用通用API接口。需要注意...
5. rknntoolkit和rknnapi需要版本匹配,模型如果早于rknntoolkit 1.1以前生成的需要重新生成,否则运行可能会出问题。 API: 1.2.1 DRV: 0.9.9/1.2.0 请问: 1、API:1.2.1, 这是rknn-api-1.2.0的版本号,怎么不一致呢? 还是rknn-toolkit-1.2.1? 2、DRV: 0.9.9/1.2.0 , 这是driver的版本号吗?
D RKNNAPI: API: 1.4.0 (b4a8096 build: 2020-08-12 10:16:10)D RKNNAPI: DRV: 1.4.0 (...
返回的 SDK 信息如下: === RKNN VERSION: API: 0.9.5 (c12de8a build: 2019-05-06 20:17:12) DRV: 0.9.6 (c12de8a build: 2019-05-06 20:10:17) === 3.5.12 混合量化 3.5.12.1 hybrid_quantization_step1 使用混合量化功能时,第一阶段调用的主要接口是 hybrid_quantization_step1,用于生成模型结...
API: 1.2.1 DRV: 0.9.9/1.2.0 简单来说,可以理解为:支持tensorflow1(keras)、pytorch、mxnet...
在板子上安装rknn-toolkit-lite,使用Python API编写python脚本对模型进行推理 二. 安装RKNN-Toolkit2(PC端) RKNN-Toolkit2目前版本适用ubuntu18.04(x64)及以上,工具只能安装在PC上,暂不支持Windows, MacOS, Debian等操作系统。 注意PC是X86架构,板子是arm架构的。安装时轮子(.whl文件)的名字里有x86字样的是安装在...
2、DRV → NPU 和上位机通信的服务 3、API → 调用NPU 硬件的 API 接口 三、安装过程 3.1 查看开发板中DRV的版本(1.3.1) firefly@firefly:~$ dpkg -l | grep 3399pro ii firefly-3399pronpu-driver 1.3.1 arm64 <insert up to 60 chars description> ...
>>> from rknn.api importRKNN>>> 1 2 3 登录后即可复制 如果导入RKNN模块没有失败,说明安装成功 2.3注意事项: 如果电脑中已经存在Python3的其他版本,自行查询版本共存方法,或者直接替换(可能出现问题,最直接的方法是重装Ubuntu) 遇到版本不兼容现象,导致安装失败的,可以暂时不管,能导入模块即可,如果实在不行,就...
>>> from rknn.api import RKNN >>> 1. 2. 3. 如果导入RKNN模块没有失败,说明安装成功 2.3注意事项: 如果电脑中已经存在Python3的其他版本,自行查询版本共存方法,或者直接替换(可能出现问题,最直接的方法是重装Ubuntu) 遇到版本不兼容现象,导致安装失败的,可以暂时不管,能导入模块即可,如果实在不行,就寻找版本...