MNN is a blazing fast, lightweight deep learning framework, battle-tested by business-critical use cases in Alibaba. Full multimodal LLM Android App:[MNN-LLM-Android](./apps/Android/MnnLlmChat/README.md) - alibaba/MNN
MNN is a lightweight deep neural network inference engine. It loads models and do inference on devices. At present, MNN has been integrated in more than 20 apps of Alibaba-inc, such as Taobao, Tmall, Youku and etc., covering live broadcast, short video capture, search recommendation, produ...
(BETA)MNN Python API,让算法工程师可以轻松地使用MNN构图、训练、量化训练,无需编写C++。 架构设计 MNN可以分为Converter和Interpreter两部分。 Converter由Frontends和Graph Optimize构成。前者负责支持不同的训练框架,MNN当前支持Tensorflow(Lite)、Caffe和ONNX(PyTorch/MXNet的模型可先转为ONNX模型再转到MNN);后者通过...
该仓库未声明开源许可证文件(LICENSE),使用请关注具体项目描述及其代码上游依赖。 master 克隆/下载 git config --global user.name userName git config --global user.email userEmail 分支1 标签1 nttstarUpdate README.mde14ee0713天前 2349 次提交 ...
作者表示该模型设计是为了边缘计算设备以及低功耗设备(如arm)设计的实时超轻量级通用人脸检测模型。它可以用于arm等低功耗计算设备,实现实时的通用场景人脸。 检测推理同样适用于移动终端或pc机。 作者加入widerface测试代码,完善部分测试数据及添加MNN、NCNN C++推理代码等。
2、参考论文及工程 3、imagenet测试(目前cifar10) 后续扩充 1、Nvidia、Google的INT8量化方案 2、对常用检测模型做压缩 3、部署(1、针对4bits/三值/二值等的量化卷积;2、终端DL框架(如MNN,NCNN,TensorRT等)) https://github.com/666DZY666/model-compression...
现在开始设置Mac管理Github,有一点需要知道的是本地的git仓库和Github服务器之间是通过ssh加密的。 在终端执行 1 2 3 4 5 6 7 8 dreamdeMacBook-Air:~ dream$ ssh-v usage: ssh [-1246AaCfGgKkMNnqsTtVvXxYy] [-b bind_address] [-c cipher_spec] ...
mnn 实现 话不多说,先来看看效果: 接下来,我们再说一下chineseocr_lite的运行环境: Ubuntu 18.04 Python 3.6.9 Pytorch 1.5.0.dev20200227+cpu 此外,最近项目作者对更新了可实现的功能。 nihui 大佬实现的 crnn_lstm 推理 升级crnn_lite_lstm_dw.pth 模型 crnn_lite_lstm_dw_v2.pth , 精度更高 ...
在WIDER FACE test集测试精度(单尺度输入分辨率:VGA 640*480 或按最大边长640等比缩放 ) 终端设备推理速度 树莓派4B MNN推理测试耗时 (单位:ms)(ARM/A72x4/1.5GHz/输入分辨率 : 320x240 /int8量化) 模型大小比较 图片效果如下:
树莓派 4B MNN 推理测试耗时 (单位:ms)(ARM/A72x4/1.5GHz/输入分辨率 : 320x240 /int8 量化) 场景测试 若干不同场景视频大致有效人脸检出数量测试(单位:个)(分辨率:VGA 640*480,阈值 0.6): 模型大小比较 若干主流开源轻量级人脸检测模型大小比较 : ...