6月 10 日,腾讯优图实验室宣布正式开源新一代移动端深度学习推理框架 TNN,通过模型部署在存储上的优化以及在计算上的优化,实现在多个不同平台的轻量部署落地,性能优异、简单易用。基于 TNN,开发者能够轻松将深度学习算法移植到手机端高效的执行,开发出各式各样充满个性和特色的 App。本文整理自腾讯优图实验室、极客邦科技和 InfoQ
9月15日晚7点,腾讯优图实验室专区第3讲继续开讲,腾讯优图实验室高级研究员、TNN项目成员丹迪老师将以《开源推理框架TNN模型部署加速与优化》为主题,深度剖析TNN中的高性能加速方案。 深度学习在图像分类、目标检测分割、自然语言处理等等广泛场景中的有效性验证,致使模型计算量和OP类型都在急速增长,模型落地面临性能、...
TNN:由腾讯优图实验室和广英实验室共同开发,一个统一的面向移动、桌面和服务器端的深度学习推理框架。TNN有几个突出的特点,包括跨平台能力、高性能、模型压缩和代码修剪。TNN在ncnn和Rapidnet的基础上,进一步加强了对移动设备的支持和性能优化,并借鉴了现有开源成果的可
通过TNN-Torch方案,模型很快可以上线,性能也可以达到不错的程度,更能提升大家的推理体验。 04 基于TNN的部署案例解析 案例一:MacOS摄像头人脸检测 腾讯优图在Mac上面做CPU的人脸检测配准的DEMO,首先需要下载clone TNN的代码,提前准备下载依赖的模型,并将依赖的工具(比如opencv和protobuf)安装好。其次,cd 到对应的exam...
6月10日,腾讯优图实验室宣布正式开源新一代移动端深度学习推理框架TNN,通过模型部署在存储上的优化以及在计算上的优化,实现在多个不同平台的轻量部署落地,性能优异、简单易用。基于TNN,开发者能够轻松将深度学习算法移植到手机端高效的执行,开发出各式各样充满个性和特色的 App。本文整理自腾讯优图实验室、极客邦科...
6月 10 日,腾讯优图实验室宣布正式开源新一代移动端深度学习推理框架 TNN,通过模型部署在存储上的优化以及在计算上的优化,实现在多个不同平台的轻量部署落地,性能优异、简单易用。基于 TNN,开发者能够轻松将深度学习算法移植到手机端高效的执行,开发出各式各样充满个性和特色的 App。本文整理自腾讯优图实验室、极...
6月10日,腾讯优图实验室宣布正式开源新一代移动端深度学习推理框架TNN,通过模型部署在存储上的优化以及在计算上的优化,实现在多个不同平台的轻量部署落地,性能优异、简单易用。基于TNN,开发者能够轻松将深度学习算法移植到手机端高效的执行,开发出各式各样充满个性和特色的 App。本文整理自腾讯优图实验室、极客邦科...