ATC(Ascend Tensor Compiler)是异构计算架构CANN体系下的模型转换工具:它可以将开源框架的网络模型(如TensorFlow等)以及Ascend IR定义的单算子描述文件转换为昇腾AI处理器支持的离线模型;模型转换过程中,ATC会进行算子调度优化、权重数据重排、内存使用优化等具体操作,对原始的深度学习模型进行进一步的调优,从而满足部署场景...
ATC工具支持自定义*.om模型的输入输出数据类型: 模型转换时支持指定网络模型的输入或输出节点的数据类型、Format,支持设置精度等。 此处的示例命令场景:针对Caffe框架ResNet50网络模型,转换后的模型输入为FP16类型,指定Pooling算子作为输出,并且该输出节点为FP16类型。 atc --framework=0 --soc_version=${soc_version...
使用atc转换模型的过程中会出现转换过程很慢甚至卡住不动的情况,排查问题后发现是内存跑满了。解决办法就是创建交换分区分担内存压力,方法如下: 1.通过free -h命令查看内存使用情况,如果内存总量小于4G,则需要挂载swap分区 free -h 2.申请一个4G的文件作为swap分区【推
模型转换有两种方式：命令行方式和图形方式。命令行方式支持原始框架类型为Caffe、Onnx的模型转换，并能输入数据类型为FP32、UINT8（通过配置数据预处理实现）。模型转工具安装路径位于/usr/local/Ascend/ascend-toolkit/6.10.t01spc030b090/atc/bin/atc。详细参数请参考《ATC工具使用指南.pdf》第三章。...
昇腾CANN系列教程——ATC模型转换起飞的老谭 立即播放 打开App,流畅又高清100+个相关视频 更多1300 4 1:03:38 App 昇腾CANN训练营第二期——应用营第二讲-MindXSDK环境与模型转换 2419 16 1:09:23 App 昇腾CANN训练营-模型营第一讲——TensorFlow训练脚本迁移 648 1 1:46:45 App 昇腾CANN训练营第二期—...
--output 功能说明 如果是开源框架的网络模型:存放转换后的离线模型的路径以及文件名,例如:$HOME/module/out/caffe_resnet50,转换后的模型文件名以指定的为准,自动以.om后缀结尾,例如:caffe_resnet50.om。 如果是单算子描述文件(json格式):存放转换后的单算子模型
问题现象描述:根据官方介绍文档中的介绍,atc工具支持模型的动态分辨转换,但是将模型转换出来以后,转换以后模型的文件名应该为:image_preprocess.om,但实际模型的文件名称变为了image_preprocess_linux_aarch64.om,并且使用aclmdlGetInputIndexByName接口获取不到动态输入的index,得到的是一个很大的值20402880;然后在使用acl...
学习向导 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配昇腾AI处理器的离线模型。通过本文档您可以达成以下目标: 了解不同框架原始网络模型转成昇腾AI处理器离线模型的方法。 能够基于本文档中的参数,转成满足不同定制
ATC工具进行模型转换时,设置 --precision_mode = allow_fp32_to_fp16, 报错 Optye [BatchMatMulV2] of Ops kernel [AIcoreEngine] is unsupported. Reason: The reason why this op MatMul_45 is not supported by op information library [tbe-custom] is that op type BatchMatMulV2 is not found 二、...