hello 作者您好, 我能成功运行你的推理框架复现结果,效果极佳,推理速度也很快. 我试着去更改bag包和模型文件,遇到了以下几个问题,希望得到你的帮助,感谢:我以你提供的onnx文件为输入, 用trtexec生成engine文件去推理,无法推理成功,提示terminate called after throwing an instance of 'c10::CUDAError' what(): CU...
我估计 fmt 的报错应该解决了吧,然后就剩这个 /usr/bin/ld: /lib/libnvonnxparser.so: undefined reference to getBuilderPluginRegistry'` 我这边无法复现出来;我暂时无法根据您提供的信息,解决你的问题。 请提供您这边的依赖库和环境信息。提供报错时,为提高可读性请使用 Code 的形式粘贴 Author li1997522 comm...
关于更高版本TensorRT的预测异常问题。TensorRT8.6还没进行测试。不同 TensorRT版本有不同的权值溢出处理方案。可参考https://github.com/Natsu-Akatsuki/RangeNetTrt8/blob/main/src/network/netTensorRT.cpp#L283修改层数。 关于40系列显卡中的模型转换异常问题。感谢测试,后续有时间,我这边将进行复现和测试。