总的来说,PTQ量化校准是量子点显示技术中非常重要的一环,它涉及到对显示器件的色彩、亮度、稳定性和一致性等多个方面进行精确的调整和评估,以确保显示效果达到最佳状态。这项工作需要借助先进的仪器和技术手段,通常由专业的技术人员来进行。随着量子点显示技术的不断发展,PTQ量化校准也将继续发展和完善,以满足不断提...
因为我们的框架是携带INT8量化这个功能的,这里是PTQ量化,因为QAT量化是在训练的过程中实现的,不太好集成在我们目前的框架里面所以我们暂时使用PTQ量化。 整体而言这个就是在build engine的过程中, config->setFlag的改成INT8, 然后添加一个针对INT8的校准器。 2. 在Model模块中新增的部分 在trt_model中间设置精度...