Int16, Int32, Int64 范围 Int16, 等于short, 占2个字节. -32768 32767 Int32, 等于int, 占4个字节. -2147483648 2147483647 Int64, 等于long, 占8个字节. -9223372036854775808 9223372036854775807 这样, 看起来比short,int,long更加直观些! 另外, 还有一个Byte, 它等于byte, 0 - 255....
比如,当一个模型需要部署在资源受限的设备上时,可以将模型中的float32权重转换为int8,从而降低存储需求和计算量。在ONNX中,通过量化工具,这种转换是相对容易实现的。 但,但,但,数据类型的变化可能引入一定的精度误差。尤其是在某些数值范围较大的模型中,低精度数据类型可能会对结果产生不可忽视的影响,开发者仍需要...