量化 本系列将针对大模型的一些常见训练后量化方案(GPTQ、LLM.int8()、SmoothQuant、AWQ等)进行讲述。 大模型量化概述 大模型量化技术原理-GPTQ、LLM.int8() 大模型量化技术原理-SmoothQuant 大模型量化技术原理-AWQ、AutoAWQ 大模型量化技术原理-SpQR 大模型量化技术原理-ZeroQuant系列 还记得之前提到的量化方案...