如果存在 cuda 标识,那么应该去检查代码的参数是否正确。 pip uninstall auto-gptq git clone https://github.com/PanQiWei/AutoGPTQ.git&&cdAutoGPTQ # 以下两种方式任选一种进行安装,经测试均有效pip install -vvv --no-build-isolation -e .# >> Successfully installed auto-gptq-0.8.0.dev0+cu121...
你好，@anyiz ,你的问题是：
面对过去，不要迷离；面对未来，不必彷徨；活在今天，你只要把自己完全展示给别人看。