/Auto-GPT/.env.template .env 修改.env文件内容,将自己的OPENAI_API_KEY替换OPENAI_API_KEY=your-openai-api-key这一行中的your-openai-api-key。详细截图见《基于腾讯云CVM搭建Auto-GPT的环境》。 代码语言:shell AI代码解释 docker run -it --env-file
跑Yi官方给的gptq量化脚本,发生报错(图1)网上查了一下,这个bug实际上autogptq已经解决了(图2),于是我在自己环境中看了一下同一个脚本,确实已经改过来了,后续又尝试了一些config(图3),依然是相同的报错于是索性找到了调用QuantLinear的统一接口,就是在auto_gptq/utils/import_utils.py 的dynamically_import_Quan...
Yi模型finetune环境配置踩坑之一 | 之前搞定了Yi模型用autogptq进行量化的环境配置,紧接着又尝试进行finetune,依然是直接跑Yi官方给的版本,出现报错(图1) 应该是cuda和torch版本的问题,于是依照自己的cuda版本,在pytorch网站找到了历史的兼容版本。(图2) cuda版本很多人以为是用 nvidia-smi 命令显示的(图3) 实际...