5,下载ChatGLM3项目 git clone https://github.com/THUDM/ChatGLM3 6,进入到项目目录中,使用pip...
注意如果是win机器,路径要用双斜线转义,不然会报错,api_key处填写步骤二获取的apikey。
运行:直接执行 app_bin\chatGLM3-6b\ChatGLMClient.exe 即可 项目运行后,点击运行按钮选择对应的运行模式,fp16性能最好,但是需要至少16G显存,如果只有12G显存,建议选择int8模式,如果只有6G显存,只能选int4模式,如果没显卡,则只能选CPU运行模式(很慢)。
ChatGLM-6B是基于GLM(GeneralLanguageModel)模型为基座模型。GLM在2022年3月发布于ACL 2022。GLM是一个...