1、调用微调的 ChatGLM2-6B - 微调输出目录 (1)查看输出目录 (base) ailearn@gpts:~$ cd /data/sda/deploy/chatglm2/ChatGLM2-6B/ptuning (base) ailearn@gpts:/data/sda/deploy/chatglm2/ChatGLM2-6B/ptuning$ ll output total 4 drwxrwxr-x 3 ailearn ailearn 44 Dec 25 22:43 ./ drwxrwx...
死磕LLM本地部署 | 这两天一直尝试着chatglm的本地部署运行,尝试了chatglm-6B和chatglm2-6B,均可以将web UI调用起来,但是不能完成对话。昨天尝试下载了chatglm3-6B,首先在一台笔记本都工作站上实现了对话,今天早上也在一台台式机上复现了。主要还是需要github上的项目和模型需要匹配,同时依赖的版本需要微调一下。