利用HAI的ChatGLM2 6B做一个即时对话小游戏 ChatGLM2-6B 是开源中英双语对话模型 ChatGLM-6B 的第二代版本,在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上,ChatGLM2-6B 引入了更强大的性能、更长的上下文、更高效的推理,所以用来做个小游戏非常的合适了。 我基本没有做什么语句优化,直接给了...
这个项目用到的是大模型是RWKV-Raven-7B,ChatGLM2-6B需要在config.ini文件中设置相关的模型文件路径和tokenizer文件路径。 以下是config.ini的文件内容 [LLM] rwkv_model_path=/data/model/rwkv_model/RWKV-4-Raven-7B-v12-Eng49%%-Chn49%%-Jpn1%%-Other1%%-20230530-ctx8192.pth rwkv_tokenizer_path=/...