SillyTavern是一个AI开源项目,它提供了以下功能: 1. 用户可以与虚拟角色进行聊天交流。 2. 软件支持多种虚拟角色供用户选择。 3. 用户可以自己创建角色。 4. 软件可以与多种不同LLM(如OpenAI、Claude、Llama等)进行后台连接。 5. 支持将文字转换为语音(TTS)。 6. 支持NSFW(即文爱)功能。
ChatGLM官网体验地址:https://chatglm.cn/ 百川大模型官网体验地址:https://chat.baichuan-ai.com/ 二、环境准备 ChatGLM2-6B至少需要13GGPU(虽然官网说12G即可),int8需要8G,int4需要4G。 百川13B至少需要28GGPU(虽然官网说24G即可) 以下环境为Windows: 1.安装git 2.安装python 3.安装pip 4.安装CUDA 5.安...
ChatGLM官网:https://chatglm.cn/ github项目网址: (安装和使用教程请看官方介绍) https://github.com/THUDM/ChatGLM-6B 更多好用又免费ai工具推荐 1.>>>免费GPT4国内版-写作/绘画/视频,可联网搜索:https://chatglm.cn 2.>>>免费ai视频神器:https://typemovie.art/ ...
6B(62亿)的参数大小,也使得研究者和个人开发者自己微调和部署 ChatGLM-6B 成为可能。 较低的部署门槛: FP16 半精度下,ChatGLM-6B 需要至少 13GB 的显存进行推理,结合模型量化技术,这一需求可以进一步降低到 10GB(INT8) 和 6GB(INT4), 使得 ChatGLM-6B 可以部署在消费级显卡上。 更长的序列长度: 相比 G...
2023年3月14日GPT4又发布了,在ChatGPT发展如火如荼的当下,我们更应该关注国内的进展,今天将分享一个清华大学基于GLM-130B模型开发的类似ChatGPT的ChatGLM-6B模型,ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型,基于 General Language Model (GLM) 架构,具有 62 亿参数。结合模型量化技术,用户可以在消费...
ChatGLM官网:https://chatglm.cn/ github项目网址: (安装和使用教程请看官方介绍) https://github.com/THUDM/ChatGLM-6B 从技术路线的角度来看,ChatGLM 实现了强化学习人类对齐策略,使得生成的对话效果更加贴近人类的价值观。目前,它的能力领域主要包括自我认知、提纲写作、文案写作、邮件写作助手、信息抽取、角色扮...
官网地址：http://chatglm.cn 开发团队：清华&智谱 ChatGLM-6B在2023年3月发布的一个开源的、支持...
cd/home/aistudio/work/ChatGLM-6B&&mkdircache%cd/home/aistudio/work/ChatGLM-6B 2.4 预训练模型下载 想要使用模型需要有模型文件,因此需要去下载对应的训练好的模型文件。在github上的ChatGLM-6B给出了模型的一个下载地址 Hugging Face Hub ,但是这个下载实在太慢了,所以我只能去清华给出镜像的官网去下载预...
ChatGLM-6B 是清华开源的一个小型对话模型,让大家可以在自己部署起来跑一跑看看效果。官网:https://github.com/THUDM/ChatGLM-6B, 视频播放量 34585、弹幕量 3、点赞数 770、投硬币枚数 284、收藏人数 2182、转发人数 265, 视频作者 小傅哥の码场, 作者简介 小傅哥,架构
新建一个目录,比如ChatGLM-6B,并且通过git clone下代码 git clone https://github.com/THUDM/ChatGLM-6B.git 5.安装依赖 根据官网readme里面的文档安装transformers和gradio 以及依赖文件 pip installtransformers pip install -r requirements.txt pip install gradio ...