为此,我写了一个简单的Kaggle Notebook,可以将ChatGLM-6B部署在Kaggle平台的GPU上。同时还结合了机器翻译模型和VITS模型,可实现一键点击即用,与AI老婆进行实时交互。在Kaggle上可以部署无量化(FP16)的ChatGLM,保持了模型最好的推理能力,同时仍具有较短的推理时间。另外我也写了一个Colab Notebook,可以在Google Cola...
采用了清华推出的开源模型: https://github.com/THUDM/ChatGLM-6B 最低要求6G显存,所以语音合成就只用cpu。 文字推理的时间大概是cpu推理的四倍,也不在意tts速度,大约20s可以产生回复 部署流程:https://github.com/Paraworks/vits_with_chatgpt-gpt3/tree/window 演示视频:https://www.bilibili.com/video/BV1...
近期在学习研究了一下目前市面上主流的一些开源大语言模型后,想到了一套通过ai来生成直播间弹幕问题答案,然后通过识别答案的语境,合成语音再根据语境驱动live2d纸片人模型做出响应动作的系统。 在ai模型上,经过多次尝试后,最终选择了chatglm6b作为基础语言处理系统。在测试过程中也尝试过使用Rwkv的7bCN模型,但是就身份...
通过在DSW中微调和推理ChatGLM-6B模型,实现定制化、高交互性的对话系统。ChatGLM-6B是一个开源的、支持中英双语的对话语言模型,基于General Language Model (GLM) 架构,具有62亿参数。结合模型量化技术,用户可以在消费级的显卡上进行本地部署,从而实现更智能、交互性更
基于 二次元角色语音训练的 VITS语音推理模型 + ChatGLM-6B聊天模型,实现日语语音中文文字的双语对话,并利用Frp公网代理端口映射到公网上,代理到主服务器的Nginx内。 为了解决 ChatGLM 无法生成日语文字,利用百度翻译平台的 JSON API 进行中译日 转译。 与传统的 web Live2D 的单一显示模式不同,本项目利用 pixi-...
ChatGLM-6B 本地1 ChatterBot 本地2 Twitch & Youtube 平台支持 资源 vits vits source MoeGoe vits chinese vits_with_chatgpt-gpt3 tts 推理参考 blivedm 抓取b 站直播间信息 演示模型 vits model (商用请自炼自然人同意的合法声源或用 Azure) 架构 从哔哩哔哩直播间抓取弹幕和礼物,接收后发送给 ...
在本地运行llama3中文版大模型AI对话,确实是太强了 【ChatGLM-6B+StableDiffusion+网络搜索】本地部署可绘图,网上寻找信息的AI 将ChatGPT训练成某个领域的专家【保姆级教程】 (NSFW)暗黑写作大模型RWKV_7b本地CPU整合包,创作小说,接入GPT-SoVITS朗读小说...
AI Vtuber是一个由 【ChatterBot/gpt/claude/langchain_pdf+gpt/chatglm/langchain_pdf_local】 驱动的虚拟主播【Live2D】,可以在 【Bilibili/抖音/快手】 直播中与观众实时互动。它使用自然语言处理和文本转语音技术【edge-tts/VITS/elevenlabs】生成对观众问题的回答。
自v2.2.5 开始,我们支持接入微软的 Azure 引擎 和 VITS 引擎,让你的机器人发送语音。 提示:在 Windows 平台上使用语音功能需要安装最新的 VC 运行库,你可以在这里下载。` 🎈 相似项目 如果你自己也有做机器人的想法,可以看看下面这些项目: Ariadne- 一个优雅且完备的 Python QQ 机器人框架 (主要是这个 !!
ChatGLM从零开始本地离线部署教程! 无需网络,手机硬件就能运行大语言模型 私有化部署chatGPT 教你如何本地部署chatGPT-3.5 微软宣布开源 ,人人都能拥有自己的 ChatGPT 本地运行通义千问32B!不吃配置保护隐私,可兼容AMD显卡或纯CPU 本地安装部署CHATGPT4.0免费用...