2023年7月,GitHub上有一个利用 langchain 思想实现的基于本地知识库的问答应用:langchain-ChatGLM (这是其GitHub地址,当然还有和它类似的但现已支持Vicuna-13b的项目,比如LangChain-ChatGLM-Webui ),目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案 该项目受 GanymedeNil 的项目 doc...
nlp_my/LangChain-ChatGLM-Webui 代码Issues0Pull Requests0Wiki统计流水线 服务 我知道了,不再自动展开 加入Gitee 与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :) 免费加入 已有帐号?立即登录 master 分支(4) 管理 管理 master ...
pip install -r requirements_webui.txt 4、下载模型 在本地或离线环境下运行,需要首先将项目所需的模型下载至本地,通常开源 LLM 与 Embedding 模型可以从HuggingFace下载。以本项目中默认使用的 LLM 模型 THUDM/ChatGLM3-6B 与 Embedding 模型BAAI/bge-large-zh为例: 下载模型常用的网站有以下几个, 1.https:...
LangChain是一个开源的应用开发框架,目前支持Python和TypeScript两种编程语言。它赋予LLM两大核心能力:数据感知,将语言模型与其他数据源相连接;代理能力,允许语言模型与其环境互动。LangChain的主要应用场景包括个人助手、基于文档的问答、聊天机器人、查询表格数据、代码分析等。 ChatGLM-6B是清华大学知识工程和数据挖掘小组...
git clone https://huggingface.co/THUDM/chatglm-6b-int4 修改web_demo.py里的模型路径 将模型路径改程自己的chatGLM路径,这里我改成model/chatGLM-6B 启动web_demo:python web_demo.py 顺利即可弹出对话网页,也亦可使用cli_demo或api_demo进行终端对话或创建api ...
Langchain-Chatchat 是一个基于 ChatGLM 大语言模型与 Langchain 应用框架实现,开源、可离线部署的检索增强生成 (RAG) 大模型的本地知识库问答应用项目。目前(截止20241113)LangChain-Chatchat源码的github项目已经有5.6K的fork和32K的star了,可以说非常流行。github地址如下: ...
受langchain-ChatGLM启发, 利用LangChain和ChatGLM-6B系列模型制作的Webui, 提供基于本地知识的大模型应用. 目前支持上传 txt、docx、md、pdf等文本格式文件, 提供包括ChatGLM-6B系列、Belle系列等模型文件以及GanymedeNil/text2vec-large-chinese、nghuyong/ernie-3.0-base-zh、nghuyong/ernie-3.0-nano-zh等Embedd...
源码篇:10分钟做ChatPDF基于Chainlit的pdf对话(下)langchain应用 01:24 AI对话地震台网,AI实时解读地震数据playwright+beautifulsoup+langchain+Azure OpenAI+Chainlit 01:53 改造AI联网Web Research应用 Langchain+Bing+AzureOpenAI+Chainlit 02:51 将AI玩于股掌的Function calling,大模型的必杀技,玩转OpenAI的奥...
python webui.py 1. 8. 访问 langchain-ChatGLM 使用浏览器打开 http://localhost:7860/, 问它一个问题,清华大学在哪? 9. API部署 python api.py 1. 10. 命令行部署 python cli_demo.py 1. 11. 其他,LangChain Document Loaders refer: https://python.langchain.com/en/latest/modules/indexes/docume...