受langchain-ChatGLM启发, 利用LangChain和ChatGLM-6B系列模型制作的Webui, 提供基于本地知识的大模型应用. 目前支持上传 txt、docx、md、pdf等文本格式文件, 提供包括ChatGLM-6B系列、Belle系列等模型文件以及GanymedeNil/text2vec-large-chinese、nghuyong/ernie-3.0-base-zh、nghuyong/ernie-3.0-nano-zh等Embedd...
2023年7月,GitHub上有一个利用 langchain 思想实现的基于本地知识库的问答应用:langchain-ChatGLM (这是其GitHub地址,当然还有和它类似的但现已支持Vicuna-13b的项目,比如LangChain-ChatGLM-Webui ),目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案 该项目受 GanymedeNil 的项目 doc...
pip install -r requirements_webui.txt 4、下载模型 在本地或离线环境下运行,需要首先将项目所需的模型下载至本地,通常开源 LLM 与 Embedding 模型可以从HuggingFace下载。以本项目中默认使用的 LLM 模型 THUDM/ChatGLM3-6B 与 Embedding 模型BAAI/bge-large-zh为例: 下载模型常用的网站有以下几个, 1.https:...
https://github.com/chatchat-space/langchain-ChatGLMgithub.com/chatchat-space/langchain-ChatGLM 写在前面 LangChain:一个旨在简化使用大型语言模型(LLM)创建应用程序的框架。 具体有什么用呢? 众所周知,LLM训练的数据集是通用文本数据,而要在特定行业使用大模型,就需要用行业内专用数据进行微调。因为有PEFT...
Langchain-Chatchat 是一个基于 ChatGLM 大语言模型与 Langchain 应用框架实现,开源、可离线部署的检索增强生成 (RAG) 大模型的本地知识库问答应用项目。目前(截止20241113)LangChain-Chatchat源码的github项目已经有5.6K的fork和32K的star了,可以说非常流行。github地址如下: ...
git clone https://huggingface.co/THUDM/chatglm-6b-int4 修改web_demo.py里的模型路径 将模型路径改程自己的chatGLM路径,这里我改成model/chatGLM-6B 启动web_demo:python web_demo.py 顺利即可弹出对话网页,也亦可使用cli_demo或api_demo进行终端对话或创建api ...
受langchain-ChatGLM启发, 利用LangChain和ChatGLM-6B系列模型制作的Webui, 提供基于本地知识的大模型应用. 目前支持上传 txt、docx、md、pdf等文本格式文件, 提供包括ChatGLM-6B系列、Belle系列等模型文件以及GanymedeNil/text2vec-large-chinese、nghuyong/ernie-3.0-base-zh、nghuyong/ernie-3.0-nano-zh等Embedd...
python webui.py 1. 8. 访问 langchain-ChatGLM 使用浏览器打开 http://localhost:7860/, 问它一个问题,清华大学在哪? 9. API部署 python api.py 1. 10. 命令行部署 python cli_demo.py 1. 11. 其他,LangChain Document Loaders refer: https://python.langchain.com/en/latest/modules/indexes/docume...
源码篇:10分钟做ChatPDF基于Chainlit的pdf对话(下)langchain应用 01:24 AI对话地震台网,AI实时解读地震数据playwright+beautifulsoup+langchain+Azure OpenAI+Chainlit 01:53 改造AI联网Web Research应用 Langchain+Bing+AzureOpenAI+Chainlit 02:51 将AI玩于股掌的Function calling,大模型的必杀技,玩转OpenAI的奥...