File "/root/autodl-tmp/Langchain-Chatchat/webui.py", line 64, in pages[selected_page]["func"](api=api, is_lite=is_lite) File "/root/autodl-tmp/Langchain-Chatchat/webui_pages/dialogue/dialogue.py", running models = list(api.list running models()) 'NoneType' object is not iterable ...
] if run_mode == "lite": cmd += [ "--", "lite", ] p = subprocess.Popen(cmd) started_event.set() p.wait() 那么针对Streamlit的跨域,在issue提到了:https://github.com/chatchat-space/Langchain-Chatchat/issues/1397 跨域问题,已解决 在startup.py中进行修改 p = subprocess.Popen(["strea...
# "api_key": "", # "version": "chatglm_pro", # 可选包括 "chatglm_lite", "chatglm_std", "chatglm_pro" # "provider": "ChatGLMWorker", #}, # 具体注册及api key获取请前往 https://api.minimax.chat/ #"minimax-api": { # "group_id": "", # "api_key": "", # "is_pro"...
Langchain-Chatchat(原Langchain-ChatGLM)基于 Langchain 与 ChatGLM 等语言模型的本地知识库问答 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM) QA app with langchain - 支持lite模式:无需安装torch等重依赖,通过在
如需在本地或离线环境下运行本项目,需要首先将项目所需的模型下载至本地,通常开源 LLM 与 Embedding 模型都可以从HuggingFace下载。 同样的,这里可以直接去官网下载,也可以使用git下载: 以本项目中默认使用的 LLM 模型THUDM/ChatGLM2-6B与 Embedding 模型moka-ai/m3e-base为例: ...
- 支持在线 Embeddings:zhipu-api, qwen-api, minimax-api, qianfan-api - API 增加 /other/embed_texts 接口 - init_database.py 增加 --embed-model 参数,可以指定使用的嵌入模型(本地或在线均可) - 对于 FAISS 知识库,支持多向量库,默认位置:{KB_PATH}/vector_store/{embed_model} - Lite 模式支持所...
支持在线 Embeddings, Lite 模式支持所有知识库相关功能 (#1924) 1年前 README Apache-2.0 🌍READ THIS IN ENGLISH 📃LangChain-Chatchat(原 Langchain-ChatGLM) 基于ChatGLM 等大语言模型与 Langchain 等应用框架实现,开源、可离线部署的检索增强生成(RAG)大模型知识库项目。
$ docker run -it --gpus all --network=host --entrypoint bash /chatchat/chatchat:0.2.7 $ python3 startup.py -a --lite # 启动轻量版本 1. 2. 注意:配置文件都在 configs 目录下,按需参照 example 配置 py文件,请重点关注:configs/model_config.py 模型配置。 5 参考 部署文档...
基于ChatGLM 等大语言模型与 Langchain 等应用框架实现,开源、可离线部署的检索增强生成(RAG)大模型知识库项目。 ⚠️ 重要提示 0.2.10将会是0.2.x系列的最后一个版本,0.2.x系列版本将会停止更新和技术支持,全力研发具有更强应用性的Langchain-Chatchat 0.3.x。0.2.10的后续 bug 修复将会直接推送到master分支...
image.png 3.2 初始化知识库数据库 python init_database.py --recreate-vs 3.2 启动 python startup.py -a --lite 3.3 访问 http://ip:8501/ 注意ECS的安全组里面要增加8501,否则外网可能访问不了,因为8501端口默认没开放 image.png 运行效果如图 image.png 问答效果 image.png最后...