python langchain_sum.py --model_path chinese-alpaca-2-7b-hf --file_path doc.txt --chain_type refine (langchain) zhanghui@zhanghui-OMEN-by-HP-Laptop-17-ck0xxx:~/Chinese-LLaMA-Alpaca-2/scripts/langchain$ python langchain_sum.py --model_path chinese-alpaca-2-7b-hf --file_path doc.t...
Chinese-LLaMA-Alpaca-2(中文羊驼)是基于Meta发布的可商用大模型LLaMA2微调的中文大模型,LLaMA2只支持英文,而中文羊驼支持中英文。 本文以Chinese-LLaMA-Alpaca-2-13b大模型为例,如果你的内存或者显存比较小,建议使用7B的,效果应该不会相差太多,官方的下载地址。 以HuggingFace为例,将Files and versions里面的所有文件...
Chinese-LLaMA-Alpaca-2(中文羊驼)是基于Meta发布的可商用大模型LLaMA2微调的中文大模型,LLaMA2只支持英文,而中文羊驼支持中英文。 本文以Chinese-LLaMA-Alpaca-2-13b大模型为例,如果你的内存或者显存比较小,建议使用7B的,效果应该不会相差太多,官方的下载地址。 以HuggingFace为例,将...
下载 所有文件并存入 D:\Chinese-LLaMA-Alpaca-2\scripts\langchain\text2vec-large-chinese 目录下: 根据 直接下载完整版模型: 将下载好的Chinese-Alpaca-2-7B的完整版模型 保存到 D:\Chinese-LLaMA-Alpaca-2\scripts\langchain\chinese-alpaca-2-7b-hf目录下。 3.安装依赖 conda deactivate conda create -n ...
受GanymedeNil和AlexZhangji的启发，我们构建了一个全开源模型驱动的本地知识库问答系统，支持ChatGLM-6B和其他模型通过fastchat api接入，包括Vicuna、Alpaca、LLaMA、Koala、RWKV等。默认使用GanymedeNil/text2vec-large-chinese作为嵌入，并使用ChatGLM-6B作为语言模型。基于上述模型，此项目可在离线环境中...
本项目的最新版本中通过使用FastChat接入 Vicuna, Alpaca, LLaMA, Koala, RWKV 等模型，依托于langchai...
本项目中默认使用的 LLM 模型为THUDM/chatglm2-6b,默认使用的 Embedding 模型为moka-ai/m3e-base为例。 本项目最新版本中支持接入本地模型与在线 LLM API。 本地LLM 模型接入基于FastChat实现,支持模型如下: meta-llama/Llama-2-7b-chat-hf Vicuna, Alpaca, LLaMA, Koala ...
目前主流的基座模型依然为 Transformer 架构，基于该模型进行训练的有 Meta 公司出品 的 LLaMA 模型，随后就有美国众多高校推出以 LLaMA 为基座的有“羊驼”类模型 Alpaca 和 Vicuna。而在国内，除了 ChatGLM 是基于 GLM 架构进行开发，其余主流大语言模型基 本都是以 Transformer 为基础训练。大语言模型评价指标介绍...
In the latest version of this project, FastChat is used to access Vicuna, Alpaca, LLaMA, Koala, RWKV and many other models. Relying on langchain , this project supports calling services through the API provided based on FastAPI, or using the WebUI based on Streamlit. ✅ Relying on the...
本项目中默认使用的 LLM 模型为 THUDM/chatglm2-6b,默认使用的 Embedding 模型为 moka-ai/m3e-base 为例。 LLM 模型支持 本项目最新版本中支持接入本地模型与在线LLM API。 本地LLM 模型接入基于 FastChat 实现,支持模型如下: meta-llama/Llama-2-7b-chat-hf Vicuna, Alpaca, LLaMA, Koala BlinkDL/RWKV...