text-generation-webui试用 windows平台 以及目前比较好的开源中文模型 Baichuan-13B-Chat测试 随着llama的大模型发布,个人也可以在自己电脑上运行生成文本的大模型,建议用大显存的显卡,比如2080ti11g , 3060 12g , 3090 24g。 找这篇文章操作 https://openai.wiki/text-generation-webui.html 其中最麻烦的是安装依...
python3 model_download.py --repo_id baichuan-inc/Baichuan-7B --mirror 当然我们暂时不需要下载这个模型,暂停。 下一个对我们有用的模型: python3 model_download.py --repo_id TheBloke/Llama-2-7b-Chat-GPTQ --mirror 好像下载到31%左右就卡住了。 而且也不能断点续传。 查看这篇: 试试: 使用webui...
add chat instruction config for BaiChuan model (oobabooga#3332) Aug 2, 2023 css Use Esc to Stop the generation Aug 3, 2023 docker Add default environment variable values to docker compose file (oobab… Jul 12, 2023 docs Update Chat-mode.md Aug 1, 2023 extensions Revert "Make long_replies...