Unichat官网链接地址:https://github.com/UnicomAI/Unichat-llama3-Chinese 网站默认显示语言:英语 Unichat 介绍 Unichat-llama3-Chinese是中国联通AI创新中心发布的首个基于Meta Llama 3模型的中文指令微调模型。该模型经过中文数据训练,实现了高质量的中文问答功能,支持长达28K的上下文输入,并计划发布支持长度64K的版本。
https://ollama.com/ollam/unichat-llama3-chinese-8b, by xx025 模型微调 可使用以下框架, 对模型进行SFT, LoRA, DPO, PPO等方式的微调 Llama-Factory 70B为llama3官方模板,8B模型对话模板: _register_template(name="llama3-unichat",format_user=StringFormatter(slots=["Human:{{content}}\nAssistant:"])...
Unichat-llama3-Chinese-8B config.json config.json694 Bytes 一键复制编辑原始数据按行查看历史 unicom提交于9个月前.Upload 6 files 12345678910111213141516171819202122232425262728 { "_name_or_path":"/data/Meta-Llama-3-8B", "architectures":[ "LlamaForCausalLM" ...
Unichat-llama3-Chinese-8B / pytorch_model.bin.index.json pytorch_model.bin.index.json 23.39 KB 一键复制 编辑 原始数据 按行查看 历史 unicom 提交于 9个月前 . Upload 6 files 12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667...
可以huggingface .bin->llama.cpp GGUF->Ollama这个路径来做。 从huggingface_hub下载下来后,使用python3 ../llama.cpp/convert.py [local_dir] --vocab-type bpe --outfile llama3-8b-chinese.gguf进行转换,然后再按照Ollama的文档来就行: $ cat ./Modelfile FROM ./llama3-8b-chinese.gguf # set the...