Hugging Face 模型镜像/Unichat-llama3-Chinese-8B 代码Issues0Pull Requests0Wiki统计流水线 服务 加入Gitee 与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :) 免费加入 已有帐号?立即登录 main 分支(1) 管理 管理 main 克隆/下载 ...
Unichat-llama3-Chinese 介绍 中国联通AI创新中心发布llama3.1-8B参数中文微调版本中文指令微调模型,中文环境下安全和价值观改造,模型中文问题回答风格优化,对话模板为llama3官方模板 中国联通AI创新中心发布llama3 700亿参数中文微调版本中文指令微调模型,对话模板为llama3官方模板 ...
"model.layers.3.mlp.down_proj.weight": "pytorch_model-00001-of-00002.bin", "model.layers.3.mlp.gate_proj.weight": "pytorch_model-00001-of-00002.bin", "model.layers.3.mlp.up_proj.weight": "pytorch_model-00001-of-00002.bin", "model.layers.3.post_attention_layernorm.weight": "...
可以huggingface .bin->llama.cpp GGUF->Ollama这个路径来做。 从huggingface_hub下载下来后,使用python3 ../llama.cpp/convert.py [local_dir] --vocab-type bpe --outfile llama3-8b-chinese.gguf进行转换,然后再按照Ollama的文档来就行: $ cat ./Modelfile FROM ./llama3-8b-chinese.gguf # set the...