Gitee AI 模型地址:https://ai.gitee.com/shenzhi-wang/llama3-70b-chinese-chat Gitee 地址:https://gitee.com/shenzhi-wang/llama3-70b-chinese-chat 模型详情 根据王慎执及郑耀威团队介绍,Llama3-70B-Chinese-Chat 以 meta-llama/Meta-Llama-3-70B-Instruct 为基座模型,使用 ORPO 微调算法,具有角色扮演、...
数据集主要涉及firefly-train-1.1M、shareAI/CodeChat、shareAI/ShareGPT-Chinese-English-90k、ruozhiba、COIG-CQIA和自己造的数据。 UnicomAI/Unichat-llama3-Chinese Github: https://github.com/UnicomAI/Unichat-llama3-Chinese 中国联通AI创新中心开源,目前版本应该也是直接SFT版本,暂不清楚是基于base模型还是inst...
Llama3-70B-Chinese-Chat isone of the first instruction-tuned LLMs for Chinese & English users with various abilitiessuch as roleplaying, tool-using, and math, built upon themeta-llama/Meta-Llama-3-70B-Instructmodel. 🎉According to the results from C-Eval and CMMLU, the performance of Ll...
数据集主要涉及firefly-train-1.1M、shareAI/CodeChat、shareAI/ShareGPT-Chinese-English-90k、ruozhiba、COIG-CQIA和自己造的数据。 UnicomAI/Unichat-llama3-Chinese Github: https://github.com/UnicomAI/Unichat-llama3-Chinese 中国联通AI创新中心开源,目前版本应该也是...
git clone https://opencsg.com/models/shareAI/llama3-Chinese-chat-8b.git --depth 1 等待这个模型下载完成,时间大概有点长(主要取决你的网速),下载完成后模型文件如下 有2个大的模型文件,大概有15G左右。 2.2 下载程序包 https://opencsg.com/models/shareAI/llama3-Chinese-chat-8b#/ ...
- Llama3-70B-Chinese-Chat是一个针对中文和英文用户的LLM模型,具有多种能力。 - Llama3-70B-Chinese-Chat在中文表现上超过了ChatGPT,与GPT-4相媲美。 - Llama3-70B-Chinese-Chat的训练使用了ORPO算法和大量中英文数据集。 - Llama3-70B-Chinese-Chat在中文理解方面表现良好。 - Llama3-70B-Chinese-Chat可以...
llama3-Chinese-chat first version of llama3 in Chinese (首个llama3 中文版) ,本仓库供交流llama3中文相关学习内容,欢迎任何人加入共建PR 新增网页部署:点此查看 更新记录 2024-04-19 下午1点:世界上首个llama3 中文版训练完成,晚上没睡觉哈哈,使用170k+高质量多轮中文对话数据连夜训练得到。 2024-04-20 ...
create( model="nvidia/llama3-chatqa-1.5-70b", messages=[{"role":"user","content":"What is the percentage change of the net income from Q4 FY23 to Q4 FY24?"}], temperature=0.2, top_p=0.7, max_tokens=1024, stream=True ) for chunk in completion: if chunk.choices[0].delta....
如果能接受 2-3%损失,8B 模型用 4bit 量化,70B 模型用 3bit 量化。 目前效果最好的中文微调版是 HuggingFace 社区的zhouzr/Llama3-8B-Chinese-Chat-GGUF 模型,该模型采用 firefly-train-1.1M、moss-003-sft-data、school_math_0.25M、弱智吧(没错,就是那个弱智吧~)数据集,使模型能够使用中文回答用户的提问...
- 中兴微调版(DPO) - 70B:https://www.modelscope.cn/models/ZTEAIM2024/Llama3_70B_instruct_chinese/summary - 联通微调版(SFT):https://www.modelscope.cn/models/UnicomAI/Unichat-llama3-Chinese/summary - Openbuddy微调版(SFT,据说不错):https://www.modelscope.cn/models/OpenBuddy/openbuddy-...