蚂蚁集团搞得CodeFuse-CodeLlama34B-MFT 代码大模型。 CodeFuse-CodeLlama34B-MFT 是一个通过QLoRA对基座模型CodeLlama-34b-Python进行多代码任务微调的代码大模型。模型微调采用了4k上下文。如果有必要,可以扩...
CodeFuse 在近期代码补全的 HumanEval 评测中,得分 74.4%,超过 GPT-4(67%)和 WizardCoder-34B(73.2%)。开源内容包括代码框架、模型等,现已上架相关平台,可在 HuggingFace 下载模型。其中,代码框架部分包括自研的多任务微调(MFT)框架,支持多个任务一起微调;模型部分包括 CodeFuse13B-4K、CodeFuse-CodeLlaMa34B...