大数据系统计算技术国家工程实验室副主任沈琳琳教授团队主持的人工智能项目“伶荔(Linly)”已于前期推出基于LLaMA-1、Falcon等模型的中文迁移版本。最近,团队在LLaMA-2上进行了中文化训练和质量评估,目前已发布Chinese-LLaMA2 7B 和13B版本。让我们一起来看看吧! 1 项目简介 随着大型语言模型在众多领域展现出巨大的应用...
Linly-Chinese-LLaMA-2-7B 更新时间:2024-11-15 Linly-Chinese-LLaMA-2-7B是由深圳大学CV研究所Linly项目进行中文增强训练的Llama-2 7b参数版本。本文介绍了相关API。 功能介绍 调用本接口,发起一次对话请求。 平台提供了 API在线调试平台-示例代码 ,用于帮助开发者调试接口,平台集成快速检索、查看开发文档、查看在线...
掘力计划 23 期-Linly-Chinese-LLaMA2 中文开源大模型方案分享吴碧珠宁波诺丁汉-深圳大学联合培养博士, Linly 项目经理宁波诺丁汉-深圳大学联合培养在读博士生,师从沈琳琳教授。主要研究自监督学习、基于人体骨架点视频序列的动作识别和大语言模型。Linly 项目是由深圳大
Linly-Chinese-LLaMA:中文基础模型,基于 LLaMA 在高质量中文语料上增量训练强化中文语言能力,现已开放 7B、13B 和 33B 量级,65B 正在训练中。 Linly-ChatFlow:中文对话模型,在 400 万指令数据集合上对中文基础模型指令精调,现已开放 7B、13B 对话模型。 Linly-ChatFlow-int4 :ChatFlow 4-bit 量化版本,用于在 CP...
Linly 项目是由深圳大学-大数据系统计算技术国家工程实验室推出的开源大模型项目,项目基于自研预训练框架,实现了主流开源大模型的中文化训练以及指令跟随。Linly 现已发布基于 LLaMA-1&2、Falcon 模型底座的 7B、13B、33B 等量级模型,下载次数超万次,在 GitHub 获得 2.6
use "0.0.0.0"ip ='127.0.0.1'api_port = 7871#Linly Model Pathmode ='api'#For 'api', Linly-api-fast.py must be run firstmode ='offline'model_path ='Linly-AI/Chinese-LLaMA-2-7B-hf'#SSL Certificate (required for microphone interaction)#Preferably an absolute pathssl_certfile ="./https...
Linly-Chinese-LLaMA:中文基础模型,基于LLaMA在高质量中文语料上增量训练强化中文语言能力,现已开放 7B、13B 和 33B 量级,65B正在训练中。 Linly-ChatFlow:中文对话模型,在400万指令数据集合上对中文基础模型指令精调,现已开放7B、13B对话模型。 Linly-ChatFlow-int4:ChatFlow 4-bit量化版本,用于在CPU上部署模型推理...
Linly-Chinese-LLaMA:中文基础模型,基于 LLaMA 在高质量中文语料上增量训练强化中文语言能力,现已开放 7B、13B 和 33B 量级,65B 正在训练中。 Linly-ChatFlow:中文对话模型,在 400 万指令数据集合上对中文基础模型指令精调,现已开放 7B、13B 对话模型。
Linly-Chinese-LLaMA: 中文基础模型,基于 LLaMA 在高质量中文语料上增量训练强化中文语言能力,现已开放 7B、13B 和 33B 量级,65B 正在训练中。 Linly-ChatFlow: 中文对话模型,在 400 万指令数据集合上对中文基础模型指令精调,现已开放 7B、13B 对话模型。
💥Linly-Chinese-LLaMA-2 模型特点:使用 LLaMA2 扩充中文词表,在混合语料上进行增量预训练,模型仍在迭代中,将定期更新模型权重。 实现细节:训练细节和测评 模型下载分类训练数据训练序列长度版本更新时间 Chinese-LLaMA-2-7B (hf格式)语言模型/对话模型混合语料2048v0.12023.7.22 ...