· moss-002-sft-data：MOSS-002所使用的多轮对话数据，覆盖有用性、忠实性、无害性三个层面，包含...
moss-moon-003-plugin:在moss-moon-003-sft-plugin基础上经过偏好模型moss-moon-003-pm训练得到的最终模型,具备更强的意图理解能力和插件使用能力,将在近期开源。 数据 moss-002-sft-data: MOSS-002所使用的多轮对话数据,覆盖有用性、忠实性、无害性三个层面,包含由text-davinci-003生成的约57万条英文对话和...
moss-moon-003-plugin:在moss-moon-003-sft-plugin基础上经过偏好模型moss-moon-003-pm训练得到的最终模型,具备更强的意图理解能力和插件使用能力,将在近期开源。 数据 moss-002-sft-data: MOSS-002所使用的多轮对话数据,覆盖有用性、忠实性、无害性三个层面,包含由text-davinci-003生成的约57万条英文对话和...
CPM模型是由智源、清华开发的一种基于大规模中文训练数据进行生成式预训练的中文预训练语言模型。该模型具...
提一点，MOSS当初公测的时候宣称其意义是验证小模型下的能力……我直接问号脸，前面都做过多少遍了，还...
体验了，体验不是很好！./moss-moon-003-sft-plugin
数据 educhat-sft-002-data-osm: 混合多个开源中英指令、对话数据,并去重后得到,约400w 代码 数据质量对于模型性能至关重要,为此,我们开源了数据清洗工具CleanTool(可选使用GPU Turbo Speed Up),包括数据去重,低质量数据删除等功能,未来将继续不断完善。
数据 educhat-sft-002-data-osm: 混合多个开源中英指令、对话数据,并去重后得到,约400w 代码 数据质量对于模型性能至关重要,为此,我们开源了数据清洗工具CleanTool(可选使用GPU Turbo Speed Up),包括数据去重,低质量数据删除等功能,未来将继续不断完善。
1. 基于Transformer结构的深度神经网络：MOSS使用了基于Transformer结构的深度神经网络，该结构可以充分利用长...
1.高效的并行计算：MOSS 使用 MPI（Message Passing Interface）并行计算技术，可以在多台计算机上并行运行...