Orion-14B系列模型是由OrionStarAI开发的一系列开源多语言大语言模型,包括一个具有140亿参数的多语言基座大模型(Orion-14B-Base)以及一系列衍生模型,如对话模型(Orion-14B-Chat)、长文本模型(Orion-14B-LongChat)、量化模型(Orion-14B-Int4)、RAG微调模型(Orion-14B-Chat-RAG)和Agent微调模型(Orion-14B-Chat-Plugi...
作为Orion-14B系列大模型的一员,它继承了基座模型Orion-14B-Base的多语种处理能力,涵盖了中文、英语、日语、韩语等多种语言,并在多语言环境下展现出了卓越的性能。二、本地部署前的准备工作 在进行Orion-14B-Chat-RAG模型的本地部署之前,需要做好以下准备工作:硬件资源:确保拥有足够的计算资源和存储空间,以支持模...
1、部署猎户星空 Orion-14B-Chat-Int4 (1)克隆代码 (2)克隆模型 (3)创建环境安装依赖 (4)运行量化示例 - 示例 1 (5)运行量化示例 - 示例 2 N、后记 0、背景 搞个新环境研究 GPT、GPTS、ChatGPT 等相关技术。 (1)本系列文章 格瑞图:GPTs-0001-准备基础环境 格瑞图:GPTs-0002-准备派森环境 格瑞图...
1、部署猎户星空 Orion-14B-Chat (1)下载模型 (2)运行命令行示例 (3)对话测试 (4)测试录屏 N、后记 0、背景 搞个新环境研究 GPT、GPTS、ChatGPT 等相关技术。 (1)本系列文章 格瑞图:GPTs-0001-准备基础环境 格瑞图:GPTs-0002-准备派森环境 格瑞图:GPTs-0003-运行 ChatGLM3 歪脖示例-01 格瑞图:GPT...