猎户星空系列的核心模型是Orion-14B-Base,它拥有140亿个参数,是目前700亿以下参数基座模型中文第一,也是目前最大的中文对话模型。 Orion-14B-Base不仅具有强大的语言理解和生成能力,还具有多模态和多任务的能力,可以处理文本、图像、音频、视频等多种类型的输入和输出 也可以完成多种类型的任务,如对话、写作、翻译、...
Newly Released Orion-14B Base Model The Best Open-Source Multilingual Large Language Model Below the 20B-parameter Performance Loss After INT4 Quantized Less Than 1% Supports Token Lengths up to 320K Strong Multilingual Capabilities, Significantly Outperforming in Japanese and Korean Test Sets Ope...
模型GitHub链接https://github.com/OrionStarAI/Orion 模型HuggingFace链接https://huggingface.co/OrionStarAI/Orion-14B-Base DataLearnerAI的模型介绍 发布论文名(官方博客名)Orion-14B: Open-source Multilingual Large Language Models 论文地址(官方博客地址)https://github.com/OrionStarAI/Orion/blob/master/doc/Or...
前不久，猎户星空发布了Orion-14B-Base，引起了本人的注意。它的核心吸引力就是：长上下文版本支持超长文本，在200k token长度上效果优异，最长可支持可达320k，这个在当下的一众开源模型中是相当耐打的，是chatglm3-6b-32k承受token数的10倍，与Yi-34B-200K相当，但是训练过的chat版，便于互动式的数据分析。当然显...
Orion-14B系列模型是由OrionStarAI开发的一系列开源多语言大语言模型,包括一个具有140亿参数的多语言基座大模型(Orion-14B-Base)以及一系列衍生模型,如对话模型(Orion-14B-Chat)、长文本模型(Orion-14B-LongChat)、量化模型(Orion-14B-Int4)、RAG微调模型(Orion-14B-Chat-RAG)和Agent微调模型(Orion-14B-Chat-Plugi...
作为Orion-14B系列大模型的一员,它继承了基座模型Orion-14B-Base的多语种处理能力,涵盖了中文、英语、日语、韩语等多种语言,并在多语言环境下展现出了卓越的性能。二、本地部署前的准备工作 在进行Orion-14B-Chat-RAG模型的本地部署之前,需要做好以下准备工作:...
Orion-14B-Base:A multilingual large language foundational model with 14 billion parameters, pretrained on a diverse dataset of 2.5 trillion tokens. Orion-14B-Chat:A chat-model fine-tuned on a high-quality corpus aims to provide an excellence interactive experience for users in the large model com...
* 簡介:Orion-14B-Base是一个具有140亿参数的多语种大模型,该模型在一个包含2.5万亿token的多样化数据集上进行了训练,涵盖了中文、英语、日语、韩语等多种语言。 * OrionStar-Yi-34B-Chat * 地址:https://github.com/OrionStarAI/OrionStar-Yi-34B-Chat ,在一个定制的检索增强生成数据集上进行微调的聊天模型,但是细节并未公开。 地址:https://modelscope.cn/models/OrionStarAI/Orion-14B-Chat-RAG/summary 4、Llama-3-8B-RAG-v1 ...