--model OrionStar-Yi-34B-Chat --load-in-4bit --share --gradio-auth username:password --public-api --api-key API_KEY --settings SETTINGS_FILE --trust-remote-code 替换掉API_KEY为你设置的密码,SETTINGS_FILE为修改好的配置文件,如AutoDL-tmp/text-generation-webui文件夹下的settings-template.yaml...
11月24日,零一万物基正式发布并开源微调模型 Yi-34B-Chat,可申请免费商用。同时,零一万物还为开发者提供了 4bit/8bit 量化版模型,Yi-34B-Chat 4bit 量化版模型可以直接在消费级显卡(如RTX3090)上使用。魔搭社区已支持下载、推理训练体验,并推出相关教程,欢迎大家来玩! 评测效果 Model MMLU CMMLU C-Eval(val...
零一万物Yi-34B-Chat微调模型及量化版开源 零一万物发布了Yi-34B-Chat微调模型,并提供4bit/8bit量化版,在评测中取得优异成绩,可在消费级显卡上使用,已开源并可免费商用。【AiBase提要:】🚀 模型开源与微调发布: 零一万物发布Yi-34B-Chat微调模型,同时提供4bit/8bit量化版,在评测中表现优异,已开源并可免...
Yi-34B是由零一万物开发并开源的双语大语言模型,使用4K序列长度进行训练,在推理期间可扩展到32K;模型在多项评测中全球领跑,取得了多项 SOTA 国际最佳性能指标表现,该版本为支持对话的chat版本。本文介绍了相关API。接口描述调用本接口,发起一次对话请求。在线调试平台提供了 API在线调试平台-示例代码 ,用于帮助开发者...
你可以直接在聊天输入框中输入文字,与Yi-34B-Chat进行对话。 基本聊天功能 在聊天输入框中输入你想要聊的话题或问题,Yi-34B-Chat会迅速给出回应。你可以像与真人对话一样,持续进行聊天交流。同时,Yi-34B-Chat还支持发送图片、表情等多媒体内容,让你的聊天更加丰富多彩。 高级功能介绍 除了基本的聊天功能外,Yi...
首先,我们需要在Yi-34B-Chat官方网站(https://www.yi-34b-chat.com)上进行注册。点击“注册”按钮,按照提示填写手机号码、设置密码,并同意相关协议,即可完成注册。注册成功后,我们可以使用手机号和密码进行登录。 二、基本功能介绍 文本聊天:在Yi-34B-Chat的主界面,我们可以看到一个输入框,在这里输入想要聊天的内...
近日,零一万物发布的Yi-34B-Chat微调模型引起了广泛关注。这款模型在上线两周后,便在全球多个英文、中文大模型权威榜单中名列前茅,展现出强大的实力。 Yi-34B-Chat是基于Yi-34B基座模型开发的微调模型。Yi-34B基座模型已经在全球开源大模型中获得了多项SOTA国际最佳性能指标认可,成为全球开源大模型的“双料冠军”。
Yi-34B-Chat-200K:200K 上下文,多文档阅读理解、超长知识库构建小能手。 Yi-VL-Plus: 多模态模型,支持文本、视觉多模态输入,中文图表体验超过 GPT-4V。 目前,Yi大模型API名额已经开放,新用户申请成功即送60元体验。折算下来也有百万甚至千万token了。
简介: 11月24日,零一万物基正式发布并开源微调模型 Yi-34B-Chat,可申请免费商用。同时,零一万物还为开发者提供了 4bit/8bit 量化版模型,Yi-34B-Chat 4bit 量化版模型可以直接在消费级显卡(如RTX3090)上使用。魔搭社区已支持下载、推理训练体验,并推出相关教程,欢迎大家来玩!
继 11 月初零一万物发布 Yi-34B 基座模型后,Yi-34B-Chat 微调模型在 11 月 24 日开源上线 ,短时间登陆了全球多个英文、中文大模型权威榜单,再度获得了全球开发者的关注。其中,在斯坦福大学提出的大语言模型评测基准 AlpacaEval 上,Yi-34B-Chat 以 94.08% 的胜率,超越 LLaMA2 Chat 70B、Claude 2、Chat...