微调代码开源地址: github.com/modelscope/s SWIFT支持Yi-VL微调:github.com/modelscope/s 我们使用数据集coco-mini-en-2进行微调. 任务是: 描述图片中的内容. 环境准备: git clone https://github.com/modelscope/swift.git cd swift pip install .[llm] 微调脚本: LoRA # https://github.com/modelscope...
HuggingFace网站中介绍了Yi-VL-34B模型的部署方式,主要参考LLaVA框架,但笔者尝试几天,发现需要修改的代码较多,遇到了不少坑,仍无法部署。 而在Yi的Github项目中给出了方便的模型部署方式,可参考项目:https://github.com/01-ai/Yi/tree/0124/VL。 模块安装:第三方模块: torch == 2.1.2,其余模块参考Github项目...
git clone https://github.com/modelscope/swift.git cd swift pip install .[llm] 微调脚本: LoRA # https://github.com/modelscope/swift/tree/main/examples/pytorch/llm/scripts/yi_vl_6b_chat # Experimental environment: V100, A10, 3090 # 18GB GPU memory CUDA_VISIBLE_DEVICES=0 \ swift sft \...
Could you add an example similar to this one https://github.com/sgl-project/sglang/blob/main/examples/quick_start/srt_example_llava.py, but for Yi-VL? python/sglang/srt/utils.py Outdated Show resolved paulcx commented Jan 31, 2024 try an example in srt_example_llava.py state = ...
git clonehttps://github.com/01-ai/Yi.git 3、安装环境 docker run -it -v /datas/work/zzq/:/workspace --gpus=all pytorch/pytorch:2.0.1-cuda11.7-cudnn8-devel bash cd /workspace/Yi-vl/Yi/VL pip install -r requirements.txt -iSimple Index ...
Reminder I have searched the Github Discussion and issues and have not found anything similar to this. Environment OS: Ubuntu 20.04 Python: 3.10 PyTorch: 2.0.1+cu118 CUDA: 11.8 transformers: 4.32.0 Current Behavior 报错,无法正常推理。 Expected Be...
source/etc/network_turbogitclone https://github.com/01-ai/Yi 安装依赖 进入子目录 `Yi/vl`,看到这里的 readme 已经介绍了使用 demo 的详细步骤。 首先安装依赖 pipinstall-r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple 运行Demo ...
-Hugging Face被称为“机器学习的GitHub”,同时面向企业和私人用户,为模型和数据集提供专家支持和私人托管。 -拥抱脸提供了一个模型/数据集中心和一个名为“空间”的交互式应用程序平台 -用户可以将经过重新训练或微调的模型和数据集上传到Hugging Face的平台。 -该平台承载了第一个开源文本到视频模型,具有17亿个...
- Yi-VL模型是Yi系列模型家族的新成员,是一个多模态语言大模型。 - 在英文数据集MMMU和中文数据集CMMMU上,Yi-VL模型取得了领先成绩。 - 在MMMU数据集上,Yi-VL-34B以41.6%的准确率超越了一系列多模态大模型,仅次于GPT-4V。 - 在CMMMU数据集上,Yi-VL-34B以36.5%的准确率紧随GPT-4V,在现有的开源多模态...
据作者本人介绍,他是看到GitHub上的一份开源的机器学习书籍之后萌生了翻译的想法,然后开始搭建这个应用的。 而之所以选择Yi作为承担这一工作的大模型,就是看中了它超出的上下文窗口,能够将作者每一章的全文都扔到模型里,而不用切分章节或做一些递归式的章节摘要等麻烦事。