1、知识库-07-部署 m3e 嵌入模型 (1)下载 m3e-large-api 镜像 (2)启动 m3e-large-api 容器 (3)接入 OneAPI 渠道 (4)接入 FastGPT N、后记 0、背景 搞个新环境研究 GPT、GPTS、ChatGPT 等相关技术。 (1)本系列文章 格瑞图:GPTs-0001-准备基础环境 格瑞图:GPTs-0002-准备派森环境 格瑞图:GPTs-...
推荐采用m3e系列模型。 这个模型库系列里有三种,分别是m3e-small、m3e-base、m3e-large最大的是m3e-large,显存大的考虑large,找个时间去试一下。 moka-ai/m3e-large · Hugging Face moka-ai/m3e-base · Hugging Face moka-ai/m3e-small · Hugging Face 同样注意第52行相对路径或绝对路径的写法。//...
这样,容器可以将GPU资源全部用于加速计算任务。 http://registry.cn-hangzhou.aliyuncs.com/fastgpt_docker/m3e-large-api:latest:这是要运行的Docker镜像的名称和版本。在这个例子中,我们运行的是一个名为m3e-large-api的镜像,版本为latest。 第二部分:接入one API 我们看上图,已经成功在6008端口部署成功了! 切...