https://modelscope.cn/docs/%E6%A8%A1%E5%9E%8B%E7%9A%84%E4%B8%8B%E8%BD%BD ...
我在魔搭的创空间里部署了一个模型，并使用了正常的vllm来加载模型，但是他每次都会从modelscope里下...
备案控制台开发者社区 > ModelScope模型即服务 > 正文 魔搭创空间使用vllm,如何不从modelscope下载模型而是加载本地上传的模型我在魔搭的创空间里部署了一个模型,并使用了正常的vllm来加载模型,但是他每次都会从modelscope里下载模型,但我已经在创空间里上传了模型,我希望他可以直接加载本地模型,该怎么设置参数展...
我在魔搭的创空间里部署了一个模型,并使用了正常的vllm来加载模型,但是他每次都会从modelscope里下载模型,但我已经在创空间里上传了模型，