运行DeepSeek-Coder-V2最好是有8G的显存,如果显存不够的话,可能会导致需要使用CPU运行模型进行推理,用CPU运行的话速度会慢很多 启动模型之后,可以执行ollama ps查看正在运行的模型 > ollamapsNAME ID SIZE PROCESSORUNTILdeepseek-coder-v2:16b63fb193b3a9b10GB29%/71% CPU/GPU4minutes from now 受限于我本机...
在[AutoDL](https://www.autodl.com/)平台中租一个 2*3090 等 48G 显存的显卡机器,如下图所示镜像选择`PyTorch`-->`2.1.0`-->`3.10(ubuntu22.04)`-->`12.1`。 6+ 7+  8+ 9+ 接下来打开刚刚租用服务器的`JupyterLab`,并且打开其中的终端开始环境配置、模型...