docker exec -it ollama ollama run deepseek-coder:33b #运行最近非常火爆的MOE专家混合大模型,这个以英文为主,但同时能理解中文 docker exec -it ollama ollama run mixtral #运行deepseek llm 67B模型 docker exec -it ollama ollama run deepseek-llm:67b
输入ollama list可以查看当前的模型列表, 二、DeepSeek 模型部署指南 1. 获取模型文件 # 官方模型库直装 ollama run deepseek-chat # 手动导入GGUF 文件ollama create deepseek-custom -f Modelfile 2. 模型配置模板 FROM deepseek-ai/deepseek-coder-33b-instruct:latest PARAMETER num_gpu 4 PARAMETER tempera...
将上面步骤中ollama-linux-arm64 和模型文件 deepseek-coder-33b-instruct.Q5_K_M.gguf 移动到一个ollama文件夹中 打开nodebook terminal 输入以下命令 Explain mkdir ollama mv deepseek-coder-33b-instruct.Q5_K_M.gguf ./ollama # 移动ollama-linux-arm64并重命名 mv ollama-linux-arm64 ./ollama/o...
DeepSeek-R1-Distill-lalama-70b:ollama run deepseek-r1:70b DeepSeek Coder 代码模型: 1.3 billion parameter model:ollama run deepseek-coder 6.7 billion parameter model:ollama run deepseek-coder:6.7b 33 billion parameter model:ollama run deepseek-coder:33b DeepSeek V2.5 通用模型:已升级到下面的...
首先确认你已经安装的 DeepSeek 模型名称: ollama list 这会列出所有本地模型,找到类似deepseek-coder或deepseek-chat的名称及对应标签(如:33b-instruct)。 2. 删除指定模型 执行删除命令(以deepseek-coder:33b-instruct为例:) ollama rm deepseek-coder:33b-instruct ...
用于 文本生成、对话 AI、代码生成 等,如:GPT-4 OpenAI、DeepSeek、Qwen 适用领域:Chatbot、知识库问答、智能助手等 代码大模型(Code LLM) 用于 代码补全、自动编程,如:DeepSeek-Coder、CodeLlama、BigCode 适用领域:IDE 代码补全、AI 编程助手(如 Copilot) ...
Llama 2 Uncensored 7B 3.8GB ollama run llama2-uncensored LLaVA 7B 4.5GB ollama run llava Solar 10.7B 6.1GB ollama run solar Note You should have at least 8 GB of RAM available to run the 7B models, 16 GB to run the 13B models, and 32 GB to run the 33B models. Customize a mo...
DeepSeek-R1671B404GBollama run deepseek-r1:671b Llama 4109B67GBollama run llama4:scout Llama 4400B245GBollama run llama4:maverick Llama 3.370B43GBollama run llama3.3 Llama 3.23B2.0GBollama run llama3.2 Llama 3.21B1.3GBollama run llama3.2:1b ...
DeepSeek-R1 671B 404GB ollama run deepseek-r1:671b Llama 3.3 70B 43GB ollama run llama3.3 Llama 3.2 3B 2.0GB ollama run llama3.2 Llama 3.2 1B 1.3GB ollama run llama3.2:1b Llama 3.2 Vision 11B 7.9GB ollama run llama3.2-vision Llama 3.2 Vision 90B 55GB ollama run llama3.2-visio...
DeepSeek-R1671B404GBollama run deepseek-r1:671b Llama 3.370B43GBollama run llama3.3 Llama 3.23B2.0GBollama run llama3.2 Llama 3.21B1.3GBollama run llama3.2:1b Llama 3.2 Vision11B7.9GBollama run llama3.2-vision Llama 3.2 Vision90B55GBollama run llama3.2-vision:90b ...