DeepSeek-R1-Distill-lalama-70b:ollama run deepseek-r1:70b DeepSeek Coder 代码模型: 1.3 billion parameter model:ollama run deepseek-coder 6.7 billion parameter model:ollama run deepseek-coder:6.7b 33 billion parameter model:ollama run deepseek-coder:33b DeepSeek V2.5 通用模型:已升级到下面的...
将上面步骤中ollama-linux-arm64 和模型文件 deepseek-coder-33b-instruct.Q5_K_M.gguf 移动到一个ollama文件夹中 打开nodebook terminal 输入以下命令 Explain mkdir ollama mv deepseek-coder-33b-instruct.Q5_K_M.gguf ./ollama # 移动ollama-linux-arm64并重命名 mv ollama-linux-arm64 ./ollama/o...
未来需要时可重新拉取: ollama run deepseek-coder:33b-instruct
2024 年 5 月,推出第二代 MoE 大模型 DeepSeek-V2,引入 MLA(多头潜在注意力)技术,推理成本仅为 LLaMA3 的 1/4 ,API 定价低至 GPT-4 Turbo 的 1/70,凭借超高性价比收获 “AI 届拼多多” 名号,引发行业广泛关注,也促使行业重新思考成本与性能的平衡 。6 月,发布垂直领域模型 DeepSeek Coder V2,代码能力...
DeepSeek-R1 671B 404GB ollama run deepseek-r1:671b Llama 3.3 70B 43GB ollama run llama3.3 Llama 3.2 3B 2.0GB ollama run llama3.2 Llama 3.2 1B 1.3GB ollama run llama3.2:1b Llama 3.2 Vision 11B 7.9GB ollama run llama3.2-vision Llama 3.2 Vision 90B 55GB ollama run llama3.2-visio...
DeepSeek-R1 671B 404GB ollama run deepseek-r1:671b Llama 3.3 70B 43GB ollama run llama3.3 Llama 3.2 3B 2.0GB ollama run llama3.2 Llama 3.2 1B 1.3GB ollama run llama3.2:1b Llama 3.2 Vision 11B 7.9GB ollama run llama3.2-vision Llama 3.2 Vision 90B 55GB ollama run llama3.2-visio...
now, i, with a rather slow classic HDD in a dual Xeon with 128GB RAM (plus 2*6GB Nvidia mining accelerators), trying to run deepseek-coder:33b and dolphin-mixtral:47b, found out that setting --keepalive to "10m" solved the issue. I think that the "Watchdog" which unloads the...
与Llama 3.3、DeepSeek-R1、Phi-4、Gemma 2和其他大型语言模型一起启动并运行。 Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2, and other large language models. - cccZone/ollama
docker exec -it ollama ollama run deepseek-coder:33b #运行最近非常火爆的MOE专家混合大模型,这个以英文为主,但同时能理解中文 docker exec -it ollama ollama run mixtral #运行deepseek llm 67B模型 docker exec -it ollama ollama run deepseek-llm:67b-chat ...
ollama run my_ai/deepseek-r1-abliterated:32b #越狱32B模型 ollama run deepseek-r1:32b #官方模型 ollama run bge-m3 #文本向量模型,用来做RAG知识库 二选一 ollama run nomic-embed-text #文本向量模型,用来做RAG知识库 二选一 Ollama下载通义千问模型: ollama run qwq:32b Ollama下载 ollama3模...