今天二冰就带大家在群晖上搞个狠活——用Docker部署国产顶尖大模型DeepSeek-R1,让兄弟们既能享受AI的智能,又能把数据牢牢锁在自家NAS里! 一、项目简介 DeepSeek-R1是深度求索推出的首代推理大模型(项目地址:https://ollama.com/library/deepseek-r1),通过知识蒸馏技术将671亿参数的教师模型压缩成1.5B到70B多个版...
我们现在已经实现了在本地黑群晖 NAS 中部署 Ollama 并接入 Deepseek-R1 模型,并快速搭建 Open WebUI 界面实现同一局域网内用户都能在网页中与 AI 模型聊天。 但如果你的主机配置很不错,想让异地好友或者同事也能远程使用你在本地黑群晖 NAS 中部署的 deepseek 大模型应该怎么办呢? 虽然黑群晖没有 quickconne...
春节写诗,deepseek的本地部署以及AI玩具融合 1、Deepseek的本地部署,版本为deepseek-r1:14b ,使用的是ollama,显卡配置4070 TI Super 16G2、AI玩具使用群晖NAS做服务器,LLM接入主机deepseek服务,STT、TTS使用Azure语音服务3、AI玩具使用folotoy#人工智能#AI#deepseek#AI玩具#春节 ...