3、注销docker-desktop和docker-desktop-data wsl --unregister docker-desktop-datawsl --unregister docker-desktop 4、导入 wsl --import docker-desktop-data F:\wsl2\docker-desktop-data F:\wsl2\docker-desktop-data.tar --versionwsl --import docker-desktop F:\wsl2\docker-desktop F:\wsl2\docker-d...
如下命令拉取想要的模型 dockerexec-it ollama ollama pull llama3.1 然后运行如下命令就可以对话了 dockerexec-it ollama ollama run llama3.1 或者调web接口: curl http://localhost:11434/api/generate -d '{"model":"qwen2:7b","prompt":"写一个冒泡排序","stream":false}' 可以看到GPU用起来了: 虽...
首先,我的环境是这样的:Windows 10系统,安装了WSL2和Docker Desktop。为了使用GPU加速,我还在WSL2中安装了Nvidia-container-toolkit。 遇到的问题 😓 在使用过程中,我遇到了两个主要问题: 数据交换问题:当我设置Docker volume时,选择了Windows磁盘路径,导致数据需要在WSL和Windows之间频繁交换,大模型加载耗时很长。
3、注销docker-desktop和docker-desktop-data wsl --unregister docker-desktop-datawsl --unregister docker-desktop 4、导入 wsl --import docker-desktop-data F:\wsl2\docker-desktop-data F:\wsl2\docker-desktop-data.tar --versionwsl --import docker-desktop F:\wsl2\docker-desktop F:\wsl2\docker-d...
sudo service docker start 1. 启动docker服务。 这样docker就能正常使用了,在运行容器后,容器暴露的端口也可以直接用 localhost:port 直接访问了。在没使用k8s的环境里,推荐一个这个容器管理工具 portainer, 这里就以它为例,运行一个容器。 AI检测代码解析 ...
docker-data默认安装在c盘,且设置中难以更改,因此采用如下操作。 1、shutdown 子系统 wsl --shutdown 2、导出Ubuntu wsl --export Ubuntu-20.04 F:\Ubuntu\ubuntu.tar 3、注销docker-desktop和docker-desktop-data wsl --unregister Ubuntu-20.04 4、导入 ...
51CTO博客已为您找到关于使用WSL2设置docker使用GPU加速的相关内容,包含IT学习相关文档代码介绍、相关教程视频课程,以及使用WSL2设置docker使用GPU加速问答内容。更多使用WSL2设置docker使用GPU加速相关解答可以来51CTO博客参与分享和学习,帮助广大IT技术人实现成长和进步。
静等Ubuntu完成基本配置,之后在CMD命令行输入wsl -l检查安装情况,其中前两个是安装好docker后自动配置的。 2.配置Linux子系统docker环境和GPU 进入CUDA Toolkit 12.4 Update 1 Downloads | NVIDIA Developer选择相应的系统配置安装CUDA 下面的代码是安装WSL-Ubuntu 2.0 deb安装的命令 ...
首先，安装wsl2，启动cuda，然后进行docker安装与配置。访问官网获取安装指南，下载并安装windows docker desktop，完成配置后重启docker，接着在wsl2中进行验证。查看是否能正常使用GPU能力。对于具备基础的用户，这一步骤已能明确其重要性。接下来，第二种方式，使用docker-composer。进入容器内输入nvidia-smi...
3.2. 配置普通用户直接使用 Docker 命令 sudo gpasswd -a$USERdocker newgrp docker 3.3 安装 NVIDIA 支持 参考:微软 WSL 官方文档:https://learn.microsoft.com/zh-cn/windows/wsl/tutorials/gpu-compute 通过运行以下命令为 NVIDIA 容器工具包设置稳定存储库: ...