是否可以使用适用于Windows的docker进行GPU传递？

2019-09-12 12:04:49 1.3k 阅读 AI 写同款 · GEO 优化AI 选题数据监测一键分发 ›

weixin_38066403 墨衍会员 · AI 创作全网分发关注 + 加入社区

window下的docker内使用gpu Windows 上使用 Docker GPU需要进行一系列的配置和步骤。这是因为 Docker 在 Windows 上的运行环境与 Linux 有所不同，需要借助 WSL 2（Windows Subsystem for Linux 2）和 NVIDIA Container Toolkit 来实现 GPU 的支持。阅读详情

我试图在Windows 10中的docker容器中运行一个应用程序. 但我无法让GPU在docker中工作. 我读到它需要“GPU传递”. 我应该怎么解决这个问题？

...全文

RAGFlow GPU版部署全攻略：从CUDA环境到Docker配置检索增强生成（RAG）技术通过结合检索系统和生成模型，显著提升了知识问答的准确性和可靠性。其核心原理是将文档向量化后建立索引，在用户提问时快速检索相关片段，再交由大语言模型生成答案。这项技术的工程价值在于能够有效利用私有知识库，避免模型幻觉，特别适合企业文档问答等场景。在实际部署中，GPU加速对文档向量化和本地大模型推理环节至关重要，能大幅提升处理速度。本文聚焦RAGFlow这一开源RAG系统的GPU版本部署，详细解析从CUDA环境配置、Docker部署到常见错误排查的全流程，涵盖PyTorch版本兼容性、阅读详情

weixin_38066403

其他技术讨论专区 479 成员 790,916 内容

+ 关注 + 加入社区

切换为时间正序

hui_0_ 2021-01-12

打赏
举报

https://segmentfault.com/a/1190000023906096

刚刚在这个链接看到一个方法，利用win10带的linux子系统安装docker。

luffy-OP123 2020-11-04

打赏
举报

不支持，所以win不能用

hfun2017 2020-11-04

打赏
举报

引用 2 楼 weixin_44831720 的回复:

[quote=引用 1 楼 weixin_38070469 的回复:] Windows上不支持从Docker容器内进行GPU访问. 您需要nvidia-docker,但目前仅在Linux平台上支持.使用Hyper-v的GPU直通将需要离散设备分配(DDA),目前仅在Windows Server中,并且(at least in 2015)没有计划改变这种状态.因此,NVIDIA目前还没有将nvidia-docker移植到Windows. 这里有更多信息：https://devblogs.nvidia.com/nvidia-docker-gpu-server-application-deployment-made-easy/

看了你的回答我想到的方案就是window上安装VMware 然后装Linux ，在Linux中使用docker[/quote] vmware里不能使用cuda吧？

stewie9 2020-03-13

打赏
举报

引用 2 楼 weixin_44831720 的回复:

[quote=引用 1 楼 weixin_38070469 的回复:] Windows上不支持从Docker容器内进行GPU访问. 您需要nvidia-docker,但目前仅在Linux平台上支持.使用Hyper-v的GPU直通将需要离散设备分配(DDA),目前仅在Windows Server中,并且(at least in 2015)没有计划改变这种状态.因此,NVIDIA目前还没有将nvidia-docker移植到Windows. 这里有更多信息：https://devblogs.nvidia.com/nvidia-docker-gpu-server-application-deployment-made-easy/

看了你的回答我想到的方案就是window上安装VMware 然后装Linux ，在Linux中使用docker[/quote] 这么一说，能不用docker找一个虚拟机版本的嘛？绕了一大圈（。

luffy-OP123 2020-03-04

打赏
举报

引用 1 楼 weixin_38070469 的回复:

Windows上不支持从Docker容器内进行GPU访问. 您需要nvidia-docker,但目前仅在Linux平台上支持.使用Hyper-v的GPU直通将需要离散设备分配(DDA),目前仅在Windows Server中,并且(at least in 2015)没有计划改变这种状态.因此,NVIDIA目前还没有将nvidia-docker移植到Windows. 这里有更多信息：https://devblogs.nvidia.com/nvidia-docker-gpu-server-application-deployment-made-easy/

看了你的回答我想到的方案就是window上安装VMware 然后装Linux ，在Linux中使用docker

weixin_38070469 2019-09-12

打赏
举报

Windows上不支持从Docker容器内进行GPU访问. 您需要nvidia-docker,但目前仅在Linux平台上支持.使用Hyper-v的GPU直通将需要离散设备分配(DDA),目前仅在Windows Server中,并且(at least in 2015)没有计划改变这种状态.因此,NVIDIA目前还没有将nvidia-docker移植到Windows. 这里有更多信息：https://devblogs.nvidia.com/nvidia-docker-gpu-server-application-deployment-made-easy/

是否可以使用适用于Windows的docker进行GPU传递？

相关推荐