mac下使用pytorch报错无法从torch.distributed导入get_rank

hi_coding 2019-01-11 10:38:06

使用的opennmt的代码：https://github.com/OpenNMT/OpenNMT-py
mac os 10.14
python3.7 torch-1.0.0 torchvision-0.2.1
运行preprocess.py报错：

...全文

818 5 打赏收藏转发到动态举报

写回复

5 条回复

切换为时间正序

请发表友善的回复…

发表回复

endeavorcyh 2021-01-25

打赏
举报

回复

请问怎么解决啊，我在windows下也遇到了！！！求问啊

north_horse 2019-04-06

打赏
举报

回复

您好，请问您的问题解决了吗？我也遇到了跟您相似的问题，不过是在Windows环境下，如果解决了希望您能回答我，谢谢🙏

Xueli_Xie 2019-03-20

打赏
举报

回复

1.0的bug

hi_coding 2019-01-11

打赏
举报

回复

是不是对我的电脑的gpu有要求？关于分布式，gpu没有搞清楚。希望大神可以指引一下方向，谢谢！

hi_coding 2019-01-11

打赏
举报

回复

我同样在ubuntu下安装了（python3.5）一切顺利，运行正常

1. **导入必要的库**: 首先，我们需要导入`torch.distributed`、`torch.nn.parallel`等库，以及`get_world_size`和`get_rank`等函数，用于获取GPU数量和当前进程的rank。 2. **模型定义**: 定义你的神经网络模型，...

device = torch.device('cuda', torch.distributed.get_rank()) model = MyModel().to(device) ddp_model = nn.parallel.DistributedDataParallel(model) for data, target in dataloader: output = ddp_model...

### PyTorch中的分布式数据并行：释放GPU集群的潜能 #### 一、概述 PyTorch是一款由Facebook的人工智能研究团队开发的开源机器学习框架。它在计算机视觉、自然语言处理等领域有着广泛的应用。PyTorch拥有诸多独特...

1、torch.distributed.get_world_size() 2、torch.distributed.all_gather() 3、torch.distributed.barrier() 4、torch.distributed.get_rank()

torch.distributed.all_gather() 官网链接tensor_list每个元素代表每个rank的数据，tensor代表每个进程中的tensor数据，其中tensor_list每个分量的维度要与对应的tensor参数中每个rank的维度相同。

37,743

社区成员

34,211

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

试试用AI创作助手写篇文章吧

+ 用AI写文章