mpi多机并行时报错，怎么办?

ZYX_qq 2020-11-19 06:54:43

报错信息如下:

我用的MS-MPI，程序单机运行时完全没有问题，但是多机运行时就不行了。
报错信息说的是MS-MPI版本问题，但是我单机运行时明明没问题啊，就必须降到低版本吗?

...全文

498 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

本文介绍了MPI并行计算中遇到的两个常见错误：内存冲突引发的Project1.exe崩溃和未初始化变量导致的运行时检查失败。提供了解决方案，包括使用原子操作避免竞争条件和初始化变量以确保正确执行。,

博客指出mpich2与Microsoft MPI是并行环境，用Microsoft MPI配置并行环境并写代码，再用mpich2命令跑程序会报错，给出了报错信息，还分别提及了Microsoft MPI和MPICH2的配置参考，以及解决问题的方法是按特定配置在VS中配好环境并在MPICH2/bin目录下多机运行。

博客介绍了矩阵乘法的两种思路，思路1按行、列分块，思路2是矩阵分块乘法。通过对比两种思路的时间复杂度和空间复杂度，发现思路1的时间和空间消耗都较高，甚至会出现内存不足的情况，而思路2性能更优，矩阵并行乘法应采用思路2实现。

本文详细介绍了MPI多机配置步骤，包括环境变量设置、用户名统一、NFS文件系统配置、hosts文件更新等内容，并提供了SSH免密通信的学习参考资料，以及NPB基准测试的安装配置指南。

本文介绍了在单机多GPU环境下不建议使用多机多GPU训练的原因，重点讲解了如何通过`torch.distributed`进行初始化，包括选择合适的后端（gloo或nccl）、设置网络接口、初始化进程组和分配rank。文章还强调了数据处理中的DistributedSampler，模型加载与保存的同步机制，以及避免数据混乱的方法。

高性能计算

2,409

社区成员

1,025

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章