PyTorch多卡分布式训练DistributedDataParallel 使用方法

Pytorch多卡训练有两种方式，一种是单进程多GPU训练模式(single process multi-gpus)，另一种的多进程多卡模式(multi-processes multi-gpus)。Pytorch通过nn.DataParallel可实现多卡训练模型（简称DP模式），这是single process multi-gpus 的多卡并行机制，这种并行模式下并行的多卡都是由一个进程进行控制，其缺点有：尽管 DataLoader 可以指定 num_work