G-Ghost-RegNet实战:使用G-Ghost-RegNet实现图像分类任务(二)
训练的主要步骤:1、使用AverageMeter保存自定义变量,包括loss,ACC1,ACC5。2、将数据输入mixup_fn生成mixup数据,然后输入model计算loss。3、 optimizer.zero_grad() 梯度清零,把loss关于weight的导数变成0。4、如果使用混合精度,则with torch.cuda.amp.autocast(),开启混合精度。计算loss。scaler.scale(loss).backward(),梯度放大。