【论文笔记】MetaFormer/PoolFormer 论文笔记及体验

Transformer已经证明在计算机视觉任务中有非常大的潜力，一种普遍的看法是基于attention的token mixer模块使transformer具有竞争力。但是将attention用spatial MLP替代后，模型仍然具有非常好的效果。那么是不是transformer的结构而不是attention使其有效呢？作者使用池化层代替transformer中的attention，构建了PoolFormer模型，取得了非常好的效果，ImageNet-1k准确率达到82.1%。证明了Transformer结