卷积神经网络填充模式详解：从VALID到SAME的实战避坑指南

1. 从一次图像边缘的“幽灵”说起

那天，团队里一个刚入行的同事跑来找我，他正在做一个简单的图像分类模型，但遇到了一个奇怪的问题。他给我看了一张测试图片，模型预测的结果在图片的边缘区域总是出现一些莫名其妙的、像“幽灵”一样的伪影，导致分类置信度异常波动。他检查了网络结构、损失函数，甚至怀疑是数据预处理出了问题，折腾了大半天。我让他把卷积层的代码给我看看，果然，问题就出在一行简单的参数上：padding=‘valid’。他一脸茫然：“这个参数不就是控制填充的吗？‘valid’不是‘有效’的意思吗？难道我用错了？”

这可能是很多深度学习初学者，甚至一些有经验的开发者在接触卷积神经网络（CNN）时，第一个会感到困惑，也最容易“踩坑”的地方。padding，这个看似不起眼的超参数，实际上深刻地影响着卷积操作的输入输出尺寸、计算效率，以及模型对输入数据边界信息的处理方式。‘SAME’和‘VALID’，这两个听起来很直观的选项，背后却藏着截然不同的计算逻辑和设计哲学。理解它们，不仅仅是记住公式，更是理解卷积神经网络如何“观察”世界的第一步。今天，我们就来彻底拆解这两种填充方式，让你下次再遇到边缘“幽灵”时，能一眼看穿它的真面目。

2. “VALID”与“SAME”：不仅仅是字面意思

首先，我们必须打破一个常见的误解：‘VALID’和‘SAME’的名字具有一定的误导性。‘VALID’听起来像是“正确的”、“有效的”，而‘SAME’则暗示“相同的”。这容易让人以为‘VALID’是更推荐或更“标准”的做法。实际上，它们只是两种不同的策略，适用于不同的场景，没有绝对的优劣之分。它们的核心区别在于是否对输入进行填充（Padding），以及填充的目标是什么。

我们可以用一个生活中的类比来理解：想象你有一块精美的地毯（输入特征图），和一个固定尺寸的吸尘器（卷积核）。你的目标是清理这块地毯。

• ‘VALID’模式：你坚持一个原则——吸尘器的整个底盘必须完全落在地毯的范围内，不允许有任何部分悬空。这意味着，你从地毯的一个角开始，严格保证每次移动吸尘器，它的整个底部都压在地毯上。这样操作下来，你最终清理过的区域（输出特征图）一定会比原始地毯小一圈，因为边缘那些无法让吸尘器完全覆盖的区域，你选择不清理。在数学上，这就是不进行任何填充，卷积核只在“有效”的、完全覆盖输入的位置滑动。
• ‘SAME’模式：你的目标是清理完整块地毯，包括边缘。为了让吸尘器也能清理到地毯的边缘，你允许吸尘器的一部分悬空（相当于在真实的地毯边界外，假设有一块“虚拟的”延伸区域）。更常见且合理的做法是，你在地毯的四周铺上一些颜色相近的布条（填充零值或其他值），这样吸尘器在移动到边缘时，虽然有一部分压在了布条上，但底盘中心仍然能覆盖到地毯的边缘进行清理。你的目标是，清理完毕后，得到的干净区域大小和原始地毯完全相同。在数学上，这就是进行填充，且填充的量经过精心计算，使得输出特征图的高度和宽度与输入保持一致。

所以，‘VALID’追求的是卷积操作的“纯粹性”（只计算完全覆盖的区域），代价是特征图会越来越小；而‘SAME’追求的是特征图尺寸的“稳定性”，代价是引入了人工的填充值，可能会在边缘引入噪声。接下来，我们深入到公式和代码层面，看看它们具体是如何工作的。

2.1 “VALID”模式：纯粹的卷积与尺寸收缩

在‘VALID’模式下，卷积层不会添加任何填充。输出尺寸完全由输入尺寸、卷积核大小、步长决定。其计算公式是深度学习中的基础公式之一：

output_size = floor((input_size - kernel_size) / stride) + 1

这里floor()表示向下取整。我们拆解一下这个公式：

• input_size - kernel_size：表示卷积核最后一次能够完全覆盖输入图像的起始位置。例如，输入宽度为10，卷积核宽度为3，那么卷积核最后一个有效起始位置是 10 - 3 = 7（从0开始计数）。
• (input_size - kernel_size) / stride：计算卷积核以给定步长，能从起始位置0移动到最后一个有效起始位置7，需要多少步。
• + 1：加上初始位置（0）的那一次计算。

举个例子：假设我们有一张灰度图像，作为输入特征图，其尺寸为 [height, width, channels] = [5, 5, 1]（高5像素，宽5像素，1个通道）。我们使用一个 3x3 的卷积核，步长（stride）设为 1。

代入公式：

• 输出高度 = floor((5 - 3) / 1) + 1 = floor(2) + 1 = 3
• 输出宽度 = floor((5 - 3) / 1) + 1 = 3

所以，输出特征图的尺寸将是 [3, 3, channels]（通道数由卷积核数量决定）。你可以看到，图像从5x5缩小到了3x3。

为什么输出尺寸公式里会有floor（向下取整）？ 这涉及到步长不能整除的情况。考虑输入宽度为7，卷积核为3，步长为2。 (7 - 3) / 2 = 2。卷积核起始位置为0， 然后移动到2， 再移动到4。当它尝试移动到位置6时，发现卷积核的右边界（6+3=9）已经超过了输入边界7，因此这个位置是无效的。所以实际有效的移动次数是 floor(2) = 2 次（位置0， 2， 4），加上起始位置，总共3次计算。输出宽度就是3。floor确保了只计算那些卷积核完全在输入范围内的位置。

在TensorFlow/Keras和PyTorch中的体现：

• TensorFlow/Keras：直接在Conv2D层中指定padding='valid'。
  PYTHON 复制

  1

  import tensorflow as tf

  2

  model = tf.keras.Sequential([

  3

  tf.keras.layers.Conv2D(32, (3, 3), strides=1, padding='valid', input_shape=(5, 5, 1))

  4

  ])

  5

  model.summary() # 输出形状会是 (None, 3, 3, 32)
• PyTorch：在nn.Conv2d中，padding参数默认为0，这等价于‘VALID’模式。你需要手动计算并设置padding参数来实现‘SAME’效果。
  PYTHON 复制

  1

  import torch.nn as nn

  2

  conv_layer = nn.Conv2d(in_channels=1, out_channels=32, kernel_size=3, stride=1, padding=0) # padding=0 即 ‘valid’

  3

  # 对于一个 (1, 1, 5, 5) 的输入 [batch, channel, height, width]，输出将是 (1, 32, 3, 3)

‘VALID’模式的核心特点与适用场景：

• 特点：无填充，计算效率相对高（因为计算点少），输出尺寸必然缩小。
• 优点：避免了在边界引入虚假信息（如零填充），对于某些对边缘噪声敏感的任务可能更纯粹。
• 缺点：特征图尺寸会随着网络加深而迅速缩小，可能导致最终特征图尺寸过小（甚至变为1x1或更早），丢失过多空间信息，不利于密集预测任务（如分割、检测）。
• 适用场景：在网络的深层，当特征图已经足够抽象，尺寸缩小不再是主要矛盾时；或者当你确实希望快速降采样，并且不关心严格的尺寸对齐时。

2.2 “SAME”模式：尺寸保持与边缘处理

‘SAME’模式的目标很明确：使输出特征图的空间尺寸（高度和宽度）与输入特征图相同。为了实现这一点，必须在输入的周围添加填充。填充的数量不是随意的，而是根据输入尺寸、卷积核尺寸和步长计算出来的。

计算所需填充量（以一边为例）的通用逻辑是： total_padding_needed = (output_size - 1) * stride + kernel_size - input_size 由于我们的目标是 output_size = input_size，所以公式简化为： total_padding_needed = (input_size - 1) * stride + kernel_size - input_size

通常，这个总填充量会被平均分配到输入的两侧（左/右， 上/下）。如果总填充量是奇数，则无法完全平均分配。不同的框架有不同的分配策略：

• TensorFlow/Keras 的默认策略是：尽可能多地在底部和右侧添加填充。例如，如果需要垂直方向总填充为3，则顶部加1，底部加2；如果需要总填充为4，则上下各加2。
• PyTorch 没有内置的 ‘SAME’ 模式。用户需要自己计算 padding 参数。为了实现类似 ‘SAME’ 的效果，通常的公式是 padding = kernel_size // 2（当stride=1时）。但这只是一种近似，当stride>1或kernel_size为偶数时，情况会更复杂，可能无法精确保持尺寸。

让我们用同样的例子（5x5输入，3x3卷积核，步长1）来看‘SAME’模式： 目标：输出尺寸 = 输入尺寸 = 5。 根据公式，总填充量 = (5-1)*1 + 3 - 5 = 4 + 3 - 5 = 2。 总填充量为2，是偶数，因此可以平均分配。在输入的上下左右各填充1行/列零值。这样，填充后的输入尺寸变为 7x7。卷积核在7x7的区域上以步长1滑动，计算输出尺寸：floor((7-3)/1)+1 = 5。成功保持了尺寸。

在TensorFlow/Keras和PyTorch中的体现：

• TensorFlow/Keras：直接指定padding='same'即可，框架会自动计算并添加填充。
  PYTHON 复制

  1

  model = tf.keras.Sequential([

  2

  tf.keras.layers.Conv2D(32, (3, 3), strides=1, padding='same', input_shape=(5, 5, 1))

  3

  ])

  4

  model.summary() # 输出形状会是 (None, 5, 5, 32)
• PyTorch：需要手动计算并设置padding。对于kernel_size=3, stride=1，设置padding=1即可实现‘SAME’效果。
  PYTHON 复制

  1

  conv_layer_same = nn.Conv2d(in_channels=1, out_channels=32, kernel_size=3, stride=1, padding=1)

  2

  # 对于一个 (1, 1, 5, 5) 的输入，输出将是 (1, 32, 5, 5)
  对于更复杂的情况（如stride=2），需要根据上述公式计算。例如，输入5x5，核3x3，步长2，希望输出尺寸为 ceil(5/2)=3（‘SAME’模式在步长>1时，输出尺寸为 ceil(input_size / stride)）。计算总填充：(3-1)*2 + 3 - 5 = 4+3-5=2。所以仍需设置padding=1（每边1）。在PyTorch中，你需要自己保证这个逻辑。

‘SAME’模式的核心特点与适用场景：

• 特点：有填充，输出尺寸与输入尺寸（在步长为1时）或与ceil(input/stride)（在步长>1时）保持一致。
• 优点：保持了特征图的空间分辨率，这对于需要精细空间信息的任务（如图像分割、目标检测、自编码器的解码器部分）至关重要。简化了网络设计，因为无需频繁计算尺寸变化。
• 缺点：引入了填充值（通常是0），可能会在图像边界区域引入无关信息，影响模型对真实边界的判断。增加了计算量（因为要对更大的、填充后的区域进行计算）。
• 适用场景：在需要保持特征图尺寸的层中广泛使用，尤其是在编码器-解码器结构（如U-Net）的对称路径上，或者在全卷积网络（FCN）中。在大多数经典的分类网络（如VGG, ResNet）的浅层和中间层也常见，以保留更多空间信息。

3. 步长（Stride）大于1时的微妙变化

前面的讨论大多基于步长（Stride）为1的情况。当步长大于1时，‘SAME’和‘VALID’的行为需要重新审视，这也是一个容易混淆的点。

核心规则：

• 对于 ‘VALID’ 模式，公式不变：output_size = floor((input_size - kernel_size) / stride) + 1。步长增大，输出尺寸会更快地缩小。
• 对于 ‘SAME’ 模式，其定义变为：输出尺寸 = ceil(输入尺寸 / 步长)。这里的ceil()是向上取整。填充量则根据这个目标输出尺寸反推计算。

为什么是ceil？ ‘SAME’模式的核心承诺是“尽可能多地利用输入”。当步长大于1时，我们无法再让输出尺寸等于输入尺寸（除非步长为1）。那么，最“贪婪”的策略就是确保卷积核的每一次滑动都尽可能覆盖输入的边缘。向上取整确保了即使最后一次移动卷积核时可能只有部分覆盖有效输入区域（其余部分由填充补足），我们也要进行这次计算，而不是像floor那样舍弃它。这可以理解为对输入信息的“最大化利用”。

举例说明：输入宽度为10，卷积核宽度为3，步长为4。

• ‘VALID’：输出宽度 = floor((10-3)/4)+1 = floor(7/4)+1 = 1+1 = 2。卷积核从位置0开始，移动到位置4（0， 4），位置8无效（8+3>10），所以只有两次有效计算。
• ‘SAME’：目标输出宽度 = ceil(10/4) = ceil(2.5) = 3。为了达到输出为3的目标，我们需要计算卷积核在位置0， 4， 8的卷积操作。位置8时，卷积核覆盖了输入索引8,9（共2个像素）和右侧1个单位的填充。总填充量根据公式计算：total_padding = (output-1)*stride + kernel - input = (3-1)*4 + 3 - 10 = 8+3-10=1。这1个单位的填充可以加在右侧。所以，在‘SAME’模式下，我们多进行了一次“边缘”计算。

实操心得： 在定义网络时，特别是使用‘SAME’填充且步长不为1时，务必清楚每一层输出尺寸的变化。你可以手动计算，或者更简单的方法是在构建模型后，用一个小批量（例如(1, H, W, C)）的随机数据model.summary()（Keras）或直接print(model(torch.randn(...)).shape)（PyTorch）来验证。很多网络结构图中标注的尺寸变化，都是基于特定填充和步长假设的。

4. 填充值（Padding Value）的选择与影响

我们一直默认填充值是0，这也是最常见的选择，称为“零填充”（Zero Padding）。但填充值其实是可以选择的，这会对模型行为产生微妙影响。

• 零填充（Zero Padding）：最常用。它的优点是简单，不会引入大的偏差。但缺点也很明显：在图像边界，突然出现的零值（黑色）与图像内容可能形成强烈对比，相当于人为制造了一个“硬边界”。卷积核学习到的特征可能会对这个硬边界产生反应，导致模型对物体在图像中的位置过于敏感（例如，一个物体紧贴图像边缘时，其激活模式可能与位于图像中央时不同）。
• 反射填充（Reflect Padding）：填充输入边界的镜像值。例如，对于序列 [a, b, c, d] 的左填充，可能会是 [c, b, a, b, c, d]。这种方式假设边界处的数据是平滑过渡的，能更好地保持边界处的连续性，常用于图像处理任务以减少边界伪影。
• 复制填充（Replicate Padding）：重复边界本身的值。例如，[a, b, c, d] 的左填充为 [a, a, a, a, b, c, d]。这也是一种平滑边界的策略。
• 常数填充（Constant Padding）：用某个指定的常数值填充，零填充是它的一个特例。

在主流框架中的使用：

• PyTorch：在nn.Conv2d中，padding_mode参数可以指定填充类型，如 ‘zeros’（默认）, ‘reflect’, ‘replicate’, ‘circular’。
  PYTHON 复制

  1

  conv_reflect = nn.Conv2d(1, 32, 3, stride=1, padding=1, padding_mode='reflect')
• TensorFlow/Keras：标准的Conv2D层只支持零填充。如果需要其他填充方式，通常需要在卷积层之前使用独立的填充层，如 tf.keras.layers.ZeroPadding2D, tf.keras.layers.ReflectionPadding2D（需要自定义或从tensorflow_addons导入）。

选择建议： 对于大多数通用计算机视觉任务（分类、检测），零填充因其简单高效而被广泛接受，模型能够从数据中学习到如何处理这些零值边界。在图像生成、风格迁移、图像修复等对视觉质量要求极高的任务中，反射填充或复制填充能显著减少输出图像边缘的瑕疵和人工痕迹，是更优的选择。我个人的经验是，在自编码器或生成对抗网络（GAN）的解码器部分使用反射填充，往往能获得更平滑、更自然的图像边缘。

5. 网络设计中的策略与实战避坑指南

理解了原理，最终要落实到网络设计上。如何选择‘SAME’和‘VALID’，并没有铁律，但有一些广为遵循的最佳实践和需要警惕的“坑”。

5.1 经典网络结构中的模式选择

观察主流网络架构，可以发现一些规律：

• VGGNet：大量使用小卷积核（3x3）和‘SAME’填充，配合步长1，使得在卷积过程中保持特征图尺寸不变，只在池化层（MaxPooling）进行下采样。这种设计使得网络非常规整，易于理解和分析。
• ResNet：在基础的残差块中，通常使用‘SAME’填充来保持主路径上的特征图尺寸，以便与捷径连接（Shortcut Connection）进行逐元素相加。当下采样时，则通过步长为2的卷积或池化层，并配合相应的填充或捷径连接中的1x1卷积来匹配尺寸。
• U-Net, FCN等分割网络：编码器（下采样路径）使用‘VALID’或带步长的‘SAME’卷积进行下采样。解码器（上采样路径）则普遍使用‘SAME’填充的转置卷积或普通卷积，以逐步恢复空间分辨率，并与编码器对应层的特征进行拼接（Skip Connection）。这里保持尺寸对齐至关重要。

5.2 尺寸对齐：网络设计中最常见的“坑”

这是我见过最多的问题，尤其是在自定义网络结构或修改现有网络时。问题通常表现为：在需要张量相加或拼接（Concatenate）的地方，程序抛出维度不匹配的错误。

场景还原：假设你设计了一个类似ResNet的残差块。主路径是两层3x3卷积，你希望输入x经过这两层后，尺寸不变，然后与x相加。如果你在两层卷积中都使用padding=‘same’且stride=1，那么尺寸确实不变，相加没问题。但如果你不小心在其中一层设置了stride=2（为了下采样），或者使用了padding=‘valid’，那么主路径的输出尺寸就会缩小，无法与原始的x相加。

排查与解决思路：

1. 公式计算：对于每一层，手动计算其输出尺寸。养成在代码注释中标注每层期望输入输出尺寸的习惯。
2. 动态打印：在模型构建或前向传播的调试阶段，打印关键张量的形状。在PyTorch中，可以在forward函数里加print(x.shape)；在Keras中，可以使用model.summary()或构建一个临时模型进行预测并打印中间层输出。
3. 使用尺寸计算工具：网上有很多现成的CNN尺寸计算器，输入各层参数，可以快速得到最终特征图尺寸。
4. 统一策略：在需要保持尺寸的模块内（如一个残差块），尽量统一使用padding=‘same’（或等价的填充计算）和stride=1。当下采样时，明确设计下采样层（如步长为2的卷积/池化），并处理好捷径连接的尺寸匹配问题（如使用步长为2的1x1卷积或池化）。

5.3 性能与效果的权衡

• 计算量：‘SAME’模式由于有填充，通常需要更多的浮点运算（FLOPs），因为卷积是在更大的“虚拟”图像上进行的。但在现代深度学习框架和硬件（如GPU）上，只要填充是对称的，其性能开销通常很小，框架有高度优化的实现。真正的性能瓶颈往往在于网络的深度、宽度和卷积核大小。
• 信息利用：‘VALID’模式“浪费”了边缘信息，而‘SAME’模式通过填充“创造”了边缘信息。对于图像中心区域的特征提取，两者差异不大。但对于图像边缘的物体，‘SAME’模式能提供更多的上下文（尽管部分是虚假的），可能有助于模型做出判断。在一些数据增强策略（如随机裁剪）被大量使用的训练中，物体出现在边缘的情况被均摊，这种差异会进一步减小。
• 我的经验：在绝大多数情况下，我会优先选择‘SAME’填充。它简化了尺寸管理，让网络设计更清晰，并且在实际任务中很少因为零填充带来显著的性能下降。只有在构建非常轻量级的网络（极度追求参数和计算效率），或者在某些特定的、对边界零值异常敏感的理论研究中，我才会考虑使用‘VALID’填充。对于图像生成类任务，反射填充是默认选项。

回到开头那个“边缘幽灵”的问题。同事使用了‘VALID’填充，随着网络加深，特征图急剧缩小。在最后上采样或进行全局池化时，模型对于原始图像边缘区域的信息掌握得非常少，几乎是基于极度抽象和压缩后的特征进行推断，这就导致了边缘区域预测的不稳定和伪影。将浅层卷积的填充方式改为‘SAME’后，特征图尺寸得以保持，更多的空间信息被传递到网络深层，那个“幽灵”自然就消失了。这个故事告诉我们，深度学习中，魔鬼往往藏在最基础的细节里。理解像padding这样的基础概念，是构建稳定、高效模型的基石。