ResNet152结构图如何绘制残差块连接？

Question

在绘制ResNet152结构图时，如何正确表示深层残差块中的短路连接（shortcut connection）是一个常见技术难题。由于ResNet152包含多个堆叠的瓶颈残差块（bottleneck block），且在特征图尺寸变化处需通过1×1卷积调整维度，许多开发者难以清晰表达跨层跳跃连接的走向与维度匹配机制。特别是在第2、3、4阶段首个残差块中，当空间分辨率减半时，捷径分支常引入投影卷积，易与恒等映射混淆。此外，在结构图中如何可视化数十个连续残差块而不使图像过于复杂，也是一大挑战。因此，如何准确、简洁地绘制残差块间的连接方式，成为构建清晰ResNet152架构图的关键问题。

Answer 1

1. 理解ResNet152中的残差块与短路连接基础

ResNet152是一种深度卷积神经网络，其核心结构是残差学习（Residual Learning），通过引入“短路连接”（Shortcut Connection）解决深层网络训练中的梯度消失问题。在瓶颈残差块（Bottleneck Block）中，输入特征图经过三个卷积层：1×1降维、3×3卷积、1×1升维，而短路连接则将输入直接加到输出上。

当特征图的空间尺寸不变时，短路连接通常采用恒等映射（Identity Mapping）；但当空间分辨率减半（如从56×56变为28×28），通道数也发生变化时，必须使用投影卷积（Projection Convolution）进行维度匹配。

2. 残差块类型分类与连接逻辑分析

阶段	残差块类型	空间变化	捷径分支操作	是否使用1×1卷积
Stage 2 首块	Bottleneck	56×56 → 28×28	投影卷积	是
Stage 3 首块	Bottleneck	28×28 → 14×14	投影卷积	是
Stage 4 首块	Bottleneck	14×14 → 7×7	投影卷积	是
非首块残差块	Bottleneck	无变化	恒等映射	否
Stage 1 所有块	Bottleneck	224→56	初始卷积+池化后堆叠	视情况

3. 可视化挑战与设计原则

• 连续堆叠的残差块数量多（例如Stage 4包含36个），若逐一绘制会导致结构图冗长复杂。
• 短路连接在不同阶段的行为差异容易被误标为恒等映射，尤其是在投影卷积未明确标注的情况下。
• 建议采用“折叠表示法”对重复模块进行抽象，例如用[n×]标注重复次数。
• 使用不同颜色或线型区分主路径与短路连接，增强可读性。
• 在关键维度变换位置添加注释标签，说明卷积核大小与步长。

4. Mermaid流程图示例：典型瓶颈残差块结构

graph TD
    A[Input Feature Map] --> B[1×1 Conv, 64 channels]
    B --> C[BatchNorm + ReLU]
    C --> D[3×3 Conv, stride=2/1, 64 channels]
    D --> E[BatchNorm + ReLU]
    E --> F[1×1 Conv, 256 channels]
    F --> G[BatchNorm]
    
    H[Shortcut Path] -->|No change| G
    A -->|Downsample?| H
    
    H --> I{Is dimension changed?}
    I -- Yes --> J[1×1 Conv, stride=2, out_channels=256]
    I -- No --> K[Identity]

    J --> G
    K --> G

    G --> L[Add & ReLU Output]
    

5. 实际绘图技巧与工具建议

在绘制完整ResNet152架构图时，推荐以下策略：

1. 将整个网络划分为5个主要阶段（Stem + Stage 1~4）。
2. 每个Stage内部仅展开第一个残差块，其余以“[×N]”形式标注重复次数（如Stage 4为[×36]）。
3. 使用双线或虚线明确表示短路连接，并在线旁标注“Identity”或“1×1 Conv, s=2”。
4. 在Stage入口处标明输入输出尺寸与通道数，例如“56×56×256 → 28×28×512”。
5. 利用图形软件（如draw.io、PowerPoint、Latex TikZ）中的分组功能封装残差块。
6. 添加图例说明符号含义，提升专业文档的可理解性。
7. 对于学术发表或技术报告，可附带代码片段辅助解释结构实现。

6. PyTorch风格代码片段参考

class Bottleneck(nn.Module):
    expansion = 4

    def __init__(self, in_channels, out_channels, stride=1, downsample=None):
        super(Bottleneck, self).__init__()
        self.conv1 = nn.Conv2d(in_channels, out_channels, kernel_size=1, bias=False)
        self.bn1 = nn.BatchNorm2d(out_channels)
        self.conv2 = nn.Conv2d(out_channels, out_channels, kernel_size=3, 
                               stride=stride, padding=1, bias=False)
        self.bn2 = nn.BatchNorm2d(out_channels)
        self.conv3 = nn.Conv2d(out_channels, out_channels * self.expansion, 
                               kernel_size=1, bias=False)
        self.bn3 = nn.BatchNorm2d(out_channels * self.expansion)
        self.relu = nn.ReLU(inplace=True)
        self.downsample = downsample  # Projection when needed

    def forward(self, x):
        identity = x
        out = self.conv1(x)
        out = self.bn1(out)
        out = self.relu(out)
        out = self.conv2(out)
        out = self.bn2(out)
        out = self.relu(out)
        out = self.conv3(out)
        out = self.bn3(out)
        
        if self.downsample is not None:
            identity = self.downsample(x)  # 1x1 conv + stride for dim match
            
        out += identity
        out = self.relu(out)
        return out