网络结构按工作模式怎么分？网络拓扑结构分类详解

在深度学习与计算机视觉领域,网络结构的设计直接决定了模型处理信息的方式与效率，根据工作模式（即特征提取与分类/回归模块之间的交互逻辑及数据流向），网络结构主要可分为串行结构（Sequential/Feedforward）与并行/分支结构（Parallel/Branching）两大类，以下将对这两种模式进行详细解析。

串行结构：线性堆叠与深度演进

串行结构是最基础且最常见的网络构建方式,其核心逻辑是将多个层（Layer）或模块按照顺序依次连接，数据从前向后单向流动，这种结构强调特征的逐级抽象，浅层提取边缘、纹理等低级特征，深层提取语义、形状等高级特征。

• 典型代表：LeNet-5、VGGNet、ResNet（基础残差块内部仍遵循串行逻辑，尽管引入了跳跃连接，但主干仍是串行堆叠）。
• 工作机制：输入数据经过第一层卷积/全连接，输出作为第二层的输入，依此类推。
• 优势：
  • 实现简单：易于调试和理解，计算图清晰。
  • 参数共享高效：卷积操作在空间上滑动，计算效率高。
  • 特征层次分明：符合人类对图像认知的“由局部到整体”的过程。

• 局限性：
  • 感受野受限：随着网络加深，虽然感受野增大，但深层特征可能丢失空间细节。
  • 梯度消失/爆炸：极深的串行网络难以训练，需依赖Batch Normalization或Residual Connection等技术缓解。

并行/分支结构：多尺度融合与注意力机制

并行结构打破了单一数据流的限制,允许网络在同一层级或不同层级同时处理多条路径，这些路径可以是对同一输入的不同变换，也可以是不同尺度的特征图，这些分支的输出会通过拼接（Concatenation）、相加（Addition）或加权融合等方式合并，以获取更丰富、更鲁棒的特征表示。

• 典型代表：Inception系列、ResNeXt、DenseNet、Transformer架构。
• 工作机制：
  1. 多分支并行：如Inception模块中，同时使用1×1、3×3、5×5卷积和最大池化，捕捉不同尺度的特征。
  2. 密集连接：如DenseNet，每一层都与前面所有层直接相连，实现特征的最大化复用。
  3. 自注意力机制：如Transformer，通过Q、K、V矩阵并行计算所有位置之间的相关性，打破局部感受野限制。
• 优势：
  • 多尺度感知：能有效应对目标大小不一的问题。
  • 特征复用率高：减少冗余计算，提升梯度传播效率。
  • 表达能力强：能够捕捉更复杂的非线性关系和全局依赖。

• 局限性：
  • 计算复杂度高：分支增多导致参数量和计算量显著增加。
  • 设计难度大：需要精心平衡各分支的权重和融合策略，否则易导致过拟合或收敛困难。

两类工作模式对比归纳

为了更直观地理解两种工作模式的区别,下表从多个维度进行了对比：

相关问题与解答

为什么ResNet虽然引入了跳跃连接，但仍被归类为具有串行主干的网络结构，而非纯粹的并行结构？

解答：

ResNet的核心创新在于残差块（Residual Block），其内部确实包含了一条旁路（Identity mapping），但这并不改变其整体架构的串行本质，原因如下：

1. 主干逻辑未变：ResNet的主干网络依然是由多个残差块按顺序堆叠而成，数据主要沿着卷积层的路径向前传播。
2. 旁路作用有限：跳跃连接的主要作用是解决梯度消失问题，允许梯度直接回传，而非用于提取多尺度特征或并行处理不同信息，它更像是一种“辅助通道”，而非独立的并行分支。
3. 对比Inception：相比之下，Inception模块中的多个卷积核是真正并行处理输入并融合结果，而ResNet的跳跃连接只是将前一层输出直接加到当前层输出上，不涉及特征维度的并行变换与融合，ResNet被视为在串行框架下优化梯度传播的结构，而非改变工作模式的并行结构。

在目标检测任务中，为什么FPN（Feature Pyramid Network）倾向于采用并行/分支式的特征融合策略，而不是简单的串行加深网络？

解答：

目标检测任务面临的核心挑战是多尺度目标的存在（如图像中既有远处的微小车辆，也有近处的大型行人）。

1. 串行网络的局限性：在串行网络中，随着层数加深，特征图的空间分辨率降低，语义信息增强，但位置信息丢失，深层特征适合检测大目标，但无法有效定位小目标；浅层特征位置精确但语义弱，难以区分复杂背景。
2. FPN的并行融合优势：FPN构建了一个自顶向下的路径和横向连接，将高层语义丰富的特征图与低层高分辨率特征图进行并行融合，这种结构允许网络同时利用深层的语义信息和浅层的细节信息，形成多尺度的特征金字塔。
3. 通过并行分支融合不同层级的特征,FPN能够在一个统一的框架内有效处理不同尺度的目标，这是单纯串行加深网络无法实现的，并行/分支式结构在解决多尺度问题时具有不可替代的优势。