DETR论文阅读笔记：End-to-End Object Detection with Transformer

Posted on In Views:

论文链接：arXiv:2005.12872v3 作者：Nicolas Carion et al. (Facebook AI Research) 模型关键词：Set Prediction、Hungarian Matching、Transformer、Object Queries

这篇论文提出了一个极具颠覆性的目标检测框架 —— DETR（DEtection TRansformer），它摒弃了 anchor、NMS、候选框等传统组件，使用纯粹的 CNN + Transformer 结构进行端到端训练，实现了“无组件”目标检测。

其背后的关键思路是：将目标检测任务视为集合预测（Set Prediction）问题。

集合预测的视角

传统目标检测模型通常视问题为“分类 + 回归”的密集预测任务，依赖大量候选区域与匹配策略。而 DETR 的独特之处在于：

  • 输出固定长度的 N 个预测结果；
  • Ground Truth 是无序集合；
  • 目标是：让模型输出与 GT 集合一一匹配的预测集合。

这就引出了集合预测问题的两个难点：

  1. 顺序不确定性：集合是无序的，预测结果的顺序不应影响 loss；
  2. 重复预测问题：输出中不能出现多个框对应同一个目标。

DETR 通过引入匈牙利匹配（Hungarian Matching）算法解决了这两个问题，在 loss 计算前动态对预测集合和 GT 集合进行最优一一匹配，从而构建 permutation-invariant 的损失函数。

模型结构概览

DETR 架构可以分为三部分：

1
图像 → CNN (ResNet) → 特征图 → Transformer 编码器 → Transformer 解码器 (Object Queries) → 分类 + 边框预测

1. CNN Backbone

  • 使用标准 ResNet-50/101 提取图像特征；
  • 输出为大小为 C×H×W 的 feature map。

2. Transformer Encoder

  • 将 CNN 特征展平为序列（HW × d）；
  • 加入二维 positional encoding；
  • 多层 self-attention + FFN，全局建模图像上下文。

3. Transformer Decoder + Object Queries

  • Decoder 输入是 N 个 learnable 的 object queries（比如 N=100）；
  • 每个 query 会尝试捕捉一个潜在目标；
  • Decoder 使用 self-attention + encoder-decoder attention 与图像交互；
  • 每个 decoder 输出向量由 FFN 映射为 [类别, 归一化边框(cx,cy,w,h)]。

最终预测就是 N 个框与类别，其中可能有部分为“no object”。

Hungarian Matching Loss（集合匹配损失）

DETR 的训练依赖集合预测的匹配机制。设：

  • 模型输出为 N 个预测：；
  • GT 集合为 ，用 padding 到 N；

步骤：

  1. 构建代价矩阵：预测与 GT 之间的 pairwise cost：

    • 分类代价：
    • 边框代价：L1 loss + GIoU loss

  2. 使用匈牙利算法求出最优匹配

  3. 根据匹配结果计算总 loss： 𝟙

这种方式完全避免了传统 anchor matching、NMS 的流程，真正做到了端到端训练。

性能表现与分析

在 COCO 验证集上的性能表现（ResNet-50）：

模型 AP APS APM APL
Faster R-CNN 42.0 25.2 45.6 54.6
DETR 42.0 20.5 45.8 61.1
DETR-DC5 43.3 22.5 47.3 61.1

观察：

  • DETR 在大物体（APL）上表现更好；
  • 小物体上性能略差（APS）；
  • 模型结构非常简洁，仅需标准 CNN + Transformer 模块；
  • 训练需要较长时间（~500 epochs），对 batch size 和收敛策略更敏感。

模块设计与消融实验

论文还包含了丰富的 ablation study，总结如下：

模块 有无该模块时的效果
编码器（global attention） 没有时 AP -3.9
多层 decoder（层越多越好） 层数越多，AP 越高，模型越能避免重复预测
FFN 模块 去掉后性能掉 2~3 AP
Positional Encoding decoder 中必须使用；encoder 中可选但有助于收敛

DETR 的后续探索方向

虽然 DETR 开启了“无 anchor 端到端检测”的新方向，但它的原始版本在收敛速度、精度、可扩展性方面仍有待优化。

总结

DETR 是一个纯粹、优雅的检测器，它将目标检测问题从传统的密集回归范式转换为集合预测问题，启发了大量后续研究。