关键是要学到 transformation-invariant features，CNN 没有抽取 scale-invariant 特征的设计，因此也就没有 scale-invariant 性质
max-pooling [1] for small translation-invariance 因为我需要对位置很敏感，所以不应该有 max-pooling
除了 max-pooling for small translation-invariance 以外，CNN 中没有针对其他 geometric transformations 来 modeling
究其根本，是因为卷积操作本身具有固定的几何结构，而由其层叠搭建而成的卷积网络的几何结构也是固定的，所以不具有对于几何形变建模的能力。
为什么这么说？怎么理解？
微软亚洲研究院的研究员们发现，标准卷积中的规则格点采样是导致网络难以适应几何形变的 “罪魁祸首”。
a convolution unit samples the input feature map at fixed locations;
the receptive field sizes of all activation units in the same CNN layer are the same.
This is undesirable for high level CNN layers that encode the semantics over spatial locations.
Because different locations may correspond to objects with different scales or deformation, adaptive determination of scales or receptive field sizes is desirable for visual recognition with fine localization
It enables free form deformation of the sampling grid.
让 感受野 跟 目标的形变 相适应
我的问题是 deformation 应该根据 feature 来吧，但在见到 feature 前，我怎么知道用什么 deformation 呢？
The offsets are learned from the preceding feature maps, via additional convolutional layers.
严格意义上讲，deformable convolutional 不仅仅只适用于 object detection，作为对常见的卷积的一种改良，它可以广泛应用在各个网络中，和空洞卷积一样，是对传统卷积的改良，而且某种意义上也可以说是空洞卷积的进一步拓展。
目标检测论文阅读：Deformable Convolutional Networks
要 同一特征图，但对其做卷积操作的 filter 的 感受野是不同的
对于 deformable convolution 来说，不同位置上的 filter 虽然 weights 相同，但是其输入因为位置的不同而有所不同
啊，权重竟然是一样的！
每个位置上的 filter 的每个输入都学习一个 offset 来得到新的输入采样点
不同位置的卷积核采样点位置会根据图像内容发生自适应的变化，从而适应不同物体的形状、大小等几何形变
这个是通过 计算 偏移量 的也是 网络结构的一部分，通过另外一个平行的标准卷积单元计算得到
可变形卷积网络首次表明了可以在卷积网络中显式地学习几何形变，它修改了已使用二十余年的基本卷积单元结构