论文原址：https://arxiv.org/pdf/1311.2901.pdf
1. 背景
我们都知道 CNN 卷积神经网络 效果好，但是一直以来都是一个黑盒，有2个关键问题：
- However there is no clear understanding of why they perform so wel
- or how they might be improved
其实包括我自己也是很困惑的，卷积神经网络有非常多。但是你看网上的资源来来回回都是在讲这些神经网络的结构。但是很少人知道为什么要把结构设计成这个样子。比如LeNet-5第一层卷积层为啥需要6个通道？为什么整个网络只需要2个卷积层，能不能更多或者更少？
为了解决这个黑盒问题，论文作者提出了一种可视化的方法，能够观测到卷积层的feature maps到底识别到了图片的什么特征，并以此反馈来改进神经网络的结构设计。最后通过这个方法，作者在ImageNet测试集上取得了非常突出的结果
2. 方法
论文的核心思想：map these activities back to the input pixel space, showing what input pattern originally caused a given activation in the feature maps
以LeNet-5这种经典的2D网络为例，正向的卷积过程一般包括几个步骤：
- filter
- relu
- max pooling
- 【optionally】local contrast operation
