CS231n:卷积神经网络

卷积神经网络是一种用来处理局部和整体相关性的计算网络结构。被应用在图像识别、自然语言处理甚至是语音识别领域，因为图像数据具有显著的局部与整体关系，卷积神经网络在图像识别领域的应用获得了巨大的成功。

卷积神经网络的组成层

以图象分类人物为例，CNN一般包含5种类型的网络层次结构：

• $W_1\times H_1\times 3$对应原始图像或经过预处理的像素值矩阵，3对应RGB图像的通道。
• $K$表示卷积层中卷积核（滤波器）的个数。
• $W_2\times H_2$ 为池化后特征图的尺度，在全局池化中尺度对应$1\times 1$。
• $(W_2?H_2?K)$是将多维特征压缩到1维之后的大小，$C$对应的则是图像类别个数。

输入层?通常是输入卷积神经网络的原始数据或经过预处理的数据。可以是图像识别领域中原始三维的多彩图像，也可以是音频识别领域中经过傅利叶变换的二维波形数据，甚至是自然语言处理中一维表示的句子向量。对于图像分类任务，输入通常为$H\times W\times 3$的像素矩阵。卷积网络会将输入层的数据传递到一系列卷积、池化等操作进行特征提取和转化，最终由全连接层对特征进行汇总和结果输出。根据计算能力、存储大小和模型结构的不同，卷积神经网络每次可以批量处理的图像个数不尽相同，若指定输入层接收到的图像个数为$W$，则输入层的输出数据为$N\times H\times W\times 3$。

卷积层?通常用作对输入层输入数据进行特征提取，通过卷积核矩阵对原始数据中隐含关联性的一种抽象。卷积操作原理上其实是对两张像素矩阵进行点乘求和的数学操作，其中一个矩阵为输入的数据矩阵，另一个矩阵则为卷积核（滤波器或特征矩阵），求得的结果表示为原始图像中提取的特定局部特征。表示卷积操作过程中的不同填充策略，上半部分采用零填充，下半部分采用有效卷积（舍弃不能完整运算的边缘部分）。

激活层?负责对卷积层抽取的特征进行激活，由于卷积操作是由输入矩阵与卷积核矩阵进行点乘求和的线性变化关系，需要激活层对其进行非线性的映射。激活层主要由激活函数组成，即在卷积层输出结果的基础上嵌套一个非线性函数，让输出的特征图具有非线性关系。卷积网络中通常采用ReLU来充当激活函数（还包括tanh和sigmoid等）ReLU的函数形式如下公式所示：
$$f(x)=\{\begin{array}{ll}0& \text{if }x<0\\ x& \text{if }x\ge 0\end{array}$$

池化层?又称为降采样层，作用是对感受域内的特征进行筛选，提取区域内最具代表性的特征，能够有效地降低输出特征尺度，进而减少模型所需要的参数量。按操作类型通常分为最大池化、平均池化和求和池化，它们分别提取感受域内最大、平均与总和的特征值作为输出，最常用的是最大池化。

全连接层?负责对卷积神经网络学习提取到的特征进行汇总，将多维的特征输入映射为二维的特征输出，高维表示样本批次，低位常常对应任务目标。

卷积在图像中的直观作用

• 在卷积神经网络中，卷积常用来提取图像的特征，但不同层次的卷积操作提取到的特征类型是不相同的。

• 图像与不同类型卷积核的卷积可以实现边缘检测、锐化和模糊等操作。下表显示了应用不同类型的卷积核（滤波器）后的卷积图像。

卷积层的基本参数

卷积层中需要用到卷积核（滤波器或特征检测器）与图像特征矩阵进行点乘运算，利用卷积核与对应的特征感受域进行划窗式运算时，需要设定卷积核对应的大小、步长、个数以及填充的方式。下表为卷积层的基本参数：

卷积层和池化层的区别