内容节选自《神经网络与深度学习》电子版:https://nndl.github.io/
对于一个卷积层,如果希望增加输出单元的感受野,一般可以通过三种方式 实现:
1)增加卷积核的大小;
2)增加层数,比如两层3×3的卷积可以近似一层5×5 卷积的效果;
3)在卷积之前进行汇聚操作。
前两种方式会增加参数数量,而 第三种方式会丢失一些信息。
空洞卷积(Atrous Convolution)是一种不增加参数数量同时增加输出单元感受野的一种方法,也称为膨胀卷积(Dilated Convolution)。 空洞卷积通过给卷积核插入“空洞”来变相地增加其大小。
如果在卷积核的每两个元素之间插入??1个空洞,卷积核的有效大小为
?′=?+(??1)×(??1)
其中?称为膨胀率(DilationRate),当?=1时卷积核为普通的卷积核。
D=2时,K' = 3+(3-1)*(2-1) = 5
D=3时,K' = 3+(3-1)*(3-1) = 7