文章目录
- 1、学习目标
- 1.1、Inception-v4：76层
- 1.2、Inception-ResNet
- 1.3、Scaling of the Residuals
- 2、inception系列
- 3、启发点
- 4、总结
Inception-4，Inception-Resnet and the Impact of residual connections on learning
1、学习目标
1.1、Inception-v4：76层
六大模块：
stem、inception-A/B/C、reduction-A/B
1.2、Inception-ResNet
V1六大模块
stem、inception-A/B/C、reduction-A/B
V2六大模块
stem、inception-A/B/C、reduction-A/B
1.3、Scaling of the Residuals
缩小激活值（×0.1-0.3），以稳定模型的训练，解决了由于通道数超过1000导致的池化以后可能出现0值
2、inception系列
v1
借鉴NIN的1X1卷积，
借鉴多尺度高斯滤波器的inception模块
22层
v2
针对内部协变量偏移，提出BN
5X5卷积替换3X3卷积
采用步长为2的卷积降低分辨率
31层
v3
四个模型设计准则
卷积分解方式
高效特征图下降策略（reduction-A/B）
标签平滑策略
在v2基础上增加RMSProp，label smoothing，factorized7X7，BN-auxiliary
v4
非对称卷积的使用
步长为2，不padding，卷积尺寸减半；不padding，卷积尺寸下降2-----高效特征图下降策略（reduction-A/B）
引入resnet
缩小激活值（scaling of the residuals）
沿用经典的先大卷积核即大的感受野，再用小卷积核
76层
3、启发点
4、总结
A+B的重要性、6大模块的设计