用sigmoid函数,O取值为0~1,O(1-O)最大值为0.25,若神经网络层数多,则会造成更新项趋近于0,称为梯度消失。
- 在不同的深度构造了3个输出。
- inception模块:
- 其中,1*1卷积起到改变维度的作用,减少参数个数,比如,输入为192个通道,经过32个1*1卷积核运算,即可以将通道数降为32。
残差块:
- 通过恒等映射,梯度无衰减传递,消除梯度消失。
- 解决网络退化问题。
- 虚线恒等映射,在恒等映射的基础上,加个卷积层,以和F(X)同等大小、同样通道数的映射。
- 全局平均池化层,经过池化,每个通道变成一个平均数。