-
bottleneck
将信息压缩再放大的神经网络结构,可以有效降低模型参数量
-
左边是对输入进行常规卷积，右边是对输入先进行PW(Pointwise_Convolution，可参考我的上一篇博客)，之后用小卷积核进行特征提取，最后同样用PW升维。两边的输出形状一致，但是右边具有更小的参数量
-
残差网络加上bottleneck，可以训练更小的参数量、更深的模型
-
其中两个1X1fliter分别用于降低和升高特征维度，主要目的是为了减少参数的数量，从而减少计算量，且在降维之后可以更加有效、直观地进行数据的训练和特征提取，对比如下图所示。
…
…
- FFN —
待续…
