7.1.2 MobileNetv3网络详解

# MobileNet V3网络详解

1. 更新了Block(在原来v2的bottleneck基础上改成了bneck)
2. 使用NAS搜索参数(Neural Architecture Search)，不细说
3. 重新设计耗时层结构

## block具体更新的点

1. 加入了SE模块(SE是通道的注意力机制模块)
2. 更新了激活函数

### SE模块详解

如上图下半部分所示，就是将特征图进行池化，假设 7*7*32的特征图，池化成1*1*32的向量，然后经过第一个全连接层缩减得到1*1*8，然后经过第二个全连接层复原得到1*1*32。

下图和我理解的差不多，唯一需要注意的是，如何复原成原来的特征图大小。下图解释是，得到了0.5、0.6，然后用原来的特征图和这个数据相乘，也就是把0.5、0.6当成了channel对应的权重（这里可以理解为对特征矩阵每一个channel分析出一个权重关系，比较重要的channel就赋予一个比较大的权重，不是很重要的channel就赋予一个比较小的权重）。

### 更新激活函数详解

下图中下半部分中的Mobilenet V3 block中的NL就代表了非线性激活函数。但不同层使用的是不同的激活函数

## 重新设计耗时层结构

1. 减少第一个卷积层的卷积核个数
2. 精简last stage

看不懂，摆烂了！