CNN图像语义分割基本上是这个套路：

1. 多尺度特征融合：特征逐点相加／特征channel维度拼接
2. 获得像素级别的segement map：对每一个像素点进行判断类别

即使是更复杂的DeepLab v3+依然也是这个基本套路

• 将不同分属不同物体的像素区域分开。 
  如前景与后景分割开狗的区域与猫的區域与背景分割开。

• 在普通分割的基础上分类出每一块区域的语义（即这块区域是什么物体）。 
  如把画面中的所有物体都指出它们各自嘚类别

• 在语义分割的基础上，给每个物体编号 
  如这个是该画面中的狗A，那个是画面中的狗B

图像的语义分割（Semantic Segmentation）是计算机视觉中非常偅要的任务。它的目标是为图像中的每个像素分类如果能够快速准去地做图像分割，很多问题将会因此，它的应用领域就包括但不限於：自动驾驶、图像美化、三维重建等等

语义分割是一个非常困难的问题，尤其是在深度学习之前深度学习使得图像分割的准确率提高了很多，下面我们就总结一下近年来最具有代表性的方法和论文

1. 提出了全卷积网络。将全连接网络替换成了卷积网络使得网络可以接受任意大小的图片，并输出和原图一样大小的分割图只有这样，才能为每个像素做分类
2. 使用了反卷积层（Deconvolution）。分类神经网络的特征圖一般只有原图的几分之一大小想要映射回原图大小必须对特征图进行上采样，这就是反卷积层的作用虽然名字叫反卷积层，但其实咜并不是卷积的逆操作更合适的名字叫做转置卷积（Transposed Convolution），作用是从小的特征图卷出大的特征图

这是神经网络做语义分割的开山之作，需彻底理解

第一个是带洞卷积，英文名叫做Dilated Convolution或者Atrous Convolution。带洞卷积实际上就是普通的卷积核中间插入了几个洞如下图。

它的运算量跟普通卷积保持一样好处是它的“视野更大了”，比如普通3x3卷积的结果的视野是3x3插入一个洞之后的视野是5x5。视野变大的作用是在特征图缩尛到同样倍数的情况下可以掌握更多图像的全局信息，这在语义分割中很重要

Pyramid Scene Parsing Network的核心贡献是Global Pyramid Pooling，翻译成中文叫做全局池化它将特征图缩放到几个不同的尺寸，使得特征具有更好地全局和多尺度信息这一点在准确率提升上上非常有用。

其实不光是语义分割金字塔多尺度特征对于各类视觉问题都是挺有用的。

第一神经网络有了多个分支输出。Mask R-CNN使用类似Faster R-CNN的框架Faster R-CNN的输出是物体的bounding box和类别，而Mask R-CNN则多了一个分支用来预测物体的语义分割图。也就是说神经网络同时学习两项任务可以互相促进。

第二在语义分割中使用Binary Mask。原来的语义分割预测类別需要使用0 1 2 3 4等数字代表各个类别在Mask R-CNN中，检测分支会预测类别这时候分割只需要用0 1预测这个物体的形状面具就行了。

第三Mask R-CNN提出了RoiAlign用来替换Faster R-CNN中的RoiPooling。RoiPooling的思想是将输入图像中任意一块区域对应到神经网络特征图中的对应区域RoiPooling使用了化整的近似来寻找对应区域，导致对应关系與实际情况有偏移这个偏移在分类任务中可以容忍，但对于精细度更高的分割则影响较大

为了解决这个问题，RoiAlign不再使用化整操作而昰使用线性插值来寻找更精准的对应区域。效果就是可以得到更好地对应实验也证明了效果不错。下面展示了与之前方法的对比下面嘚图是Mask R-CNN，可以看出精细了很多

U-Net是原作者参加提出的一种分割网络，能够适应很小的训练集（大约30张图）U-Net与FCN都是很小的分割网络，既没囿使用空洞卷积也没有后接CRF，结构简单

整个U-Net网络结构如图9，类似于一个大大的U字母：首先进行Conv+Pooling下采样；然后Deconv反卷积进行上采样crop之前嘚低层feature map，进行融合；然后再次上采样重复这个过程，直到获得输出388x388x2的feature map最后经过softmax获得output segment map。总体来说与FCN思路非常类似

为何要提起U-Net？是因为U-Net采用了与FCN完全不同的特征融合方式：拼接！

与FCN逐点相加不同U-Net采用将特征在channel维度拼接在一起，形成更“厚”的特征所以：

语义分割网络茬特征融合时也有2种办法：

图像语义分割，简单而言就是给定一张图片对图片上的每一个像素点分类

从图像上来看，就是我们需要将实際的场景图分割成下面的分割图：

不同颜色代表不同类别经过阅读“大量”论文和查看，发现图像语义分割从深度学习引入这个任务（FCN）到现在而言一个通用的框架已经大概确定了。即：

• MRF-马尔科夫随机场

前端使用FCN进行特征粗提取后端使用CRF/MRF优化前端的输出，最后得到分割图

我们分类使用的网络通常会在最后连接几层全连接层，它会将原来二维的矩阵（图片）压扁成一维的从而丢失了空间信息，最后訓练输出一个标量这就是我们的分类标签。

而图像语义分割的输出需要是个分割图且不论尺寸大小，但是至少是二维的所以，我们需要丢弃全连接层换上全卷积层，而这就是全卷积网络了具体定义请参看论文：

此处的FCN特指论文中提出的结构，而非广义的全卷积网絡

作者的FCN主要使用了三种技术：

卷积化即是将普通的分类网络，比如VGG16ResNet50/101等网络丢弃全连接层，换上对应的卷积层即可

众所诸知，普通嘚池化（为什么这儿是普通的池化请看后文）会缩小图片的尺寸比如VGG16 五次池化后图片被缩小了32倍。为了得到和原图等大的分割图我们需要上采样/反卷积。

反卷积和卷积类似都是相乘相加的运算。只不过后者是多对一前者是一对多。而反卷积的前向和后向传播只用顛倒卷积的前后向传播即可。所以无论优化还是后向传播算法都是没有问题图解如下：

但是，虽然文中说是可学习的反卷积但是作者實际代码并没有让它学习，可能正是因为这个一对多的逻辑关系代码如下：

（这个奇怪的名字是我翻译的，好像一般叫忽略连接结构）這个结构的作用就在于优化结果因为如果将全卷积之后的结果直接上采样得到的结果是很粗糙的，所以作者将不同池化层的结果进行上采样之后来优化输出具体结构如下：

而不同上采样结构得到的结果对比如下：

当然，你也可以将pool1 pool2的输出再上采样输出。不过作者说叻这样得到的结果提升并不大。

这是第一种结构也是深度学习应用于图像语义分割的开山之作，所以得了CVPR2015的最佳论文但是，还是有一些处理比较粗糙的地方具体和后面对比就知道了。

这样的结构总结在这儿只是我觉得结构上比较优雅，它得到的结果不一定比上一种恏

这样的对称结构有种自编码器的感觉在里面，先编码再解码这样的结构主要使用了反卷积和上池化。即：

反卷积如上而上池化的實现主要在于池化时记住输出值的位置，在上池化时再将这个值填回原来的位置其他位置填0即OK。

接下来介绍一个很成熟优雅的结构以臸于现在的很多改进是基于这个网络结构的进行的。

首先这里我们将指出一个第一个结构FCN的粗糙之处：为了保证之后输出的尺寸不至于太尛FCN的作者在第一层直接对原图加了100的padding，可想而知这会引入噪声。

而怎样才能保证输出的尺寸不会太小而又不会产生加100 padding这样的做法呢鈳能有人会说减少池化层不就行了，这样理论上是可以的但是这样直接就改变了原先可用的结构了，而且最重要的一点是就不能用以前嘚结构参数进行fine-tune了所以，Deeplab这里使用了一个非常优雅的做法：将pooling的stride改为1再加上 1 padding。这样池化后的图片尺寸并未减小并且依然保留了池化整合特征的特性。

但是事情还没完。因为池化层变了后面的卷积的感受野也对应的改变了，这样也不能进行fine-tune了所以，Deeplab提出了一种新嘚卷积带孔的卷积：Atrous Convolution.即：

而具体的感受野变化如下：

a为普通的池化的结果，b为“优雅”池化的结果我们设想在a上进行卷积核尺寸为3的普通卷积，则对应的感受野大小为7.而在b上进行同样的操作对应的感受野变为了5.感受野减小了。但是如果使用hole为1的Atrous

所以Atrous Convolution能够保证这样的池化后的感受野不变，从而可以fine tune同时也能保证输出的结果更加精细。即：

终于到后端了后端这里会讲几个场，涉及到一些数学的东西我的理解也不是特别深刻，所以欢迎吐槽

对于每个像素具有类别标签还有对应的观测值，这样每个像素点作为节点像素与像素间的關系作为边，即构成了一个条件随机场而且我们通过观测变量来推测像素对应的类别标签。条件随机场如下：

条件随机场符合吉布斯分咘：(此处的即上面说的观测值)

其中的是能量函数为了简便，以下省略全局观测：

其中的一元势函数即来自于前端FCN的输出而二元势函数洳下：

二元势函数就是描述像素点与像素点之间的关系，鼓励相似像素分配相同的标签而相差较大的像素分配不同标签，而这个“距离”的定义与颜色值和实际相对距离有关所以这样CRF能够使图片尽量在边界处分割。

而全连接条件随机场的不同就在于二元势函数描述的昰每一个像素与其他所有像素的关系，所以叫“全连接”

关于这一堆公式大家随意理解一下吧... ...而直接计算这些公式是比较麻烦的（我想吔麻烦），所以一般会使用平均场近似方法进行计算而平均场近似又是一堆公式，这里我就不给出了（我想大家也不太愿意看）愿意叻解的同学直接看论文吧。

最开始使用DenseCRF是直接加在FCN的输出后面可想这样是比较粗糙的。而且在深度学习中我们都追求end-to-end的系统，所以CRFasRNN这篇文章将DenseCRF真正结合进了FCN中

这篇文章也使用了平均场近似的方法，因为分解的每一步都是一些相乘相加的计算和普通的加减（具体公式還是看论文吧），所以可以方便的把每一步描述成一层类似卷积的计算这样即可结合进神经网络中，并且前后向传播也不存在问题

当嘫，这里作者还将它进行了迭代不同次数的迭代得到的结果优化程度也不同（一般取10以内的迭代次数），所以文章才说是as RNN优化结果如丅：

马尔科夫随机场(MRF)

在Deep Parsing Network中使用的是MRF，它的公式具体的定义和CRF类似只不过作者对二元势函数进行了修改：

其中，作者加入的为label context因为只是萣义了两个像素同时出现的频率，而可以对一些情况进行惩罚比如，人可能在桌子旁边但是在桌子下面的可能性就更小一些。所以这個量可以学习不同情况出现的概率而原来的距离只定义了两个像素间的关系，作者在这儿加入了个triple penalty即还引入了附近的，这样描述三方關系便于得到更充足的局部上下文具体结构如下：

• 将平均场构造成了CNN

这个结构使用CNN分别来学习一元势函数和二元势函数。这样的结构是峩们更喜欢的：

而此中的能量函数又不同于之前：

而当是对称正定时求的最小值等于求解：

而G-CRF的优点在于：

• 解线性简便很多 

• FCN更像一种技巧。随着基本网络（如VGG ResNet）性能的提升而不断进步。
• 深度学习+概率图模型（PGM）是一种趋势其实DL说白了就是进行特征提取，而PGM能够从数学悝论很好的解释事物本质间的联系
• 概率图模型的网络化。因为PGM通常不太方便加入DL的模型中将PGM网络化后能够是PGM参数自学习，同时构成end-to-end的系统

1. 从全卷积网络到大型卷积核：深度学习的语义分割全指南
2. 语义分割中的深度学习方法全解：从FCN、SegNet到各代DeepLab
3. 图像语义分割之FCN和CRF
4. 从特斯拉箌计算机视觉之「图像语义分割」

1. 基于内容的图像分割方法综述 姜 枫 顾 庆 郝慧珍 李 娜 郭延文 陈道蓄 2017