基于RCNN的物体检测

基于R-CNN的物体检测

原文地址&＃xff1a;http://blog.csdn.net/hjimce/article/details/50187029

作者&＃xff1a;hjimce

一、相关理论

   本篇博文主要讲解2014年CVPR上的经典paper&＃xff1a;《Rich feature hierarchies for Accurate Object Detection and Segmentation》&＃xff0c;这篇文章的算法思想又被称之为&＃xff1a;R-CNN&＃xff08;Regions with Convolutional Neural Network Features&＃xff09;&＃xff0c;是物体检测领域曾经获得state-of-art精度的经典文献。

   这篇paper的思想&＃xff0c;改变了物体检测的总思路&＃xff0c;现在好多文献关于深度学习的物体检测的算法&＃xff0c;基本上都是继承了这个思想&＃xff0c;比如&＃xff1a;《Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition》&＃xff0c;所以学习经典算法&＃xff0c;有助于我们以后搞物体检测的其它paper。

    之前刚开始接触物体检测算法的时候&＃xff0c;老是分不清deep learning中&＃xff0c;物体检测和图片分类算法上的区别&＃xff0c;弄得我头好晕&＃xff0c;终于在这篇paper上&＃xff0c;看到了解释。物体检测和图片分类的区别&＃xff1a;图片分类不需要定位&＃xff0c;而物体检测需要定位出物体的位置&＃xff0c;也就是相当于把物体的bbox检测出来&＃xff0c;还有一点物体检测是要把所有图片中的物体都识别定位出来。

二、基础知识

1、有监督预训练与无监督预训练

(1)无监督预训练(Unsupervised pre-training)

无监督预训练这个名词我们比较熟悉&＃xff0c;栈式自编码、DBM采用的都是采用无监督预训练。因为预训练阶段的样本不需要人工标注数据&＃xff0c;所以就叫做无监督预训练。

(2)有监督预训练(Supervised pre-training)

所谓的有监督预训练&＃xff0c;我们也可以把它称之为迁移学习。比如你已经有一大堆标注好的人脸年龄分类的图片数据&＃xff0c;训练了一个CNN&＃xff0c;用于人脸的年龄识别。然后当你遇到新的项目任务是&＃xff1a;人脸性别识别&＃xff0c;那么这个时候你可以利用已经训练好的年龄识别CNN模型&＃xff0c;去掉最后一层&＃xff0c;然后其它的网络层参数就直接复制过来&＃xff0c;继续进行训练。这就是所谓的迁移学习&＃xff0c;说的简单一点就是把一个任务训练好的参数&＃xff0c;拿到另外一个任务&＃xff0c;作为神经网络的初始参数值,这样相比于你直接采用随机初始化的方法&＃xff0c;精度可以有很大的提高。

图片分类标注好的训练数据非常多&＃xff0c;但是物体检测的标注数据却很少&＃xff0c;如何用少量的标注数据&＃xff0c;训练高质量的模型&＃xff0c;这就是文献最大的特点&＃xff0c;这篇paper采用了迁移学习的思想。文献就先用了ILSVRC2012这个训练数据库&＃xff08;这是一个图片分类训练数据库&＃xff09;&＃xff0c;先进行网络的图片分类训练。这个数据库有大量的标注数据&＃xff0c;共包含了1000种类别物体&＃xff0c;因此预训练阶段cnn模型的输出是1000个神经元&＃xff0c;或者我们也直接可以采用Alexnet训练好的模型参数。

2、IOU的定义

因为没有搞过物体检测不懂IOU这个概念&＃xff0c;所以就简单介绍一下。物体检测需要定位出物体的bounding box&＃xff0c;就像下面的图片一样&＃xff0c;我们不仅要定位出车辆的bounding box 我们还要识别出bounding box 里面的物体就是车辆。对于bounding box的定位精度&＃xff0c;有一个很重要的概念&＃xff0c;因为我们算法不可能百分百跟人工标注的数据完全匹配&＃xff0c;因此就存在一个定位精度评价公式&＃xff1a;IOU。

IOU定义了两个bounding box的重叠度&＃xff0c;如下图所示&＃xff1a;

矩形框A、B的一个重合度IOU计算公式为&＃xff1a;

IOU&＃61;(A∩B)/(A∪B)

就是矩形框A、B的重叠面积占A、B并集的面积比例:

IOU&＃61;SI/(SA&＃43;SB-SI)

3、非极大值抑制

因为一会儿讲RCNN算法&＃xff0c;会从一张图片中找出n多个可能是物体的矩形框&＃xff0c;然后为每个矩形框为做类别分类概率&＃xff1a;

就像上面的图片一样&＃xff0c;定位一个车辆&＃xff0c;最后算法就找出了一堆的方框&＃xff0c;我们需要判别哪些矩形框是没用的。非极大值抑制&＃xff1a;先假设有6个矩形框&＃xff0c;根据分类器类别分类概率做排序&＃xff0c;从小到大分别属于车辆的概率分别为A、B、C、D、E、F。

(1)从最大概率矩形框F开始&＃xff0c;分别判断A~E与F的重叠度IOU是否大于某个设定的阈值;

(2)假设B、D与F的重叠度超过阈值&＃xff0c;那么就扔掉B、D&＃xff1b;并标记第一个矩形框F&＃xff0c;是我们保留下来的。

(3)从剩下的矩形框A、C、E中&＃xff0c;选择概率最大的E&＃xff0c;然后判断E与A、C的重叠度&＃xff0c;重叠度大于一定的阈值&＃xff0c;那么就扔掉&＃xff1b;并标记E是我们保留下来的第二个矩形框。

就这样一直重复&＃xff0c;找到所有被保留下来的矩形框。

4、VOC物体检测任务

这个就相当于一个竞赛&＃xff0c;里面包含了20个物体类别&＃xff1a;http://host.robots.ox.ac.uk/pascal/VOC/voc2012/examples/index.html  还有一个背景&＃xff0c;总共就相当于21个类别&＃xff0c;因此一会设计fine-tuning CNN的时候&＃xff0c;我们softmax分类输出层为21个神经元。

三、算法总体思路 

    开始讲解paper前&＃xff0c;我们需要先把握总体思路&＃xff0c;才容易理解paper的算法。

    图片分类与物体检测不同&＃xff0c;物体检测需要定位出物体的位置&＃xff0c;这种就相当于回归问题&＃xff0c;求解一个包含物体的方框。而图片分类其实是逻辑回归。这种方法对于单物体检测还不错&＃xff0c;但是对于多物体检测就……

    因此paper采用的方法是&＃xff1a;首先输入一张图片&＃xff0c;我们先定位出2000个物体候选框&＃xff0c;然后采用CNN提取每个候选框中图片的特征向量&＃xff0c;特征向量的维度为4096维&＃xff0c;接着采用svm算法对各个候选框中的物体进行分类识别。也就是总个过程分为三个程序&＃xff1a;a、找出候选框&＃xff1b;b、利用CNN提取特征向量&＃xff1b;c、利用SVM进行特征向量分类。具体的流程如下图片所示&＃xff1a;

后面我们将根据这三个过程&＃xff0c;进行每个步骤的详细讲解。

四、候选框搜索阶段

1、实现方式

当我们输入一张图片时&＃xff0c;我们要搜索出所有可能是物体的区域&＃xff0c;这个采用的方法是传统文献的算法&＃xff1a;《search for object recognition》&＃xff0c;通过这个算法我们搜索出2000个候选框。然后从上面的总流程图中可以看到&＃xff0c;搜出的候选框是矩形的&＃xff0c;而且是大小各不相同。然而CNN对输入图片的大小是有固定的&＃xff0c;如果把搜索到的矩形选框不做处理&＃xff0c;就扔进CNN中&＃xff0c;肯定不行。因此对于每个输入的候选框都需要缩放到固定的大小。下面我们讲解要怎么进行缩放处理&＃xff0c;为了简单起见我们假设下一阶段CNN所需要的输入图片大小是个正方形图片227*227。因为我们经过selective search 得到的是矩形框&＃xff0c;paper试验了两种不同的处理方法&＃xff1a;

(1)各向异性缩放

这种方法很简单&＃xff0c;就是不管图片的长宽比例&＃xff0c;管它是否扭曲&＃xff0c;进行缩放就是了&＃xff0c;全部缩放到CNN输入的大小227*227&＃xff0c;如下图(D)所示&＃xff1b;

(2)各向同性缩放

因为图片扭曲后&＃xff0c;估计会对后续CNN的训练精度有影响&＃xff0c;于是作者也测试了“各向同性缩放”方案。这个有两种办法

A、直接在原始图片中&＃xff0c;把bounding box的边界进行扩展延伸成正方形&＃xff0c;然后再进行裁剪&＃xff1b;如果已经延伸到了原始图片的外边界&＃xff0c;那么就用bounding box中的颜色均值填充&＃xff1b;如下图(B)所示;

B、先把bounding box图片裁剪出来&＃xff0c;然后用固定的背景颜色填充成正方形图片(背景颜色也是采用bounding box的像素颜色均值),如下图(C)所示;

对于上面的异性、同性缩放&＃xff0c;文献还有个padding处理&＃xff0c;上面的示意图中第1、3行就是结合了padding&＃61;0,第2、4行结果图采用padding&＃61;16的结果。经过最后的试验&＃xff0c;作者发现采用各向异性缩放、padding&＃61;16的精度最高&＃xff0c;具体不再啰嗦。

OK&＃xff0c;上面处理完后&＃xff0c;可以得到指定大小的图片&＃xff0c;因为我们后面还要继续用这2000个候选框图片&＃xff0c;继续训练CNN、SVM。然而人工标注的数据一张图片中就只标注了正确的bounding box&＃xff0c;我们搜索出来的2000个矩形框也不可能会出现一个与人工标注完全匹配的候选框。因此我们需要用IOU为2000个bounding box打标签&＃xff0c;以便下一步CNN训练使用。在CNN阶段&＃xff0c;如果用selective search挑选出来的候选框与物体的人工标注矩形框的重叠区域IoU大于0.5&＃xff0c;那么我们就把这个候选框标注成物体类别&＃xff0c;否则我们就把它当做背景类别。SVM阶段的正负样本标签问题&＃xff0c;等到了svm讲解阶段我再具体讲解。

五、CNN特征提取阶段

1、算法实现

a、网络结构设计阶段

网络架构我们有两个可选方案&＃xff1a;第一选择经典的Alexnet&＃xff1b;第二选择VGG16。经过测试Alexnet精度为58.5%&＃xff0c;VGG16精度为66%。VGG这个模型的特点是选择比较小的卷积核、选择较小的跨步&＃xff0c;这个网络的精度高&＃xff0c;不过计算量是Alexnet的7倍。后面为了简单起见&＃xff0c;我们就直接选用Alexnet&＃xff0c;并进行讲解&＃xff1b;Alexnet特征提取部分包含了5个卷积层、2个全连接层&＃xff0c;在Alexnet中p5层神经元个数为9216、 f6、f7的神经元个数都是4096&＃xff0c;通过这个网络训练完毕后&＃xff0c;最后提取特征每个输入候选框图片都能得到一个4096维的特征向量。

b、网络有监督预训练阶段

参数初始化部分&＃xff1a;物体检测的一个难点在于&＃xff0c;物体标签训练数据少&＃xff0c;如果要直接采用随机初始化CNN参数的方法&＃xff0c;那么目前的训练数据量是远远不够的。这种情况下&＃xff0c;最好的是采用某些方法&＃xff0c;把参数初始化了&＃xff0c;然后在进行有监督的参数微调&＃xff0c;这边文献采用的是有监督的预训练。所以paper在设计网络结构的时候&＃xff0c;是直接用Alexnet的网络&＃xff0c;然后连参数也是直接采用它的参数&＃xff0c;作为初始的参数值&＃xff0c;然后再fine-tuning训练。

网络优化求解&＃xff1a;采用随机梯度下降法&＃xff0c;学习速率大小为0.001&＃xff1b;

C、fine-tuning阶段

我们接着采用selective search 搜索出来的候选框&＃xff0c;然后处理到指定大小图片&＃xff0c;继续对上面预训练的cnn模型进行fine-tuning训练。假设要检测的物体类别有N类&＃xff0c;那么我们就需要把上面预训练阶段的CNN模型的最后一层给替换掉&＃xff0c;替换成N&＃43;1个输出的神经元(加1&＃xff0c;表示还有一个背景)&＃xff0c;然后这一层直接采用参数随机初始化的方法&＃xff0c;其它网络层的参数不变&＃xff1b;接着就可以开始继续SGD训练了。开始的时候&＃xff0c;SGD学习率选择0.001&＃xff0c;在每次训练的时候&＃xff0c;我们batch size大小选择128&＃xff0c;其中32个事正样本、96个事负样本&＃xff08;正负样本的定义前面已经提过&＃xff0c;不再解释&＃xff09;。

2、问题解答

OK&＃xff0c;看完上面的CNN过程后&＃xff0c;我们会有一些细节方面的疑问。首先&＃xff0c;反正CNN都是用于提取特征&＃xff0c;那么我直接用Alexnet做特征提取&＃xff0c;省去fine-tuning阶段可以吗&＃xff1f;这个是可以的&＃xff0c;你可以不需重新训练CNN&＃xff0c;直接采用Alexnet模型&＃xff0c;提取出p5、或者f6、f7的特征&＃xff0c;作为特征向量&＃xff0c;然后进行训练svm&＃xff0c;只不过这样精度会比较低。那么问题又来了&＃xff0c;没有fine-tuning的时候&＃xff0c;要选择哪一层的特征作为cnn提取到的特征呢&＃xff1f;我们有可以选择p5、f6、f7&＃xff0c;这三层的神经元个数分别是9216、4096、4096。从p5到p6这层的参数个数是&＃xff1a;4096*9216 &＃xff0c;从f6到f7的参数是4096*4096。那么具体是选择p5、还是f6&＃xff0c;又或者是f7呢&＃xff1f;

文献paper给我们证明了一个理论&＃xff0c;如果你不进行fine-tuning&＃xff0c;也就是你直接把Alexnet模型当做万金油使用&＃xff0c;类似于HOG、SIFT一样做特征提取&＃xff0c;不针对特定的任务。然后把提取的特征用于分类&＃xff0c;结果发现p5的精度竟然跟f6、f7差不多&＃xff0c;而且f6提取到的特征还比f7的精度略高&＃xff1b;如果你进行fine-tuning了&＃xff0c;那么f7、f6的提取到的特征最会训练的svm分类器的精度就会飙涨。

据此我们明白了一个道理&＃xff0c;如果不针对特定任务进行fine-tuning&＃xff0c;而是把CNN当做特征提取器&＃xff0c;卷积层所学到的特征其实就是基础的共享特征提取层&＃xff0c;就类似于SIFT算法一样&＃xff0c;可以用于提取各种图片的特征&＃xff0c;而f6、f7所学习到的特征是用于针对特定任务的特征。打个比方&＃xff1a;对于人脸性别识别来说&＃xff0c;一个CNN模型前面的卷积层所学习到的特征就类似于学习人脸共性特征&＃xff0c;然后全连接层所学习的特征就是针对性别分类的特征了。

还有另外一个疑问&＃xff1a;CNN训练的时候&＃xff0c;本来就是对bounding box的物体进行识别分类训练&＃xff0c;是一个端到端的任务&＃xff0c;在训练的时候最后一层softmax就是分类层&＃xff0c;那么为什么作者闲着没事干要先用CNN做特征提取&＃xff08;提取fc7层数据&＃xff09;&＃xff0c;然后再把提取的特征用于训练svm分类器&＃xff1f;这个是因为svm训练和cnn训练过程的正负样本定义方式各有不同&＃xff0c;导致最后采用CNN softmax输出比采用svm精度还低。

事情是这样的&＃xff0c;cnn在训练的时候&＃xff0c;对训练数据做了比较宽松的标注&＃xff0c;比如一个bounding box可能只包含物体的一部分&＃xff0c;那么我也把它标注为正样本&＃xff0c;用于训练cnn&＃xff1b;采用这个方法的主要原因在于因为CNN容易过拟合&＃xff0c;所以需要大量的训练数据&＃xff0c;所以在CNN训练阶段我们是对Bounding box的位置限制条件限制的比较松(IOU只要大于0.5都被标注为正样本了)&＃xff1b;

然而svm训练的时候&＃xff0c;因为svm适用于少样本训练&＃xff0c;所以对于训练样本数据的IOU要求比较严格&＃xff0c;我们只有当bounding box把整个物体都包含进去了&＃xff0c;我们才把它标注为物体类别&＃xff0c;然后训练svm&＃xff0c;具体请看下文。

六、SVM训练、测试阶段

这是一个二分类问题&＃xff0c;我么假设我们要检测车辆。我们知道只有当bounding box把整量车都包含在内&＃xff0c;那才叫正样本&＃xff1b;如果bounding box 没有包含到车辆&＃xff0c;那么我们就可以把它当做负样本。但问题是当我们的检测窗口只有部分包好物体&＃xff0c;那该怎么定义正负样本呢&＃xff1f;作者测试了IOU阈值各种方案数值0,0.1,0.2,0.3,0.4,0.5。最后我们通过训练发现&＃xff0c;如果选择IOU阈值为0.3效果最好&＃xff08;选择为0精度下降了4个百分点&＃xff0c;选择0.5精度下降了5个百分点&＃xff09;,即当重叠度小于0.3的时候&＃xff0c;我们就把它标注为负样本。一旦CNN f7层特征被提取出来&＃xff0c;那么我们将为每个物体累训练一个svm分类器。当我们用CNN提取2000个候选框&＃xff0c;可以得到2000*4096这样的特征向量矩阵&＃xff0c;然后我们只需要把这样的一个矩阵与svm权值矩阵4096*N点乘(N为分类类别数目&＃xff0c;因为我们训练的N个svm&＃xff0c;每个svm包好了4096个W)&＃xff0c;就可以得到结果了。

OK&＃xff0c;就讲到这边吧&＃xff0c;懒得打字了&＃xff0c;打到手酸。

个人总结&＃xff1a;学习这篇文献最大的意义在于作者把自己的试验过程都讲的很清楚&＃xff0c;可以让我们学到不少的调参经验&＃xff0c;真的是很佩服作者背后的思考。因为文献很长、细节非常之多&＃xff0c;本人也对物体检测不感兴趣&＃xff0c;只是随便看看文献、学学算法罢了&＃xff0c;所以很多细节没有细看&＃xff0c;比如7.3 bounding box的回归过程&＃xff1b;最后看这篇文献好累、十几页&＃xff0c;细节一大堆&＃xff0c;包含作者各种实验、思考……

参考文献&＃xff1a;

1、《Rich feature hierarchies for Accurate Object Detection and Segmentation》

2、《Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition》

**********************作者&＃xff1a;hjimce   时间&＃xff1a;2015.12.3  联系QQ&＃xff1a;1393852684  原创文章&＃xff0c;转载请保留原文地址、作者等信息***************