Histogram of Oriented Gradients(HOG)特征描述子原理解释以及在OpenCV中的使用

杨利霞

! J/ h' f& n6 l0 Y/ \7 _Histogram of Oriented Gradients(HOG)特征描述子原理解释以及在OpenCV中的使用Histogram of Oriented Gradients(HOG)特征描述子原理解释以及在OpenCV中的使用

* }# e# Y5 H9 N+ \& b" e1 U4 c一、什么是特征描述子？
. z* n3 e& V7 G6 s3 m
  o  E# Q  F& o" M- |/ X! @0 f1 f特征描述子是对一张图片或者一个图片块的一种表示，通过提取有用信息并扔掉多余的信息来简化图像。通常，特征描述子将一张大小为width×height×3 (通道数)的图片化成一个长度为n的特征向量/数组。以HOG特征为例，输入图像的大小是64×128×3，输出是一个长度为3780(假设)的特征向量。
$ I* z! H. @* [8 z+ _9 k
上面这些听起来不错，但是对于一张图片的信息，哪些是有用的哪些是冗余的呢？为了定义这个有用信息，我们需要知道它对什么有用。显然，特征向量对于我们看一张图像没什么用。但是，它对图像识别和目标检测这样的任务很有用。将由这些算法生成的特征向量作为支持向量机等分类算法的输入往往可以得到不错的结果。

; ~$ }/ X& S# E' F$ d但是，对于分类任务来说，哪类特征是有用的呢？让我们先用一个例子讨论一下。假设我们想设计一个目标检测器来检测衬衫或者外套上的纽扣。通常纽扣是圆的（可能在图片上会是椭圆）而且一般会有一些孔用于缝纫。你可以在一张纽扣的图片上执行边缘检测，仅仅通过观察边缘图像就可以判断它是不是一个纽扣。在这个例子中，边缘信息是有用的而颜色信息是无用的。此外，特征也需要有区分能力。例如，从某一张图片中提取的一个好的特征应具备区分纽扣和其他圆心物体（如硬币和车轮）的能力。

对于HOG特征描述子，选用梯度方向的分布作为特征。一张图像的梯度（x和y方向的导数）很有用,因为在边缘和拐角（强度变化剧烈的区域）处的梯度幅值很大。而且我们知道边缘和拐角比其他平坦的区域包含更多关于物体形状的信息。
# b: b# a/ v6 p# F% T9 X0 L8 g
( Y% G; j" P. m0 {0 M例如将上图转化为一种特征描述取出颜色等冗余信息后，我们仍能够判断图片中的物体，也就是说特征描述子具有识别对象所需的必要信息。
) h- B" C- O8 F' P- ]" t& A
二、如何计算HOG特征向量

. J" N8 U  U2 Z: v- nStep1：图片预处理
: ^+ \% R4 c' F! A3 j
我们需要对图像进行预处理，并将宽高比降低到1:2，图像大小最好是64 x 128。这是因为我们将图像分成8 x 8和16 x 16小块来提取特征。具有指定的大小(64 x 128)将使我们的所有计算相当简单。事实上，这正是原始论文中使用的值。当然完整的图片可以是任意的尺寸。通常我们会在图片的不同位置分析多尺度图片块。唯一的要求就是图片块需要有固定的长宽比。比如：100×200， 128×256或者1000×2000都可以，但101×205就不满足要求

回到我们的例子，让我们将大小为64x128作为目前的标准图像大小。以下是调整后的图像:


2 k$ O  \# k) X- ^+ S) W
% U' B0 Y6 A, T" OStep2：计算每个像素点的梯度幅值和方向

7 h6 G; s8 H) h在预处理完图像之后，我们就需要计算图中每一像素点的梯度幅值以及方向。这里有一点需要注意，对于图像边缘我们需要做一些padding或者放弃边缘的梯度计算。

* p4 X" b& L2 e/ X" L$ I梯度计算分别要计算X轴以及Y轴的梯度，我们可以使用以下的向量对像素点进行梯度计算，或者我们也可以使用OpenCV中的Sobel算子（kernel size设为1）得到相同的结果。

X轴和Y轴梯度计算公式分别为：

& C' `& j' `9 n6 r​       
(x,y),H(x,y)分别表示该像素点在X轴方向，Y轴方向的梯度，H(x,y) H(x,y)H(x,y)为该像素点。

在计算完像素点的梯度之后，我们需要计算该像素点幅值以及梯度方向，公式如下：

) h3 m) V( L( `  z9 B
其中角度的计算正如你高中所学习的那样：
$ y3 A% _# d; Y" \

我们对其求反函数就可以得到该像素点的梯度方向角度。

Step3：将图像划分为一个一个cell，并绘制cell的梯度直方图
5 O. z& _- `$ Z) m4 b
0 Y- |9 @( X) \, d" P9 Q5 R6 l+ I6 m. [HOG特征描述子中创建的直方图不是为整个图像生成，而是将图像分割为8 × 8个单元格(cell)，计算每个单元格的方向梯度直方图。通过这样做，我们得到了代表整个图像的小块的特征(或直方图)。我们当然可以把这个值从8 x 8换成16 x 16或者32 x 32。
( K8 y/ a9 V& w( D  y
; r4 ?: A$ B- U2 O# G如果我们将图像划分为8 × 8个单元格并生成直方图，假设我们将直方图的角度分为9份，也就是说有9个bin，则每个单元格获得9 x 1矩阵。下面介绍如何划分bin的角度以及如何将计算好的梯度幅值加到每一个bin中。

我们采用9个bin的直方图来统计这8 x 8个像素的梯度信息。也就是将cell的梯度方向360度分成9个方向块，如下图所示，对cell内每个像素用梯度方向在直方图中进行加权投影（映射到固定的角度范围），就可以得到这个cell的梯度方向直方图了，就是该cell对应的9维特征向量（因为有9个bin）。
0 p, a% l% o/ m1 z9 Y


- F) c; a' H; ~但是如左下图（梯度方向）所示，我们发现8 × 8的cell中表示梯度的数字有一点细微的差别-——角度实际在0°到180°之间的而不是0°到360°之间。这些叫做“无符号梯度”，因为一个正负方向的两个梯度由同一个数字表示。换句话说，某一个梯度箭头和它对应的另一个值（加上180°对应的那个值）被当作是同一个梯度。根据经验，无符号梯度被证明比有符号梯度效果更好，一些HOG特征的实现代码会允许你选择是否使用有符号梯度。
( ~6 W7 [! q) ?; ?' x' B! T% {9 ~
$ }; V. ]7 g( V0 c5 M下一步就是在这些8×8的cells上创建梯度直方图。直方图包含9个bins分别对应着0°、20°、40°、… 160°。
: \. c0 k9 u% K; x& n+ v
' A  \6 s4 D$ v! w0 E0 D
: L" D. |7 ^8 ^1 G9 f
) e0 Y) G: {- C6 x7 g3 T我们在上图的8×8的cells上查看梯度的大小和方向。每个bin是基于梯度方向选出来的，对应的票数（加在当前bin上的值）对应着梯度的大小。我们先来看看用蓝色圆圈出来的像素，它的梯度的角度是80°，大小为2。因此它在第5个bin上加2。图中用红色圈出来的梯度的角度是10°，大小是4。由于10°是在0°和20°的中间位置，因此根据10°到0°和20°的距离比例，将10°对于的幅值按比例加到0°和20°的bin中去，计算如下：

即角度距离那个bin值最近，则权重比例越高。还有一个细节需要注意，如果梯度方向大于160°。此时梯度的角度位于160°和180°之间。我们知道0°和180°是一样的（无符号梯度），因此对应的幅值比例加到0°的bin上去。

# ^( r9 ?- M3 ~$ w& S8×8的cell中所有像素处的梯度按照方向将梯度大小累加到9个bin以创建最后的梯度直方图。上图中的cell对应的梯度直方图如下：
# F" s7 D, p: x& P( i- p
+ I  D# G) V9 a3 M, }
在我们的表示结果中，y轴对应0°。你可以发现上面的直方图中有大量的权重（梯度大小的投票结果）在0°和180°附近，这从另外一个角度说明了在这个cell中大部分梯度方向要么朝上要么朝下。
$ o+ T4 W. [2 G
Step4：用cell组成一个block块，并对其进行归一化操作
( @+ `: Q: f9 q5 E/ l
& Q; q! x. j7 `6 l1 [2 W" `: Q9 V, O由于局部光照的变化以及前景-背景对比度的变化，使得梯度强度的变化范围非常大。这就需要对梯度强度做归一化，归一化能够进一步地对光照、阴影和边缘进行压缩。理想情况下，我们想让特征描述子独立于光线变化，换句话说，我们想要“标准化”这个直方图使它不受光线变化的影响。
! P8 k) [( C* @1 o7 t
作者采取的办法是：把各个cell单元组合成大的、空间上连通的区间块（blocks）。这样，一个block内所有cell的特征向量串联起来便得到该block的HOG特征。就如下图中的一个block（蓝色框）这些区间是互有重叠的，这就意味着：每一个单元格的特征会以不同的结果多次出现在最后的特征向量中。我们将归一化之后的块描述符（向量）就称之为HOG描述符。
, U5 Z% ]3 t4 r9 P" a
在我讲梯度直方图如何标准化之前，我们先来看看一个长度为3的向量如何标准化。

4 |* j3 G6 C$ Z" L, x假设我们有一个RGB颜色向量[128, 64, 32]。这个向量的长度是1282+642+322−−−−−−−−−−−−−√ \sqrt{128^2 + 64^2 + 32^2}
128
& q4 W: Q# H! c  q4 X& O  ?( B2
+64
( \+ y; ~4 T) `" n2
2 G: E% G9 T0 Y# C3 C+ }0 j5 H +32
2 U! T! `, D1 e2

​       
=146.64。这也叫做向量的L2范数。将这个向量的所有元素除以向量长度146.64就可以得到一个标准化的向量[0.87, 0.43, 0.22]。
* d. n% t+ {2 @& J+ B0 K+ L8 {
现在我们知道如何标准化一个向量，你可能想到当计算HOG特征的时候你可以像之前标准化一个3×1向量一样去标准化9×1的直方图。这的确是个不错的想法，但是更好的做法是标准化一个更大的16×16的block。一个16×16的block包含4个直方图（每一个bin的大小为8 x 8），这4个直方图可以连接成一个36×1的向量，而且这个向量仍然可以像那个3×1的向量一样进行标准化。每次标准化后，整个窗口移动8（假设）个像素并再次计算得到一个36×1的标准化向量，就这样一直重复这个过程。
, C* s7 s+ }' b! f: u9 m( E
Step5：将所有block块的特征组合起来，形成HOG完整的特征描述向量

最后一步就是将检测窗口中所有的block块进行HOG特征的收集，并将它们结合成最终的特征向量供分类使用。
  [6 J  r8 \+ U9 u. N
- X9 L3 r& P# P2 w6 |; n0 N% a那么这个大向量的维度是多少？我们来计算：

# ^  \  [3 X+ s. L对于64 x 128的图像而言，每8 x 8的像素组成一个cell，每2 x 2个cell组成一个块，因为每个cell有9个特征，所以每个块内有4*9=36个特征，以8个像素为步长。

1 C9 B6 x" }  j' D6 D0 G, U我们有多少个不同位置的16×16的block？一共有 (64-8)/8=7 个水平的位置和 (128-8)/8=15 个竖直的位置，所以总计7×15=105个。
8 O! E8 L% D- W  o2 n0 Q每一个16×16的block被表示成一个36×1的向量。因此，当我们把他们连接成一个大向量的时候会得到一个36×105=3780维度的向量。
梯度直方图可视化

一个图像块梯度特征的可视化通常通过在所有8×8的cell里画出对应的标准化的9×1向量（直方图）。不幸的是，目前在OpenCV中并没有一个简单的API方法来可视化HOG特征。
9 {% l: t. q; W0 G" @, a( R& c4 @
, ]% k; E) d- v& a( A三、使用OpenCV给出的API实现HOG
( k! h: A' K  w5 ^  ~% u; M; B
这里我将在OpenCV栏目下介绍OpenCV中HOGDescriptor Struct Reference中的一些方法，如果需要请移步链接：https://blog.csdn.net/qq_40913465/article/details/106070151
( T, ?& H! V- \( n
/ j. `' f# B, r! `4 G6 H1 {最后感谢以下两片博客给出的参考：
https://baijiahao.baidu.com/s?id=1646997581304332534&wfr=spider&for=pc
https://blog.csdn.net/sinat_34474705/article/details/80219617
- z  }2 O. N# q

————————————————
7 o& ^1 p3 C1 X5 {6 p版权声明：本文为CSDN博主「一只工程狮」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
. K  Q  z% y9 A% @4 s, A0 e原文链接：https://blog.csdn.net/qq_40913465/article/details/106065027


9 H. X5 y& j" B+ ~, P; v

尔雅

感谢分享，受益匪浅
2 s( P* e, t$ t/ G* P. o

chace

感谢分享