使用卷积神经网络开发图像分类模型6 Y0 \7 }* x s
简介
! v2 x5 |2 u0 J' G+ t1 c
& [4 m5 E( U D3 H3 Q这篇文章是关于卷积网络、它的工作和组件: 在本文中,我们将使用卷积神经网络执行图像分类,并详细了解所有步骤。因此,如果你对此不熟悉,请继续阅读。9 |4 _1 N; J. p3 |. Q* t4 U
& V2 O5 r3 n2 Z. C! j1 A9 G简而言之,CNN 是一种深度学习算法,也是适用于图像和视频的神经网络类型之一。我们可以从 CNN 中实现各种功能,其中一些是图像分类、图像识别、目标检测、人脸识别等等。: \- @' ? W) S- ^1 {, t$ b, A
4 A, C! @ u2 l" K# v
今天,我们将对CIFAR10 数据集执行图像分类,它是 Tensorflow 库的一部分。它由各种物体的图像组成,如船舶、青蛙、飞机、狗、汽车。该数据集共有 60,000 张彩色图像和 10 个标签。现在让我们进入编码部分。6 _& F/ l% F( g( R/ G5 w2 h5 T
" A. q f) T/ ~2 X$ v
实施
' s' r, S. I8 G; v* N0 X, p1 R0 n) X' s, `0 h
# importing necessary libraries `2 T% ^7 q/ B- h
import numpy as np0 E, z+ @2 v& N' r0 u
import matplotlib.pyplot as plt4 s' I9 x* I* Q( h
%matplotlib inline( L1 H) R8 D+ L% Y! ]# [; r
# To convert to categorical data5 f& M# u- i+ _; m, f2 R
from tensorflow.keras.utils import to_categorical8 w' o8 p: t+ Q* P9 n
#libraries for building model% @* n |4 E" V- u
from tensorflow.keras.models import Sequential% w9 F2 N' O: K- V2 U- L
from tensorflow.keras.layers import Dense, Conv2D, MaxPool2D, Dropout,Flatten
o& S4 k! P O, E, Kfrom tensorflow.keras.datasets import cifar10
! F6 D9 F# ~; s5 z7 m! H! I! y1 L, T- i& h7 N* v
#loading the data2 r1 v" X! Y1 }6 V J: ^3 u
(X_train, y_train), (X_test, y_test) = cifar10.load_data(), j) W: J( F. U0 j8 J- O
% }" D! W& P+ v1 f; a! ^
探索性数据分析; z. D. x H6 W& I( e5 r
#shape of the dataset
/ |3 \& W* N$ t; H- [( Hprint(X_train.shape)& p3 p0 o9 ~; Z3 P# t
print(y_train.shape)
! g- Q/ Q8 f6 K( Q1 m# p6 F& rprint(X_test.shape)
, u) f' T( F: hprint(y_test.shape)
8 U( }' ^2 x$ |9 Q/ b3 u) w* f- l
0 ~! l7 J1 n: X/ p5 W* U) m; S 7 t" d/ |* P) V1 f
我们的训练数据有 50,000 张图像,测试数据有 10,000 张图像,大小为 32*32 和 3 个通道,即 RGB(红、绿、蓝): } x+ n" `) z; v) x/ s4 h' E1 c
#checking the labels : d5 C4 R2 b" ~4 N% g" }
np.unique(y_train)+ J2 H3 J& i4 E$ l, Z5 R( X7 ]$ c
, M1 i5 S" M. b 2 {: I C& R7 W* F: T: g
#first image of training data4 _1 y5 A7 ]5 Q
plt.subplot(121); P0 `9 Z8 R6 H
plt.imshow(X_train[0]), M0 B3 v$ w+ l$ P3 R+ z
plt.title("Label : {}".format(y_train[0]))' p3 @2 C9 Y; Y6 M
#first image of test data
: C3 L7 I( o% a3 n$ Kplt.subplot(122)0 ?' z% V5 ~! V4 M- z
plt.imshow(X_test[0]); _; D! ?$ U0 y5 F
plt.title("Label : {}".format(y_test[0]));6 I1 B: k' a- c/ L* @3 G$ [
' N% r! W! C" i" p, \6 h
( f* [6 I. ~- o
#visualizing the first 20 images in the dataset
5 L" }- U& L3 C- ^for i in range(20):, U; s' M; J2 @8 r4 c7 d% k
#subplot: i7 p, T, G4 z' q. Z) i1 E5 |
plt.subplot(5, 5, i+1)! n# _# g9 \3 C, @' i- e
# plotting pixel data
+ ?2 B( g7 m- o' d, M plt.imshow(X_train, cmap=plt.get_cmap('gray'))2 [( a. W3 L' t$ k0 m& o0 e' b) y
# show the figure0 @' a Y1 u9 M% q- h. `
plt.show()
/ ~- F1 p: K# j$ B8 r) }
2 f N* `9 L2 n. M4 k, y![]()
) _8 p4 p" h/ S( a' z" ]' @预处理数据对于数据预处理,我们只需要在这里执行两个步骤,首先是缩放图像的像素值到0到1之间,然后是将标签从 2D 重塑为 1D
; _; n- O! g) V2 g" H! x# Scale the data to lie between 0 to 1- X6 b! W* t J$ a' y5 g- T
X_train = X_train/255, o* b: h9 |: J7 |6 C0 S
X_test = X_test/2557 b% D- A s, @. ] F/ I3 K- y
print(X_train)
, u- b8 n! f) m) ^, _# W
3 d& A w$ x+ G G![]()
# N/ p' W7 i! M5 D#reshaping the train and test lables to 1D- n* T9 F& d' h7 ~9 f) s$ _
y_train = y_train.reshape(-1,)9 \. R4 x% T. X" m; ]% q
y_test = y_test.reshape(-1,)
" |( [9 U- u% P$ x9 E
" Z9 O* ^0 ?% D我们在上图中可以看到,图像的像素值已经进行了缩放,其数值在 0 到 1 之间,并且标签也进行了重塑。数据已准备好建模,现在让我们构建 CNN 模型。
9 f1 p1 O; Q3 [4 B模型搭建正如我们之前讨论的,深度学习模型的构建分为 5 个步骤,即定义模型、编译模型、拟合模型、评估模型和进行预测,这也是我们在这里要做的。
4 g2 ~: F+ |, z: umodel=Sequential()
( [- l9 z4 l0 u& @, y4 E/ O _. N#adding the first Convolution layer0 b) v7 P7 [9 C2 ~
model.add(Conv2D(32,(3,3),activation='relu',input_shape=(32,32,3)))
& S0 e9 f) t, Y7 X#adding Max pooling layer* `4 Y7 B( D. g& c* Z7 I
model.add(MaxPool2D(2,2))
4 u# R# M! K4 C0 v( F1 M7 G#adding another Convolution layer) _$ a4 z' W! S4 x+ m1 h
model.add(Conv2D(64,(3,3),activation='relu'))4 P4 O2 N. ^3 W) J7 y/ y
model.add(MaxPool2D(2,2)); ]( U" _$ _( r y i9 K2 j
model.add(Flatten()) |: X, q M$ Y4 s
#adding dense layer5 M, q4 D8 H7 b* }/ @( ]" Y( d
model.add(Dense(216,activation='relu'))# F0 J/ h/ U; L) t( |
#adding output layer) Q' ~- d" u6 F/ J4 N! Y; _
model.add(Dense(10,activation='softmax'))& G) ^: k$ ~! ]) H, @$ w% V. ]
* M) j) O3 u* Q6 k7 @# U- a: J8 g
我们添加了第一个带有 32 个大小为 (3*3) 的过滤器的卷积层,使用的激活函数是 Relu,并为模型提供输入形状。
/ Q6 S* `+ [7 U" k; H+ N/ s/ z8 K1 T% X& J1 v
接下来添加了大小为 (2*2)的Max Pooling 层。最大池化有助于减少维度。CNN 组件的解释请参考:https://www.analyticsvidhya.com/blog/2021/08/beginners-guide-to-convolutional-neural-network-with-implementation-in-python/
# o" w! A0 P% ?$ e( @
/ N* ^+ N. B9 l+ l5 G) o然后我们又添加了一个卷积层, 其中包含 64 个大小为(3*3) 的过滤器 和一个大小为 (2*2)的 最大池化层8 Q8 C" ^9 w: Y. d/ Y* Y; y
0 T* W" ~$ X% q; D" @- `* z在下一步中,我们将层展平以将它们传递到 Dense 层,并添加了一个包含 216 个神经元的Dense 层。
1 j& b6 Z/ x" U8 b! u) {
7 B9 l! c& T. Z* x2 C. h最后,输出层添加了一个 softmax 激活函数,因为我们有 10 个标签。* _% C8 {/ D3 n* q4 F: k" f
% J* w* n c9 {/ m- O第 2 步:编译模型
) _+ k0 o! ?* gmodel.compile(optimizer='rmsprop',loss='sparse_categorical_crossentropy',metrics=['accuracy'])
; Q }" Y# b' h; D
2 m0 w' o1 O) B- w第 3 步:拟合模型model.fit(X_train,y_train,epochs=10)
& E) N. S# H( q7 F![]()
7 T4 ?- Y: @5 ?6 J6 b% A ( t) n3 l. N$ p1 v" f5 o6 g4 x
如上图所示,我们的准确率为 89%,损失为 0.31。让我们看看测试数据的准确性。
6 G! I% h' a+ p5 Y# p, [ d第 4 步:评估模型model.evaluate(X_test,y_test)
- d0 Z# l% C, y3 H' A 8 N# y" {8 M. g9 C/ ^" j
- d4 O# u* _( `! z1 u& O% X! f
测试数据的准确率为 69%,与训练数据相比非常低,这意味着我们的模型过度拟合。
3 y3 |% g. E6 E% @1 m" u6 g- B H8 A第 5 步:进行预测6 v) y- \ S: H. w1 p# _6 U# f
pred=model.predict(X_test)
! {5 Q7 d3 V% e+ G7 p#printing the first element from predicted data
) z, o6 d1 y: F% p1 K& X" xprint(pred[0])
: y% y. T# m( d d/ e o" z#printing the index of
7 }) Y6 l: e/ k% g+ o6 e( rprint('Index:',np.argmax(pred[0])); B- G# P7 x0 s/ p( l
- _. w! l+ [+ q
![]()
, S4 s( B- w7 `) N3 d
- `& Z! C5 A7 A. ?" T6 x因此,预测函数给出的是所有10个标签的概率值,概率最高的标签是最终预测。在我们的例子中,我们得到了第三个索引处的标签作为预测。 将预测值与实际值进行比较以查看模型执行的正确程度。 在下图中,我们可以看到预测值与实际值的差异。 y_classes = [np.argmax(element) for element in pred]$ I/ O. g @- y5 s! @3 q
print('Predicted_values:',y_classes[:10])/ m: u( |, |4 {0 m: D2 x8 w$ ]% i
print('Actual_values:',y_test[:10])
, o- K. E/ w' S, y3 `0 h" |8 m, D6 K N* ~5 A+ X O
![]()
7 R! }8 ]3 g! O6 f当我们看到我们的模型过度拟合时,我们可以使用一些额外的步骤来提高模型性能并减少过度拟合,例如向模型添加 Dropouts或执行数据增强,因为过度拟合问题也可能是由于可用数据量较少。 在这里,我将展示我们如何使用 Dropout 来减少过拟合。我将为此定义一个新模型。 ; b0 ~" s# y9 K/ Y) `# |' f
model4=Sequential()
2 R! `' E3 ~5 k% f: C1 I" M6 a4 E#adding the first Convolution layer* u2 Q; q, M$ X4 i) ?9 F
model4.add(Conv2D(32,(3,3),activation='relu',input_shape=(32,32,3)))
9 x* _: o& E& x) K" Y! x- X% K#adding Max pooling layer
. q- D& `9 p3 ]& J P6 a% Nmodel4.add(MaxPool2D(2,2))
. ?' [) S7 U: o( ?" Y#adding dropout
* ~4 b9 Q2 l. b1 ~4 xmodel4.add(Dropout(0.2))
2 \) w* y) W& |4 Q8 W) o9 }: M#adding another Convolution layer
& o* ~; b; X3 C) o! amodel4.add(Conv2D(64,(3,3),activation='relu'))6 l( {# n. X6 s' h- S9 }, m6 Z( D3 l
model4.add(MaxPool2D(2,2))* u, i: b, y3 m. T; T
#adding dropout
1 v Z1 H9 \2 l! N8 Y8 i4 g+ }model4.add(Dropout(0.2)), v5 I2 y2 A* W! L6 Z6 ^
model4.add(Flatten()), E: ?& }. f) ^
#adding dense layer
* j3 v8 S; C: Xmodel4.add(Dense(216,activation='relu'))- ]& F! ~% F$ H- i* N6 L
#adding dropout+ T6 n& J6 M# [1 B
model4.add(Dropout(0.2))
7 Q" D$ p& Z5 C* T) D#adding output layer
* `& C4 G& h7 o4 U4 L! Hmodel4.add(Dense(10,activation='softmax'))
. }5 N6 t& G/ N. ^6 c9 V9 D- jmodel4.compile(optimizer='adam',loss='sparse_categorical_crossentropy',metrics=['accuracy'])" v& f" d/ N- w7 ^- L& R' c
model4.fit(X_train,y_train,epochs=10)- N2 N: ~1 @ F t' M
9 b, q4 |$ n+ ~9 I1 ^! Q# R
2 K* }/ M( _% Q. |/ m" {
model4.evaluate(X_test,y_test)
: A9 d3 X0 `# {8 R% F" ^! c9 N![]()
- [ S* p4 D3 U! \- J通过这个模型,我们得到了76%的训练准确率(低于第一个模型),但我们得到了72%的测试准确率,这意味着过拟合的问题在一定程度上得到了解决。( J* W4 v+ y. j8 q
& A& R7 }3 r% R" ^3 x f尾注
: t1 `4 c& g- i- W4 v) k. f这就是我们在 Python 中实现 CNN 的方式。这里使用的数据集是一个简单的数据集,可用于学习目的,但一定要尝试在更大和更复杂的数据集上实现 CNN。这也将有助于发现更多挑战和解决方案。: q) [7 \4 S( \! ?, E# z
+ I3 f. L9 |5 q, y# ~
8 m0 k; _( [" X8 q
. g& X2 A [ l7 I% { |