QQ登录

只需要一步,快速开始

 注册地址  找回密码
查看: 2951|回复: 0
打印 上一主题 下一主题

[建模教程] 数学建模(一)——卷积神经网络

[复制链接]
字体大小: 正常 放大
杨利霞        

5273

主题

82

听众

17万

积分

  • TA的每日心情
    开心
    2021-8-11 17:59
  • 签到天数: 17 天

    [LV.4]偶尔看看III

    网络挑战赛参赛者

    网络挑战赛参赛者

    自我介绍
    本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。

    群组2018美赛大象算法课程

    群组2018美赛护航培训课程

    群组2019年 数学中国站长建

    群组2019年数据分析师课程

    群组2018年大象老师国赛优

    跳转到指定楼层
    1#
    发表于 2019-4-4 16:11 |只看该作者 |倒序浏览
    |招呼Ta 关注Ta
    数学建模(一)——卷积神经网络
    % I+ I9 P1 v" T$ _" O( v* a
    数学建模系列——CNN原理与实践

    # ?; U0 I. W5 @3 Q% o; I  N    大概建模一年多了吧,准备趁着这个暑假,把建模的东西整理一下,留个笔记和纪念,万一哪天不会了还能翻翻笔记。众所周知,建模这东西入门不难,网上各种教程一大把一大把,人家写的也很专业,我写的东西基本登不了大雅之堂,跟人家没法比就写点下里巴人的东西吧。
    $ |/ e- l) Y1 J- ?: J6 A
    0 t( R- ]& H7 j. A1.1.概念引入
    $ c6 W3 ~9 j6 x; N, I. ]
    " ]8 ~5 \3 i% X6 B' U    1.11.1 图像处理中的卷积运算。看个图生动形象的理解一下下:
    , ~4 }) f* `! I
    " h6 C  F* K/ y2 Q1 R
    : u4 U6 B. `( `+ }0 {    在设置好矩阵之后,又该如何运算呢,来,看下面的动图。矩阵对应相乘相加得到卷积的结果。比如,对于左上角的元素4而言,它的运算方式就是:1×1+0×1+1×1+0×0+1×1+0×1+1×0+0×0+1×1=41×1+0×1+1×1+0×0+1×1+0×1+1×0+0×0+1×1=4
    * ~4 S- }  k, T8 Z0 v1 f5 v4 n
    - x( \- I! g) S3 v' ~9 J9 M. |* `% B    1.21.2 填充padding。上面的操作看着貌似很好,但是有没有缺陷呢?当然有,第一个问题,5×55×5的矩阵和3×33×3的矩阵的卷积结果会得到3×33×3的输出矩阵,也就是原始图像在提取特征的过程中被缩小了,一直卷积的话图像会被一直缩小到一个像素,显然不是想要的结果;第二个问题,原始图像左上角的像素只参与一次运算,而他右边的像素参与了两次运算,是不是不公平?是的。那么如何解决这两个问题呢?/ ]4 B/ h8 Z. L: o* x
    , |/ S' m9 R: T3 N# `
        不失一般性,设原始图像为n×nn×n的矩阵,卷积核为f×ff×f的矩阵,那么输出结果就是(n−f+1)×(n−f+1)(n−f+1)×(n−f+1)的矩阵。言归正传,怎么解决上面的问题呢?答案是填充。在imange矩阵的周围在添加一层像素,使其变成(n+1)×(n+1)(n+1)×(n+1)的矩阵,而填充内容是随意的,如果添加pp层像素,原始图像就会变为(n+2p)×(n+2p)(n+2p)×(n+2p)的矩阵,为了使输出矩阵和原始矩阵的维度相同,就要满足下面的等式:
    9 @) p- X3 ~# C- z
    " H. f: D+ S& f$ a) Tn+2p−f+1=n⇒p=(f−1)/2/ ]) N* C2 y' u1 Y# r0 Q
    n+2p−f+1=n⇒p=(f−1)/2
    ; R* A8 f5 E7 C: P( h2 P    1.31.3 卷积步长stride。上面的例子中,卷积的移动步长是1,当移动步长s=2s=2的时候呢,7×77×7和3×33×3的矩阵卷积输出的结果是3×33×3的矩阵(自己脑补,就不画图了),于是又得到一个规律,卷积输出结果的维度是(n+2p−fs+1)×(n+2p−fs+1)(n+2p−fs+1)×(n+2p−fs+1)。7 M1 R- s" E7 [) k4 J6 [
    * V* t6 z" t6 ^9 A+ D3 E- C
        1.41.4 卷积步长stride。上面的例子中,卷积的移动步长是1,当移动步长s=2s=2的时候呢,7×77×7和3×33×3的矩阵卷积输出的结果是3×33×3的矩阵(自己脑补,就不画图了),于是又得到一个规律,卷积输出结果的维度是(n+2p−fs+1)×(n+2p−fs+1)(n+2p−fs+1)×(n+2p−fs+1)。+ q7 [# g9 }/ Y5 n. L* d/ b2 Z
    ) h" L0 Z. o! j. o! {/ R8 \* m
    2.2.立体卷积与多特征输出
    . r9 v, t2 x' b9 }- Z: q7 W" i& U; h/ I- k3 G) O# r
        2.12.1 立体卷积。其实感觉立体卷积这个名字不好,确切的说应该是RGB图像的卷积,容我解释一下应该就能理解的更加透彻了。众所周知,RGB图像有三个通道,也就是意味着RGB图像是n×n×3n×n×3的矩阵,那么怎么对这个立方体进行卷积呢?
      x* v: V- k% O5 c8 O! t( i# w" k$ C  l7 f/ X$ Z1 j. [
    1 _, F+ W2 F9 H6 R* A4 Z1 U

    8 p: I8 Q/ ]" ]: g& V    看上图,左边是RGB三色通道下的图5×5×35×5×3,黄色的是卷积核3×3×33×3×3,当卷积步长s=1s=1时,最右边是输出图像4×4×14×4×1,具体是怎么运算的呢,同二维卷积,卷积核与原图像相乘相加,第一层卷积核和R做二维卷积,第二层卷积核和G做二维卷积,第三层卷积核和B做卷积,(卷积层数和输入的层数保持一致)将三者的结果相加求和,得到输出的第一个元素,以此类推,得到输出矩阵。2 }% k8 i+ P) _, s( W& i& s
    ) U6 A5 N7 o- o
        2.22.2 多特征输出。先乱入一个重点,关于卷积核提取水平特征,竖直特征等特征的方法,可以先看看我的这个博客,介绍的比较简单。卷积核。在了解了如何提取想要的特诊之后,那么如何同时输出这些特征呢?看下图。通过设置多个卷积核来提取不同的特征,每增加一个卷积核,输出图像的维度就会加一,比如,有xx个卷积核,输出的图像就是n×n×xn×n×x的矩阵。
    ( L" C/ c" z) c. W9 V; m7 S
    8 t1 N4 N' s0 K
    0 W+ {1 `4 b) ]! d1 f. A6 r- Q& O5 m9 i: m) J' c: n
    3.3.单层卷积网络$ w; t* m; k6 }; _; ]" P
    / F; |* K, ?' v% r4 R. c4 x  W
        3.13.1 激活函数与偏向。偏向可能翻译的不好,他的英文表达是bias,可能看了英文就理解的更生动吧。用最简单的形式介绍下激活函数和偏向。假设有一个输入xx,x+bx+b即为所求的输入加偏向,bb是随机常数。然后对x+bx+b进行激活,激活函数有很多种,举一个例子说明,看下图sigmoid的函数,(就是高中生物的那个S型增长曲线)。当输入的x+bx+b在[−∞,0][−∞,0]内,得到的yy在[−1,0][−1,0]之间;当输入的x+bx+b在[0,+∞][0,+∞]之间时,得到的yy在[0,1][0,1]之间,因此激活函数可以理解为一种映射关系,将输入的xx映射为yy。. u+ C3 G( F  K7 m
    2 A: b9 x9 J* D' T' o& ^6 Z
    ! S2 x- S/ _- H8 Z, \5 h
        3.23.2 偏向、激活函数在卷积中的应用。 8 }( O+ w' s1 x3 {& u  d

    : z0 }6 f" U  G; c* x8 X0 n+ E) {( T    如上图所示,承接上文,在得到卷积的输出之后,对输出的每一个像素做偏向、激活的操作,得到新的输出结果。
    * p7 H$ E& I3 E! _; [0 \2 \  I+ W. f' [% q5 s, J& Z
        3.33.3 第一个卷积神经网络。接着看上面那个图,一次卷积之后会得到三个4×44×4的输出矩阵,将输出矩阵的元素排列成一个48×148×1的向量,在导入lofistic、softmax中去判断,你输入的图片是一只猫还是一只狗。当然还可以有多个卷积层,除了卷积层(conv)之外还可以有池化层(pool)和全连接层(FC),接下来介绍池化层和全连接层。
    / [: r2 Z8 H+ p. a, j* b/ c0 H( J) p( W! ?  q
    4.4. 池化层7 A/ x5 `$ W; m' ~% j* P% K- M) H
    9 J5 z$ A% f" a
        4.14.1 最大池化。(用的比较广泛)。可以理解为取出特征值最大的做为输出或者取其平均值作为输出。
    . w% i! W5 x8 ?' u1 w$ o/ T
    9 O  X3 l- A  o2 B7 _    4.24.2 平均池化 ( J" q5 l% x% x3 w9 E5 y' K5 x$ d
    1 G& I" x! d3 s' a
    5.5. 含有常见模块的最简单的卷积神经网络
    1 r# Q; A& `$ K# M) Y( Y" N7 M/ |0 _2 _  F

    # U4 y9 M: ], f3 G; Z- Q' [. p
    ) J+ s# O% M' D! |: J% O' s6 l    结构很简单,首先是32×32×332×32×3的图像输入,第一层的内容是卷积,池化;第二层的内容是卷积,池化,第三层是全连接,全连接的形式和普通的神经网络一样,嗯,起码得有一丢丢神经网络的基础。然后得到最终的输出。
    " v" f- q# U( M$ j& I# g9 n, o  L) D
    6.6.python实践2 n& k& T- D! e
    6 c. P! S, V* \

      e4 D" _9 a% Q$ Q0 S/ }; t3 P. w8 k
    zan
    转播转播0 分享淘帖0 分享分享0 收藏收藏0 支持支持0 反对反对0 微信微信
    您需要登录后才可以回帖 登录 | 注册地址

    qq
    收缩
    • 电话咨询

    • 04714969085
    fastpost

    关于我们| 联系我们| 诚征英才| 对外合作| 产品服务| QQ

    手机版|Archiver| |繁體中文 手机客户端  

    蒙公网安备 15010502000194号

    Powered by Discuz! X2.5   © 2001-2013 数学建模网-数学中国 ( 蒙ICP备14002410号-3 蒙BBS备-0002号 )     论坛法律顾问:王兆丰

    GMT+8, 2026-7-29 02:06 , Processed in 0.413922 second(s), 51 queries .

    回顶部