! u. i+ s! \: ^& F/ E; k$ ] # E% S" C' _$ K8 @$ C6 W3 }0 S$ k2 R9 F7 `1 m1 T) h5 E5 _4 Z8 P W6 H
(i)一组连接(对应于生物神经元的突触),连接强度由各连接上的权值表示,权值为正表示激活,为负表示抑制。; N, M1 B3 P8 a6 ^# a1 l+ c
(ii)一个求和单元,用于求取各输入信号的加权和(线性组合)。 9 A* q: ]* e" V- ?; V* G; ~(iii)一个非线性激活函数,起非线性映射作用并将神经元输出幅度限制在一定范围内(一般限制在(0,1)或(−1,1)之间)。 * S# q$ P8 U5 z) ?- N2 U/ `" Q8 a; ^8 k9 ~! t5 d6 k E% }7 l
# M" J& x' `% G! V1 l! ]
此外还有一个阈值 (或偏置 = − )。 ; _8 z7 {- q6 |: K. w( j若把输入的维数增加一维,则可把阈值 (或偏置 = − )包括进去 ( [ t |+ i1 u2 y6 q4 x $ K3 h0 f2 {+ i% O8 v8 L' U, g: R9 S
+ H+ J" T9 ]/ }& P2 P5 I1 E
Matlab 中的激活(传递)函数如下所示: : j9 m: N/ n0 D& s o4 J5 `" c4 k. S5 F- u; q5 e* `
% Y0 R3 o( X6 }& W: n
函数名 功 能7 L6 f4 t4 x0 [0 k
purelin 线性传递函数 7 K, q! \4 I- R1 h. K7 v I/ H/ vhardlim 硬限幅传递函数 % }7 u0 ?' K& _' \# K0 w- Chardlims 对称硬限幅传递函数& b" k( Y6 q" ^ H/ ?# ~1 x
satlin 饱和线性传递函数 & h8 P8 G$ V3 E2 M& xsatlins 对称饱和线性传递函数 v8 R7 L0 E" [$ b
logsig 对数S 形传递函数- F; A8 q4 d" h2 l) Q7 Y
tansig 正切S 形传递函数4 ]1 | e3 l8 r& _1 @. x+ [
radbas 径向基传递函数 `% ~) Z* g3 i: w' I" B) X& ^5 A. Q& @
compet 竞争层传递函数" S, m3 I9 b5 P
网络结构及工作方式5 T& z$ f. o$ M) C& j6 q7 X
/ M8 E+ H+ @7 B/ J1 N0 Y' @
除单元特性外,网络的拓扑结构也是NN 的一个重要特性。从连接方式看NN 主要有两种。 8 y: m( T, ]) u/ ]& F: U9 Q; A& F" f; d% I2 K e
9 O! A. s8 o9 d* m
前馈型网络 4 N- T, u" o+ A {5 I p. g各神经元接受前一层的输入,并输出给下一层,没有反馈。结点分为两类,即输入单元和计算单元,每一计算单元可有任意个输入,但只有一个输出(它可耦合到任意多个其它结点作为其输入)。通常前馈网络可分为不同的层,第i层的输入只与第i −1层输出相连,输入和输出结点与外界相连,而其它中间层则称为隐层。 4 D5 k4 x p' d! M' `/ R& y - b8 [# y2 d$ V3 a3 d8 g: ?1 j/ ~5 r" G+ ^. K4 Z
反馈型网络9 ^: B8 P7 i. C/ S
所有结点都是计算单元,同时也可接受输入,并向外界输出。NN 的工作过程主要分为两个阶段:第一个阶段是学习期,此时各计算单元状态不变,各连线上的权值可通过学习来修改;第二阶段是工作期,此时各连接权固定,计算单元状态变化,以达到某种稳定状态。从作用效果看,前馈网络主要是函数映射,可用于模式识别和函数逼近。$ h) y5 u0 C U$ j
% N N& O+ G8 Y/ V/ b. {6 w% ~) f 3 H# }" ?, X* ?' D. f7 A反馈网络按对能量函数的极小点的利用来分类有两种:* J4 a) o# |. \" G1 o5 f1 e) X& v) u
' A! e% Z. b @1 v& x
1 h" z6 E h6 `9 L0 F
第一类是能量函数的所有极小点都起作用,这一类主要用作各种联想存储器; & Y @- x# T; {$ X5 r3 Y: h6 ?- m* L3 [* c4 D4 s