- 在线时间
- 14 小时
- 最后登录
- 2012-9-7
- 注册时间
- 2011-6-25
- 听众数
- 2
- 收听数
- 0
- 能力
- 0 分
- 体力
- 25 点
- 威望
- 0 点
- 阅读权限
- 20
- 积分
- 25
- 相册
- 0
- 日志
- 0
- 记录
- 0
- 帖子
- 33
- 主题
- 0
- 精华
- 0
- 分享
- 0
- 好友
- 0
升级   21.05% 该用户从未签到
|
(1)禁忌对象:可以选取当前的值(cur)作为禁忌对象放进tabu list,也可以把和当然值在同一“等高线”上的都放进tabu list。. D V4 S) M& ]; |1 ?
2 {# H/ C; I. h! Z3 u& A( Z
, k, Y1 v& d# l0 u- r
(2)为了降低计算量,禁忌长度和禁忌表的集合不宜太大,但是禁忌长度太小容易循环搜索,禁忌表太小容易陷入“局部极优解”。6 l5 c; D" B. j3 n( ?, y% g; M! W
* ]2 B% d' w3 \
1 A. \* K" ^. D2 u0 J (3)上述程序段中对best_to_far的操作是直接赋值为最优的“解禁候选解”,但是有时候会出现没有大于best_to_far的,候选解也全部被禁的“死锁”状态,这个时候,就应该对候选解中最佳的进行解禁,以能够继续下去。/ u ^0 l9 m+ l c3 B$ v
* `- \/ r, I5 k; a0 O f$ R
) C- g% f9 R* ~' O
(4)终止准则:和模拟退火,遗传算法差不多,常用的有:给定一个迭代步数;设定与估计的最优解的距离小于某个范围时,就终止搜索;当与最优解的距离连续若干步保持不变时,终止搜索;
4 S& u$ \! K" |* q3 |. V! N$ g" V5 H' V& p$ c
4 |/ T# E( [& ~1 B; J
禁忌搜索是对人类思维过程本身的一种模拟,它通过对一些局部最优解的禁忌(也可以说是记忆)达到接纳一部分较差解,从而跳出局部搜索的目的。
' @2 O# Z) h: Z
+ W3 w5 X) ?0 t8 O5 f0 f6 u, l& Z# X# V/ _8 I+ k
, f/ t; s/ T7 @. y& [% p) {7 b$ x/ i8 j! h$ r5 k/ E
人工神经网络7 k& u4 M3 n2 a+ J$ r: ~+ m z# ?
% s3 C# F5 ]( W$ L3 F. u
- k) U7 z. {( ]' W/ E
$ L- P* `' H8 Y 人工神经网络(Artificial Neural Network,ANN)0 u0 H! |2 g5 ^2 A
& @9 K, ^' L/ e4 b2 q: {
, H: E0 G$ a5 `: v 神经网络从名字就知道是对人脑的模拟。它的神经元结构,它的构成与作用方式都是在模仿人脑,但是也仅仅是粗糙的模仿,远没有达到完美的地步。和冯·诺依曼机不同,神经网络计算非数字,非精确,高度并行,并且有自学习功能。
6 ] P3 H/ A: r3 K3 W; @( T3 S6 H% ? Q- k6 `3 W1 j4 B; r
; S6 U, D f1 F+ v 生命科学中,神经细胞一般称作神经元,它是整个神经结构的最基本单位。每个神经细胞就像一条胳膊,其中像手掌的地方含有细胞核,称作细胞体,像手指的称作树突,是信息的输入通路,像手臂的称作轴突,是信息的输出通路;神经元之间错综复杂地连在一起,互相之间传递信号,而传递的信号可以导致神经元电位的变化,一旦电位高出一定值,就会引起神经元的激发,此神经元就会通过轴突传出电信号。
; B* s8 u0 ^# q) n& M$ y, R( E9 a3 P9 F" J. b1 A# L6 |
3 I/ q7 J( }4 X4 S) z2 ~ 而如果要用计算机模仿生物神经,就需要人工的神经网络有三个要素:(1)形式定义人工神经元;(2)给出人工神经元的连接方式,或者说给出网络结构;(3)给出人工神经元之间信号强度的定义。/ y X+ Y3 l9 k* C6 t4 t+ G7 \
* N) F- n0 Q4 {1 _
! ~" u9 M2 y/ o& r 历史上第一个人工神经网络模型称作M-P模型,非常简单:9 c" S: m, s! \3 O9 }4 J, A: |8 S. U* a
0 c0 S3 c1 Z; M. _' c n! X! }4 _
1 y$ O: o# K# Q3 s: W* D& N4 ] 其中,表示神经元i在t时刻的状态,为1表示激发态,为0表示抑制态;是神经元i和j之间的连接强度;表示神经元i的阈值,超过这个值神经元才能激发。, ~# Q* V- ]& x& S- H. C$ i. D9 {
8 v( F* C9 d* {
6 _5 [9 z8 W }+ d: F6 j 这个模型是最简单的神经元模型。但是功能已经非常强大:此模型的发明人McCulloch和Pitts已经证明,不考虑速度和实现的复杂性,它可以完成当前数字计算机的任何工作。9 h/ A% k3 ~! m' h; u
3 U; z# H4 s" n3 C- A
5 V* q+ _# U, r7 ]6 I) e+ M3 Z 以上这个M-P模型仅仅是一层的网络,如果从对一个平面进行分割的方面来考虑的话,M-P网络只能把一个平面分成个半平面,却不能够选取特定的一部分。而解决的办法就是“多层前向网路”。1 {. N* @) H8 X" c2 q- O p# H- _
# r( ~8 b+ ]3 _0 J/ {; _
7 ]0 r8 E4 Y+ ^ P3 _
为了让这种网络有合适的权值,必须给网络一定的激励,让它自己学习,调整。一种方法称作“向后传播算法(Back Propagation,BP)”,其基本思想是考察最后输出解和理想解的差异,调整权值,并把这种调整从输出层开始向后推演,经过中间层,达到输入层。* G X! X2 r; i5 n/ a
0 E K# Q% P5 V* h0 S" b
2 O& S" i; l( J, J 可见,神经网络是通过学习来达到解决问题的目的,学习没有改变单个神经元的结构和工作方式,单个神经元的特性和要解决的问题之间也没有直接联系,这里学习的作用是根据神经元之间激励与抑制的关系,改变它们的作用强度。学习样本中的任何样品的信息都包含在网络的每个权值之中。
6 a, |+ h6 o1 c% f) F& a$ O! T& b
6 u8 {# Z0 a0 Y: K; O# B/ w U( P2 w5 t/ k
BP算法中有考察输出解和理想解差异的过程,假设差距为w,则调整权值的目的就是为了使得w最小化。这就又包含了前文所说的“最小值”问题。一般的BP算法采用的是局部搜索,比如最速下降法,牛顿法等,当然如果想要得到全局最优解,可以采用模拟退火,遗传算法等。当前向网络采用模拟退火算法作为学习方法的时候,一般成为“波尔兹曼网络”,属于随机性神经网络。) F+ I6 B' @ Q" j% ]
1 B/ N& W: M0 p
- z2 g5 r0 N- {( U* b
在学习BP算法学习的过程中,需要已经有一部分确定的值作为理想输出,这就好像中学生在学习的时候,有老师的监督。如果没有了监督,人工神经网络该怎么学习?/ s" }* U' X$ t' H
! _7 K6 c* ], i$ l/ ?
- o2 a; d; G d5 V 就像没有了宏观调控,自由的市场引入了竞争一样,有一种学习方法称作“无监督有竞争的学习”。在输入神经元i的若干个神经元之间开展竞争,竞争之后,只有一个神经元为1,其他均为0,而对于失败的神经元,调整使得向对竞争有利的方向移动,则最终也可能在一次竞争中胜利;
) t& e) a$ X- J' r( H
. @ @1 t: \5 u% c, w+ F) P3 T
$ E4 X2 {# ^& Z. ]2 ~& Z A 人工神经网络还有反馈网络如Hopfield网络,它的神经元的信号传递方向是双向的,并且引入一个能量函数,通过神经元之间不断地相互影响,能量函数值不断下降,最后能给出一个能量比较低的解。这个思想和模拟退火差不多。
+ r! W5 r6 D* F' U9 A; e" w; K/ r
. y' D8 {# C& d8 V3 F4 l
" s" W; Z* S6 \6 [! _; K 人工神经网络应用到算法上时,其正确率和速度与软件的实现联系不大,关键的是它自身的不断学习。这种思想已经和冯·诺依曼模型很不一样。
, x1 O/ `! l% b" k
" ` `% L2 @6 r/ c! q! p& {
5 y/ i; V% w. C) J# J ; t) y7 B" I Y" M p. u3 o: w
5 K" h& b( \: }( ?" c3 F
总结9 Q( d3 \# V8 o: {, k2 m
4 E& s8 f0 o) M& a3 P# Z8 S
; n1 s9 Q) x- @+ h/ H
( J- x+ I8 K, [1 h) X 模拟退火,遗传算法,禁忌搜索,神经网络在解决全局最优解的问题上有着独到的优点,并且,它们有一个共同的特点:都是模拟了自然过程。模拟退火思路源于物理学中固体物质的退火过程,遗传算法借鉴了自然界优胜劣汰的进化思想,禁忌搜索模拟了人类有记忆过程的智力过程,神经网络更是直接模拟了人脑。9 t* b6 b) d+ t8 @
$ f0 _4 Y$ j3 _3 G' \. \" S7 u6 F2 e
它们之间的联系也非常紧密,比如模拟退火和遗传算法为神经网络提供更优良的学习算法提供了思路。把它们有机地综合在一起,取长补短,性能将更加优良。$ d, ` C$ Z m
$ R P7 q: D1 N- m
* ^# H# O; w. p- Z 这几种智能算法有别于一般的按照图灵机进行精确计算的程序,尤其是人工神经网络,是对计算机模型的一种新的诠释,跳出了冯·诺依曼机的圈子,按照这种思想来设计的计算机有着广阔的发展前景4 I' i6 }1 q& }
+ K' U( V3 P+ H+ P
|
|