4 g# f6 _1 }) i/ d N在枚举所有解时,当遇到的解在当前情况下是最优时,就认为它是最优解。如图一,当从A点到B点时,由于B点比A点的解更优,所以会认为B点是最优解。 9 |& g# R: ^/ p- f l2 E' F" g
显然这样的效率很高,但得到的最优解质量也很差。, h" M( b. X8 K" t
6 C* z' z; D' Z" e- v, \+ n爬山法% ]7 {9 `' F, S4 x# t
2 W" m g* f; w
贪心法是只和前面的一个比较,为了提高最优解的质量,可以不仅和前一个解比较,也和后一个解比较,如果比前面和后面的解都优,那么就认为它是最优解。如图一,当到C点时,发现它比前面的B和后面的D点的解都好,所以认为它是最优解。! s* F( E8 B8 p
) U x& R0 ~/ y# k: l' W* ?
, [" F7 {0 u- H E v1 t( J6 r# l$ B& A8 _模拟退火算法 9 J1 c9 M" ~; F, J* z3 t2 P7 q1 F2 v9 O U8 V
爬山算法实现很简单,其主要缺点是会陷入局部最优解,而不一定能搜索到全局最优解。 1 \& j% K2 I& T2 `( Q! }9 U0 x2 C' C; _* P7 p" l% G' ~, O7 g* Z
如图一,搜索到A点后就停止了搜索。如果能跳出局部最优解,那么得到的最优解的质量相对就会好很多。如当搜索到A点时以一定的概率跳转到另外一个地方。这样就有可能跳出局部最优解A。如果经过一定次数的跳跃,跳到了E点,那么就会找到全局的最优解了。, n" H, @2 z, r, l$ B/ ?& R: l
8 @/ v$ q. {6 ]7 N- s. Z8 P如果这个概率不变,那么就会一直跳跃下去,不会结束。可以让这个概率逐渐变小,到最后趋于稳定。这里的概率逐渐减小类似于金属冶炼的退火过程,所以称之为模拟退火算法。 : ], A! B$ w' m) T$ q2 y4 Z) F: d
" Y1 |7 D5 u3 K5 u, W
4 O) x/ w e! E" k" ^/ g
模拟退火算法(Simulated Annealing,SA)最早由Kirkpatrick等应用于组合优化领域,它是基于Mente-Carlo迭代求解策略的一种随机寻优算法,其出发点是基于物理中固体物质的退火过程与一般组合优化问题之间的相似性。模拟退火算法从某一较高初温出发,伴随温度参数的不断下降,结合概率突跳特性在解空间中随机寻找目标函数的全局最优解,即在局部最优解能概率性地跳出并最终趋于全局最优。 o; b9 x9 l3 P! l' I5 N
8 J3 a m( _& K$ T' A$ |
模拟退火算法的关键在于控制温度(概率)降低快慢的参数r,这个参数范围是0<r<1。如果参数r过大,则搜索到全局最优解的可能会较高,但搜索的过程也就较长。若r过小,则搜索的过程会很快,但最终可能会达到一个局部最优值。7 b2 k, p' v, g9 o2 ^
1 D g. ^! d9 I; m模拟退火算法不能保证得到真正的最优解,但它能在效率不错的情况下得到质量较高的最优解。# z7 P! _ c/ Z. [. B
/ Q% W, W9 |* o) l
2 [) p( T/ j- _. h* Y