【转】优化算法入门系列文章目录（更新中）

我要吃章鱼丸子

遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏
8 ~) v4 \- E. f; p7 B

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

  |5 {8 {" _1 \7 [3 t  ]" W$ q9 G6 A一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

) H! I0 b9 Q) R  _' q( T

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

) b# ~9 m/ {; m- L, i  J二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

' P: z& _) p6 [' o

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

　　遗传算法有3个最基本的操作：选择，交叉，变异。

) G' [: C, K% A. B0 k) _

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

[url=][/url]
轮盘赌算法/*
( i1 D8 g, V5 @: d& h& O* 按设定的概率，随机选中一个个体
# X3 w  Y* O5 u4 ?! G! e* P表示第i个个体被选中的概率
*/
int RWS()
4 a7 Z" G' F/ H( y: Q, K{
m =0;
r =Random(0,1); //r为0至1的随机数
for(i=1;i<=N; i++)
{
% J# h# r0 X* f! J/ [/* 产生的随机数在m~m+P间则认为选中了i
* 因此i被选中的概率是P
*/
m = m + P;
0 L5 K, x0 `5 _! \8 n0 _7 Gif(r<=m) return i;
# @( i' {' _2 R9 g! Z/ |. U}
  {2 Y% Z$ U6 Y- k6 @}

[url=][/url]
7 u" b' O; X* v  D+ g# [

) a  H+ }3 j  A) Z9 z" i. `

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

三.基本遗传算法的伪代码
% x6 ?4 q) A- x0 m$ b, X; C7 o; T
3 t8 u- t8 ^! |* d$ J5 J[url=][/url]
( [+ i- l5 q8 v& d& }, E基本遗传算法伪代码/*
* Pc：交叉发生的概率
* Pm：变异发生的概率
1 ~! Z  @7 |* n' q4 _0 Q  U/ E* M：种群规模
1 C# s7 c" t" n* F( d% [4 J* q* G：终止进化的代数
4 Y; t! F5 S* ?0 i* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
*/
+ e6 ~( l! y5 i. c7 T5 c0 R( Q0 u初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop

do
{
　　计算种群Pop中每一个体的适应度F(i)。
　　初始化空种群newPop
　　do
$ n. [4 F5 A, F/ z　　{
　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
　　　　if ( random ( 0 , 1 ) < Pc )
　　　　{
　　　　　　对2个个体按交叉概率Pc执行交叉操作
　　　　}
4 I- w' n5 v( K  y+ f7 K　　　　if ( random ( 0 , 1 ) < Pm )
, V: {+ ]3 c8 c5 u　　　　{
　　　　　　对2个个体按变异概率Pm执行变异操作
　　　　}
将2个新个体加入种群newPop中
} until ( M个子代被创建 )
; \6 C: L  }2 R+ R' c5 X用newPop取代Pop
6 F8 Y2 a" ]( x  [/ ]+ n9 o}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )
2 x. k  W. z* E, k1 v4 \$ x! ^$ V
) l1 a3 \- Q+ @. T
7 S0 V/ o7 x4 W+ [$ t, O[url=][/url]

1 Q. d$ c( K, z  w2 b& s$ S

+ k+ ~6 O* t& w  [" n$ `& \! V8 E6 G四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

2 D1 s7 o: L4 ?! W

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

# K9 w! @/ g/ i* Z* c

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

" Z* |- i" j5 F0 O  t+ }

图1. AForge.Genetic的类图

8 y; p/ K* n2 v9 V( J% W4 Q

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

1 C& Y& I6 o% L[url=][/url]
13042312
36391315
41772244
37121399
34881535
33261556
* F3 a( j; n! ]2 ]- y32381229
41961004
& M  A; Z+ K# M2 ?. F8 _4312790
4386570
30071970
25621756
5 {) c$ N' m& r- g27881491
23811676
1332695
37151678
39182179
40612370
( d' x9 V( x5 i" Q' P! I" n37802212
; b/ o3 M8 c$ ]$ ?5 r! v: z8 @( G36762578
40292838
42632931
; g0 {7 o. f6 u; p3 X( b; }  \/ n34291908
35072367
4 [) A" B8 k- w33942643
: l5 L7 ^/ d8 i  [% |" n3 r34393201
29353240
31403550
! x1 Z' M* y2 c5 w- V25452357
27782826
23702975
& c0 X4 D5 U# M! ][url=][/url]

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

[url=][/url]
( J; [) h* M. l6 CTSPFitnessFunction类using System;
* I# [+ r) S" busing AForge.Genetic;

namespace GenticTSP
{
: R7 N8 X$ q+ w///<summary>
/// Fitness function for TSP task (Travaling Salasman Problem)
- f5 M9 |, U$ ]/ h2 W///</summary>
) `$ `6 \9 ~# ?1 G; y3 i0 Zpublicclass TSPFitnessFunction : IFitnessFunction
$ O* k0 V; M: u5 k/ ]{
// map
1 p- C# i+ G' [5 E6 a) Qprivateint[,] map =null;
9 S7 ^- m1 \8 x
// Constructor
public TSPFitnessFunction(int[,] map)
+ e  _/ ?0 }, o  M, Y+ m0 o, V6 }{
* w+ r" j0 c3 Q$ Cthis.map = map;
}

( H8 w6 j. q& n$ x///<summary>
5 Z6 [0 [- E+ J, K0 k/// Evaluate chromosome - calculates its fitness value
///</summary>
, \: |# }1 P, e4 D. Z/ a* cpublicdouble Evaluate(IChromosome chromosome)
{
. ]0 a+ L: R$ O4 R. s6 i, G+ g5 Yreturn1/ (PathLength(chromosome) +1);
}
: t0 a4 c$ u, `( _
' f3 k& m+ A! t/ o" c' _///<summary>
  p( e0 X/ O3 {* [* {( q0 k3 X/// Translate genotype to phenotype
///</summary>
7 @! u" i, u- }5 `publicobject Translate(IChromosome chromosome)
( o& ^! U1 [% Z4 Y8 [{
! z, O' f3 [$ P0 M: K; kreturn chromosome.ToString();
}
& \: T  D0 w; A! Q1 J8 ?
///<summary>
/// Calculate path length represented by the specified chromosome
///</summary>
publicdouble PathLength(IChromosome chromosome)
{
// salesman path
) O( E* o2 H) C0 c' R/ Pushort[] path = ((PermutationChromosome)chromosome).Value;
. O3 ~; W: i' z9 J7 s5 u8 b
( i; |6 X2 s; F" Q3 y// check path size
) J$ h+ _+ r+ {, p$ Dif (path.Length != map.GetLength(0))
{
( t. B7 s) s( D( rthrownew ArgumentException("Invalid path specified - not all cities are visited");
}

// path length
# G* Q2 ~6 m2 i, z' ~! t/ Eint prev = path[0];
int curr = path[path.Length -1];
/ V* A- F( N" w. P
// calculate distance between the last and the first city
double dx = map[curr, 0] - map[prev, 0];
" Z! A9 M: S$ S  s* idouble dy = map[curr, 1] - map[prev, 1];
double pathLength = Math.Sqrt(dx * dx + dy * dy);
8 i- P9 z- i3 k" X# F+ @, E1 O
// calculate the path length from the first city to the last
for (int i =1, n = path.Length; i < n; i++)
( q! T! L8 [4 u  j{
// get current city
, [6 C3 D9 p4 G+ Hcurr = path;

- Z/ R3 e6 P) H( T// calculate distance
dx = map[curr, 0] - map[prev, 0];
, v' @. M3 r$ E4 N& N3 e+ Ydy = map[curr, 1] - map[prev, 1];
pathLength += Math.Sqrt(dx * dx + dy * dy);

# I1 ^; t% a7 x! S// put current city as previous
. S( F6 `. c. W$ d& R' m8 g3 rprev = curr;
6 z' i0 v7 v+ A2 y5 @}

return pathLength;
0 ?+ j5 U  g) G- m}
}
% a4 `( Q4 s- ^$ A}


+ V3 Y' y+ k* r6 D[url=][/url]


- P1 C& U+ L& Z$ {0 ^
, Z% l1 T7 j( X7 e3 l9 G+ L

   (5) 添加GenticTSP.cs，加入如下代码：

[url=][/url]
9 M2 U1 {8 g3 ^7 ]; V5 u0 ?2 sGenticTSP类using System;
using System.Collections.Generic;
using System.Linq;
- ^+ V$ r! f- K5 t2 g8 ]+ k6 ausing System.Text;
using System.IO;
* L1 a# g; r3 J1 Y, i/ B% J
using AForge;
2 V% C! D0 |0 {! m8 Fusing AForge.Genetic;

6 a" e( S: }; m6 }, I7 e/ L
namespace GenticTSP
: u9 ?% r* Q1 _' f9 Y{
class GenticTSP
{
9 R- p2 ^+ t) H3 @" B$ ?
9 I$ \% H) v: u7 Y9 j; }staticvoid Main()
{
StreamReader reader =new StreamReader("Data.txt");

$ E2 j  A& Z$ Y/ Yint citiesCount =31; //城市数

- d4 E) g4 P6 p' s2 `# E7 sint[,] map =newint[citiesCount, 2];
* i& Q1 t& q" \8 [: L0 p
3 V1 t! F4 Z8 s: M' w0 w% I" m8 L0 o8 Tfor (int i =0; i < citiesCount; i++)
{
  E* h; F: B! lstring value = reader.ReadLine();
string[] temp = value.Split('');
map[i, 0] =int.Parse(temp[0]); //读取城市坐标
map[i, 1] =int.Parse(temp[1]);
  R! I) C( i4 o& @7 O% z% y}
) z" p. p3 W) S! u
// create fitness function
TSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);

2 v5 V/ ^" h3 ^- Yint populationSize = 1000; //种群最大规模
$ y6 |9 a/ w* [1 J
* f: n) u, `! e2 {, n+ }/*
. x- `* a& k& x! {) V) _. \* 0：EliteSelection算法
* 1：RankSelection算法
! d3 B6 L% V2 U7 ~* 其他：RouletteWheelSelection 算法
* */
7 p  N! h" s% J+ S8 Eint selectionMethod =0;
4 y& d, V2 {8 E. f2 y4 d+ Z* R5 ]
// create population
Population population =new Population(populationSize,
new PermutationChromosome(citiesCount),
fitnessFunction,
0 \  r' R; q; }; v: t7 q/ J  A(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
. y1 R: i! A3 ]% N(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
" u+ w1 f  c, L% k+ v(ISelectionMethod)new RouletteWheelSelection()
  [# H6 t. L; V);

# I7 G7 K# ?$ L; {( ?% ^( N7 B// iterations
int iter =1;
int iterations =5000; //迭代最大周期
, N2 }5 Q" t8 H" {
" \) ?8 M6 e, R& x// loop
/ h4 o  r! k. U) ?8 G2 iwhile (iter < iterations)
, u4 B) L: j* R/ t% m! m% d& N{
// run one epoch of genetic algorithm
population.RunEpoch();

8 Q3 |* f! r. k2 y# r/ p// increase current iteration
( o" I  v0 Q, `7 a( b1 Riter++;
/ \5 C8 |" W5 R4 @3 w}
/ D; b8 Z' i4 g: n, t
System.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
9 x, {- z- j% Y" h2 d! c7 uSystem.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
System.Console.Read();

}
}
}
0 f5 ?. j7 G1 |- i; n' U
5 V  l8 h& `9 P/ R, m
; ?8 `) p; x5 _, q: p& P[url=][/url]
3 P, T) t6 m2 W( M


0 A  A4 T, T  l" M" b
4 h7 x' p2 s" `" v' ^( L

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

" |, b) t3 N& K" W

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

  F8 E6 f$ ^7 m% |+ `4 D