【转】优化算法入门系列文章目录（更新中）

我要吃章鱼丸子

遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏
" z# |* D$ m0 j% T6 h/ {
* q# \. @9 i5 W

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

, y0 e! M: X" V* n  }
! z/ E! e2 Q) q1 W. k( t/ H: K一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

+ S8 _9 J+ w; y/ E

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

# a4 f' t9 d/ U

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

0 i  s4 @3 z& K

　　遗传算法有3个最基本的操作：选择，交叉，变异。

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

8 C" F5 R& U) J& Y6 n  @5 I9 Z- C[url=][/url]
轮盘赌算法/*
4 ^! H) J. P2 M7 m, q  X: \* 按设定的概率，随机选中一个个体
8 M8 O, C% u9 {' O* m, ~0 x* P表示第i个个体被选中的概率
+ p$ e  T% ^- b: @- `9 N" P) K*/
+ `2 Z+ y; V  e0 O# Z7 j' {int RWS()
$ E6 V5 n- `: S3 A{
0 \8 }( t( v  {: Z, Jm =0;
. T4 u9 ]  ~/ }) Fr =Random(0,1); //r为0至1的随机数
- `9 e" I0 w7 v/ q5 q! m/ r7 Wfor(i=1;i<=N; i++)
" L0 K7 [- N) k0 \: s{
' R, @; ~) g% @1 `/* 产生的随机数在m~m+P间则认为选中了i
* 因此i被选中的概率是P
3 C/ l6 X1 Y0 d* n. u7 e' z*/
  k+ A9 i+ S& ?* y! A- L: v# ]( Cm = m + P;
. c1 C+ m3 L9 g7 sif(r<=m) return i;
}
9 a# P, E5 r! u4 A5 V}
) c: H) w9 A* H, |  _1 x2 a
( M+ V4 e+ i7 e8 R[url=][/url]


) c8 b% ]+ B( m" K" A" G  @* O

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

( \& l" d" ^, p0 ^9 `6 W

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

4 L- a3 O" c! Q: `- G+ ]  \三.基本遗传算法的伪代码

[url=][/url]
基本遗传算法伪代码/*
* Pc：交叉发生的概率
) ?* M3 m1 u6 y* Pm：变异发生的概率
* M：种群规模
* G：终止进化的代数
* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
' C; X& K) R+ K3 {*/
. t- Z' ?9 u( H$ h初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop

, }: c4 ^4 d; Ndo
{
　　计算种群Pop中每一个体的适应度F(i)。
5 n# v6 d$ J( p' L. X* H2 W' ?　　初始化空种群newPop
' V+ q4 E" U; y" _# e9 |　　do
　　{
　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
　　　　if ( random ( 0 , 1 ) < Pc )
　　　　{
, N' }& X# {3 `& |  r! A　　　　　　对2个个体按交叉概率Pc执行交叉操作
　　　　}
　　　　if ( random ( 0 , 1 ) < Pm )
　　　　{
　　　　　　对2个个体按变异概率Pm执行变异操作
　　　　}
将2个新个体加入种群newPop中
+ Q* n7 ^5 e+ b- D} until ( M个子代被创建 )
用newPop取代Pop
}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )

5 u8 V. C9 }5 W# {9 c# A4 j
: B: s; s, D: G8 s3 F[url=][/url]
5 C7 s6 a. z: d/ t# R1 y5 [
4 m: r3 s+ v& O7 K6 N1 e5 J

四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

. X& y& U) w: ~# q; f

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

图1. AForge.Genetic的类图

" p' X* T/ F1 V% N4 N! W: @
4 D8 j4 B6 s& g, r) V

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

4 q- [' ?' V4 }  _% a2 C[url=][/url]
" X& J# ]3 `, L8 e! F13042312
" @( M& S8 d, ]- d, s; Z# y36391315
' e8 `9 a+ [9 n" ~41772244
37121399
34881535
33261556
32381229
41961004
4312790
9 O( {6 A' H2 e8 [) C4386570
30071970
; A2 `; l% U2 N3 ~9 E. u25621756
3 O' g% }, Z- l: r5 Z! }# D& ^27881491
; C$ h/ i" A& p$ ]* p1 l23811676
: h  e" ~2 p5 F8 n2 ~& I1332695
37151678
39182179
40612370
+ [4 B2 m0 n& P9 l0 x1 h  q37802212
- l% h, A7 c2 e# k# i+ _6 u% p36762578
$ i  w, I! V* |1 |40292838
42632931
6 h+ {5 J" `3 f' W, ?8 d8 w34291908
35072367
. `$ t* s2 G( ^( I5 F% G- b33942643
0 m5 x$ g/ v' Z9 x34393201
0 V! x2 R- \2 h# u  g& Q29353240
31403550
9 `% e0 B% _$ a; e. h" K+ @25452357
27782826
23702975
: |+ ~) ?3 P7 [3 g6 d$ [4 W[url=][/url]




# U2 F, `0 p3 ]5 D

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

[url=][/url]
TSPFitnessFunction类using System;
using AForge.Genetic;
6 G( {' ?8 _/ |% }* R
) ~& i4 K5 C# a/ e9 |3 Jnamespace GenticTSP
{
, L6 ]* g# n/ }) c0 b///<summary>
/// Fitness function for TSP task (Travaling Salasman Problem)
1 p/ r! u( R$ ~* m! x///</summary>
publicclass TSPFitnessFunction : IFitnessFunction
{
' u0 [( K3 L7 Y8 ?// map
7 l) j. |9 j+ Q8 R) Nprivateint[,] map =null;

8 G8 x$ V; t* D6 o; a4 F// Constructor
8 ~0 g9 I/ `# Hpublic TSPFitnessFunction(int[,] map)
7 u) C# N8 I" F, d{
this.map = map;
}

///<summary>
2 }& C  s4 D# Y* m4 {3 t/// Evaluate chromosome - calculates its fitness value
; t5 l% f( ?3 g* s///</summary>
' p8 M8 u% d, }# Tpublicdouble Evaluate(IChromosome chromosome)
{
- g5 L( E4 G. \! O" h. Zreturn1/ (PathLength(chromosome) +1);
}
1 z/ p. H! M( \, m* F. I6 e8 p
///<summary>
" M6 m* M( {' H( |+ ^/// Translate genotype to phenotype
///</summary>
* ]9 v5 w  H) D* zpublicobject Translate(IChromosome chromosome)
{
return chromosome.ToString();
" _9 W1 u* u, H. \5 q7 j}
) m* L) r5 w* A5 d& z
' f/ ~& _! \2 L$ O; k///<summary>
/// Calculate path length represented by the specified chromosome
///</summary>
8 o( }8 _9 ?  a7 Wpublicdouble PathLength(IChromosome chromosome)
; |- Y+ {  k  i# F3 X& [{
// salesman path
ushort[] path = ((PermutationChromosome)chromosome).Value;
! O% A$ ^; q, k( p5 y
// check path size
, [/ r) Y; I" |) V* o# _if (path.Length != map.GetLength(0))
{
4 K( g5 U7 N. r9 \thrownew ArgumentException("Invalid path specified - not all cities are visited");
}

/ Y- m- r/ S' y' o3 o, U// path length
( N) ]# G/ z) I9 lint prev = path[0];
! T) o0 N2 d* n& gint curr = path[path.Length -1];

, C, w% L! Y* H2 o// calculate distance between the last and the first city
* q" X- {( `& cdouble dx = map[curr, 0] - map[prev, 0];
( G8 y8 B7 I2 A+ K" s1 H; `. vdouble dy = map[curr, 1] - map[prev, 1];
double pathLength = Math.Sqrt(dx * dx + dy * dy);

// calculate the path length from the first city to the last
for (int i =1, n = path.Length; i < n; i++)
{
// get current city
- U+ q3 r4 `- k: ?' @curr = path;
- c7 Z; S8 s1 j6 g/ N7 B$ k
// calculate distance
, c- K/ f& E* U. H' m7 Qdx = map[curr, 0] - map[prev, 0];
dy = map[curr, 1] - map[prev, 1];
, V; G; R' q8 u: ]2 QpathLength += Math.Sqrt(dx * dx + dy * dy);
) h, b1 p5 d) G9 x
7 G: `: O. ]+ {6 Q// put current city as previous
. z8 A$ B, I3 i2 \prev = curr;
}
# l1 f0 G, L6 D! [2 N
return pathLength;
}
( w" p% s  A& X* W: }}
}
8 q: w3 Q" N% q, s. S

& H; ?6 b( [. w7 L3 n9 ^& ?9 _+ i[url=][/url]
' e7 J+ G" _8 a% C. w% N/ T

8 R" w3 r( b# q( |& j1 J# u

   (5) 添加GenticTSP.cs，加入如下代码：

, W2 Y8 k1 [; g3 c# X[url=][/url]
. I$ ~, W2 C: X& r6 S( B5 ~GenticTSP类using System;
- u0 f& y7 f* K1 ]using System.Collections.Generic;
0 L2 i4 A" d4 w# i/ E7 ~. S" }% ousing System.Linq;
" u$ r3 T' ^% y: ausing System.Text;
using System.IO;
% G+ N+ x8 N3 J  q5 B
# x4 U$ m9 f8 }: ?1 b8 {using AForge;
- w+ p& W, P& v' ]using AForge.Genetic;
" ^) @9 F1 |7 \# U3 s( Y
$ n. p: g& {) F8 r6 X+ r; }9 g" R
namespace GenticTSP
6 y4 x! s( {+ d5 ^& P3 C/ o{
+ ^4 H! @! ^! T5 r7 G% k4 pclass GenticTSP
* f8 T  T: k) R  C5 O% f* m{

; c4 [7 q  u  sstaticvoid Main()
$ }; B9 M- ^* c" x$ f8 E{
StreamReader reader =new StreamReader("Data.txt");

int citiesCount =31; //城市数

int[,] map =newint[citiesCount, 2];
2 A  U- ?& M8 A% O$ K1 ~, k
9 \; g; w9 l" y9 Z; a# [1 cfor (int i =0; i < citiesCount; i++)
3 o' c+ U: M( y$ a6 r7 S+ X# Z{
string value = reader.ReadLine();
9 o  u- F. m  F) O2 |string[] temp = value.Split('');
map[i, 0] =int.Parse(temp[0]); //读取城市坐标
map[i, 1] =int.Parse(temp[1]);
}

# D% F  D5 l2 v1 S7 E8 G1 z0 U// create fitness function
TSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);

- N" W. ?3 k7 [" |) bint populationSize = 1000; //种群最大规模
% K1 v9 U4 Q. A
: p, P; ?! S6 D/ O2 ~/*
* 0：EliteSelection算法
* 1：RankSelection算法
5 k" e' [, Q5 G0 {( X( l* 其他：RouletteWheelSelection 算法
$ c0 L6 U2 X6 N* E0 T, P: h* */
int selectionMethod =0;

$ q3 a5 ]% J: b* N// create population
) G- Q% U$ H( n: w. KPopulation population =new Population(populationSize,
new PermutationChromosome(citiesCount),
  {% [) D# _' W: i. ]# R% y& qfitnessFunction,
(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
(ISelectionMethod)new RouletteWheelSelection()
);
- K# ~( M+ z+ R* @2 `( Z$ s
// iterations
# U4 w' p* D1 f; I+ @  V* f* {int iter =1;
int iterations =5000; //迭代最大周期
# W: \/ u  I$ g5 `
( e3 a: f6 n" r, a! ]5 [// loop
while (iter < iterations)
% i4 q" d" Y1 ~{
// run one epoch of genetic algorithm
population.RunEpoch();

// increase current iteration
3 [& F2 F( d% I- `6 |8 xiter++;
; }8 r) i0 N$ ~9 E1 D8 v5 x& M}

System.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
" h7 ^/ ~/ d, U- C# ]4 KSystem.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
System.Console.Read();

}
- `$ Q- I% V, V( ^4 i}
  `' u# P) P4 t}
: h6 ~9 z5 Y6 h' r+ f3 {
0 q- x1 H0 `) ~( L1 s! C
6 w( G# l! E  {[url=][/url]



0 ~( b% k% D, P# ?. O" C8 v

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

, v8 T4 r9 r2 j) K4 P8 e% u
, T) e& c4 l8 d7 d" W