【转】优化算法入门系列文章目录（更新中）

我要吃章鱼丸子

遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏

8 z# H3 ^9 E2 l9 ?; z: @+ v

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

3 U+ K" F; I. {2 e5 s5 Y+ b一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

) u  o) C1 s! e1 @, b. U* ^

　　遗传算法有3个最基本的操作：选择，交叉，变异。

# o% J! A2 J2 p% o$ s

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

" ?) |9 q! F5 n% @& g: D; T% s. ]' a[url=][/url]
4 K; P) X+ Q; ?; c* i轮盘赌算法/*
* 按设定的概率，随机选中一个个体
* P表示第i个个体被选中的概率
/ B7 C) j' L! S6 `+ f*/
int RWS()
{
3 w! j  Q( K5 u7 T3 G& Jm =0;
r =Random(0,1); //r为0至1的随机数
for(i=1;i<=N; i++)
{
/* 产生的随机数在m~m+P间则认为选中了i
* 因此i被选中的概率是P
*/
m = m + P;
if(r<=m) return i;
}
, {4 t$ i0 j* B- X  }  S}

[url=][/url]

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

4 ^, c# m) e, f" e

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

6 x& P6 m2 G' c; @7 j
; ^( N- H, e2 p: R/ D: E! Q: K" J9 y三.基本遗传算法的伪代码
  P: d9 M( P& t6 d! W( o5 {0 U1 J
4 y8 p. z& }) C6 Q" A) c6 X+ ][url=][/url]
# x! r% f, W4 a1 j" }& s基本遗传算法伪代码/*
* u! f: y4 ?, F3 ]7 h3 c: D* Pc：交叉发生的概率
* Pm：变异发生的概率
+ G6 B. c& z7 v* l- W* M：种群规模
* G：终止进化的代数
* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
. w; D4 M* W6 Z# H*/
初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop

do
5 b9 K3 h5 U# u) e7 q{
$ H# ^  o: G/ f/ L6 d. G　　计算种群Pop中每一个体的适应度F(i)。
: K$ E% E! j# @4 R" P　　初始化空种群newPop
/ b8 T) ^2 H$ ?" B& ~' L1 e　　do
　　{
　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
+ ?8 _. x+ G9 H/ ^　　　　if ( random ( 0 , 1 ) < Pc )
　　　　{
) `0 h5 h' z# ^9 \- a　　　　　　对2个个体按交叉概率Pc执行交叉操作
　　　　}
　　　　if ( random ( 0 , 1 ) < Pm )
/ }8 F+ i6 h, m3 x' R$ Y　　　　{
　　　　　　对2个个体按变异概率Pm执行变异操作
　　　　}
/ g% P* W' F- C$ {. v7 j! U+ e) _, `将2个新个体加入种群newPop中
} until ( M个子代被创建 )
) k+ e4 {6 I. B" x用newPop取代Pop
1 u; A8 ]: D3 B* m& P" U}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )
2 Q4 U* p7 T; o/ L

[url=][/url]



$ h8 @& ~2 R5 x8 l; p四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

1 J+ }% p) U; M& G

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

3 f* J; [$ y% ~0 Q0 |7 J

图1. AForge.Genetic的类图

% G+ P1 p% L2 d; g4 v3 L
" R* ], H$ E  W; z

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

+ `( `- @: Z4 a% C. V5 `' g[url=][/url]
% R  t% Z; {- e8 W5 t  [1 L13042312
" U: c2 A, `- ~6 _& g6 @36391315
; J6 T3 m7 y5 l5 t5 }" A7 r41772244
0 [1 l5 d5 g4 `( K& P; M: m37121399
' O2 Z/ I- _- \34881535
5 F- I, v3 K% H! x6 I; M: k5 U9 R. u# e33261556
32381229
41961004
4312790
4386570
30071970
25621756
7 Y; Q; w/ j3 G27881491
" G7 I" S, T7 @8 s23811676
1332695
) T2 l( _; ]$ P# H& x: N37151678
2 Z7 N% |) @! _39182179
40612370
( h0 J8 ]% z$ Y2 v- ~9 k37802212
36762578
40292838
: o4 H! x; |4 T42632931
34291908
. Z; n: [6 F+ F3 G9 n35072367
33942643
& A6 O. v  ?. t/ n* e  Q" n34393201
29353240
1 G) n+ d  b8 J" \31403550
, S; E0 w$ g3 ~% [25452357
5 [) ^' t: `) y. h$ G6 C/ z27782826
23702975
[url=][/url]




1 P5 `# g0 J/ N1 G- A

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

[url=][/url]
TSPFitnessFunction类using System;
  K. c; c/ `) j  Ausing AForge.Genetic;

" k7 _2 j& ?) v6 g: h' E9 D. knamespace GenticTSP
* Z% ?  S* }* k0 _1 K{
- \! t/ Z1 y3 v7 ^  A7 ]///<summary>
/// Fitness function for TSP task (Travaling Salasman Problem)
" u6 W1 d4 u; C8 m. c  ~+ C///</summary>
# n5 l0 _# b9 G* s7 ]5 Mpublicclass TSPFitnessFunction : IFitnessFunction
{
$ C- f: G; Y" Y2 ~. r// map
4 w5 T4 X& O' |1 E8 y2 wprivateint[,] map =null;

// Constructor
public TSPFitnessFunction(int[,] map)
{
this.map = map;
}
$ b/ R; Z/ E( e% x4 I5 ~& H  m
% {4 H/ m1 c3 d2 @///<summary>
( e3 D/ y% J; m' Y7 O/// Evaluate chromosome - calculates its fitness value
2 q. h4 o- ~7 ~" i1 ~5 |1 z+ A///</summary>
. s9 w! b+ j" a6 ]: ?. npublicdouble Evaluate(IChromosome chromosome)
+ x* b7 v% a+ G2 p) p' y{
- Q* S4 T+ A3 S9 Vreturn1/ (PathLength(chromosome) +1);
}
* [: W! @: h6 r. \' `( o% \+ y
///<summary>
( D; ^* ]8 W. ^5 g/ f/// Translate genotype to phenotype
8 N  {  b; e/ K' j7 e///</summary>
% I1 T. E7 ?8 g- W0 W) r- W6 Gpublicobject Translate(IChromosome chromosome)
{
return chromosome.ToString();
}

///<summary>
: W! Z/ I2 [  W0 f& p$ Q/// Calculate path length represented by the specified chromosome
/ k- `" y. I! @6 @& ^2 E///</summary>
publicdouble PathLength(IChromosome chromosome)
{
// salesman path
9 ~1 w( c' O9 L" r# Oushort[] path = ((PermutationChromosome)chromosome).Value;

// check path size
if (path.Length != map.GetLength(0))
* T7 Q4 A, w+ l6 ~9 [8 {/ D{
thrownew ArgumentException("Invalid path specified - not all cities are visited");
}
+ U4 }- A, m3 x7 l+ I
* c* x! v  E+ |. h$ p// path length
int prev = path[0];
int curr = path[path.Length -1];

// calculate distance between the last and the first city
5 |# F1 M$ S% f! u4 w# odouble dx = map[curr, 0] - map[prev, 0];
, `8 ^$ M% U5 Y( ~) Y2 l4 a# sdouble dy = map[curr, 1] - map[prev, 1];
- K! T& s7 W+ M8 |double pathLength = Math.Sqrt(dx * dx + dy * dy);
* c* o6 B2 \9 g: k5 }
// calculate the path length from the first city to the last
. G9 |" o7 H. X* t& l5 U0 z6 ^for (int i =1, n = path.Length; i < n; i++)
0 [1 ?4 r4 }& z& J; T{
// get current city
( O& C  c4 L4 @' qcurr = path;

// calculate distance
dx = map[curr, 0] - map[prev, 0];
5 @; H/ i) Q7 h5 Kdy = map[curr, 1] - map[prev, 1];
! w" s7 U* Z% }; l6 B& m& w' npathLength += Math.Sqrt(dx * dx + dy * dy);

2 H+ Y- w6 |. b( s// put current city as previous
prev = curr;
}

return pathLength;
}
2 r" {2 r0 Z" W, E; R, R}
4 V9 f; J' x: ]% J2 u}


6 ]: j  ?7 I% c7 g& }2 t" J3 j- z[url=][/url]
* ^  `% k, Y$ V# e6 F- |
1 ]  S+ ^  r' v. k7 Y: J
! U$ j$ C; J( I4 W& d" H# S- E' E% o
5 `9 `8 H- k" _; F3 c

   (5) 添加GenticTSP.cs，加入如下代码：

[url=][/url]
+ d$ s$ J: i" u; `' y+ l  e- VGenticTSP类using System;
using System.Collections.Generic;
using System.Linq;
# X, L, Q' j- h3 a0 cusing System.Text;
9 t& N: N2 c3 A; x# M4 ausing System.IO;

% _. T3 e' \& w% K2 Husing AForge;
* d5 N& H4 y' Jusing AForge.Genetic;


, o- C  O. c5 y9 Qnamespace GenticTSP
{
( L7 y2 w4 S1 B% `: z/ N' vclass GenticTSP
  d" B% O/ _/ c* S0 u+ Q{

  u( m- O# f4 k* C1 tstaticvoid Main()
{
" V8 x3 y- l; C8 pStreamReader reader =new StreamReader("Data.txt");
+ m* K8 t' {& X. Y2 i* q3 Y
int citiesCount =31; //城市数
! K. D' Z' V& r9 ~$ O7 H+ J2 V
int[,] map =newint[citiesCount, 2];

* i( ^7 ~8 O5 x! {4 w2 Hfor (int i =0; i < citiesCount; i++)
{
string value = reader.ReadLine();
3 k7 q# v( T6 Fstring[] temp = value.Split('');
- \# K+ k8 `7 S- A7 d% rmap[i, 0] =int.Parse(temp[0]); //读取城市坐标
2 g  f+ ~; K) [* Y( c) K) ^map[i, 1] =int.Parse(temp[1]);
. i' G6 T' x) O% L. [+ s; @}

: `) p+ W6 |# G// create fitness function
" u" J9 J& M. W# zTSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);

int populationSize = 1000; //种群最大规模

/*
* 0：EliteSelection算法
; j* |. v$ H7 l8 d: z+ ^. X& Y: q* 1：RankSelection算法
1 p* v0 H- ]! ]! ~; V  R# ^2 ?5 }1 ]1 v* 其他：RouletteWheelSelection 算法
6 a' n4 b% w1 Y8 r4 v* */
/ Y" h/ j) Y# Q; n8 a8 o5 kint selectionMethod =0;
% Q% b1 F/ G4 s- D# [6 i
// create population
Population population =new Population(populationSize,
new PermutationChromosome(citiesCount),
; }+ N' f7 S* F4 {( T4 afitnessFunction,
(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
' V( K3 R- Q* n9 X, u  b+ @(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
& v! R: s0 m0 M(ISelectionMethod)new RouletteWheelSelection()
2 _- j$ v' O$ g5 x: v+ }6 Y);

& v$ h$ C# o3 _: q// iterations
. R6 }8 F* l3 |! n4 s3 eint iter =1;
/ W) a- [! P: e5 {8 o: |int iterations =5000; //迭代最大周期
1 `/ d) A  e& j' I
. T8 V+ }) E; q" V6 k* W: H// loop
while (iter < iterations)
{
8 h: o% J, J' I/ ^* \  F// run one epoch of genetic algorithm
* T" }4 i! L: \* [3 ]$ l; ppopulation.RunEpoch();
) \. g; x# D0 f) P% ~6 A
// increase current iteration
9 }7 r6 V7 `% R1 o: b( G$ {8 y; Z; c( {iter++;
}
, S  i2 B+ e3 ]  \( R8 M( {
2 q( k1 U. X' R' e3 JSystem.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
' k- u2 v2 v* f" n9 K% dSystem.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
. `9 J4 f# ]4 h7 B  RSystem.Console.Read();

5 T+ I! M# p; A3 i; R/ F7 u' F. k}
( [" I3 f. G) S3 m% f4 S4 L}
, T$ N* s7 G% u* d" u3 r  u}

( T# q& C. O, B! L+ }' y# P
[url=][/url]

7 n# D6 c3 U% D! M3 O8 O4 N
8 ]3 k+ ]" W, A4 L8 N

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

$ O" G' L. Q2 i5 ~* D% F' ~

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

, r8 t4 P' x+ ^7 m- r( {2 s
( ]/ U3 q+ b1 l; a
. \6 m: r4 ~& w, v/ h7 n