【转】优化算法入门系列文章目录（更新中）

我要吃章鱼丸子

遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏
0 |4 C, I0 U0 A2 E9 ~5 l

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

. b  z# r; q' j
" w/ Q. D; A3 O5 d& |# Y一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

5 b$ F+ Z0 b) B( u' v
. d: |- A, Q* X5 S1 y二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

' r  v! K8 c4 {

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

　　遗传算法有3个最基本的操作：选择，交叉，变异。

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

: u3 v) N+ @- V0 e) \- m[url=][/url]
轮盘赌算法/*
* 按设定的概率，随机选中一个个体
* P表示第i个个体被选中的概率
*/
int RWS()
' h4 h- V0 k' J8 k8 i) K{
/ j' B# ]2 x6 Q$ i; c- M9 B9 am =0;
, V4 I# {7 v1 ^" qr =Random(0,1); //r为0至1的随机数
. E4 o" C7 D1 k6 x9 v& ~for(i=1;i<=N; i++)
; H  A9 d& V$ @% {{
; W7 Y5 N7 k& c6 P3 R/* 产生的随机数在m~m+P间则认为选中了i
* 因此i被选中的概率是P
*/
  p7 U" Z7 K. f; z. S8 i! I8 I! Im = m + P;
& v0 ^! {+ z/ s+ K# {if(r<=m) return i;
}
1 g% n  Y  o# h! ?* p' k}
3 J% g* c6 P2 w
[url=][/url]

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

/ ^6 Z( U; c& @) n  R
& n3 Y7 F7 d: k2 @* B% y9 l; Q1 _三.基本遗传算法的伪代码

[url=][/url]
基本遗传算法伪代码/*
: B6 f4 |/ W( N$ j* Pc：交叉发生的概率
* Pm：变异发生的概率
* M：种群规模
* G：终止进化的代数
% B. _9 n: `- F, w7 U' E* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
0 v! b8 ?# n% m7 k4 q8 q- k*/
) p! A" |  ~; i, F) z# J  T初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop

do
{
1 C2 D% n) D- s9 A( p. g7 I　　计算种群Pop中每一个体的适应度F(i)。
1 \, ]2 z: |0 ^0 z5 c0 L, e  X6 U2 s　　初始化空种群newPop
　　do
( @& @$ T0 N5 I. D0 L　　{
. Z' {# H1 ~5 X1 |' x; x　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
# h1 [/ `' E. a* }1 y, O, z$ T　　　　if ( random ( 0 , 1 ) < Pc )
+ @) U- b1 ?4 c, o8 U　　　　{
( T! r- T7 D3 R0 a" s　　　　　　对2个个体按交叉概率Pc执行交叉操作
5 U& E; \6 H) T) V( R　　　　}
/ }5 B# e( A4 b9 M' H8 u　　　　if ( random ( 0 , 1 ) < Pm )
6 o3 \5 ^. S8 e  ^  c: Q, r% u　　　　{
: _& s3 Y; R5 h　　　　　　对2个个体按变异概率Pm执行变异操作
7 k4 l/ ^; l  [9 Q1 Y　　　　}
将2个新个体加入种群newPop中
} until ( M个子代被创建 )
用newPop取代Pop
) `# ?4 P  ]; U" _1 F! S1 ~}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )


[url=][/url]


6 D( _5 g# p6 @5 {7 }* ?7 Z# H$ E
四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

  M' Z0 |. e3 O+ O" Z+ g

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

1 |2 y2 x+ x1 k7 ?+ e  m3 z. n

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

0 O  V% s; q% H* ]# e, x

图1. AForge.Genetic的类图

3 l/ b# q# A  W0 g6 h0 o& m
! R/ o3 H  B# g0 a! s& u: V

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

$ \" D0 D3 \) Q! a) K[url=][/url]
& w+ j# V7 c7 Y: b4 w- h4 D13042312
36391315
+ |/ q+ q4 ]1 X  f41772244
9 g6 A) Z/ A, u0 ^/ u* C/ u37121399
34881535
! r0 }- o1 C! c8 {( o* E33261556
) X9 m* j/ d( ~1 f' M% [32381229
0 C4 }. b9 K' `41961004
1 R6 d$ O! x) u, \- S4312790
5 K+ Z5 \( {6 ?" q6 ~& i4386570
9 Y( J1 N* _1 \- A. w( S$ r30071970
25621756
# z# U& @* Z$ X* o% ~27881491
- @: Q3 b+ U  p2 l23811676
2 X% Y2 }9 A9 I) A: n: h1332695
37151678
+ C4 L$ {0 ]$ p39182179
2 R( c2 S7 D% E- o5 W40612370
' Y4 d  f  P, a- o* }4 Q0 `( e/ G3 q37802212
36762578
% N/ f6 U9 m' p$ @, e" n40292838
42632931
1 R/ H3 D4 D+ j+ A1 h( ?34291908
35072367
/ t; r* P* o/ W# F, A' k8 }0 u33942643
2 O$ e% U# d; Z34393201
) s& Z. u7 k! |! ]29353240
31403550
6 c- Z% S  E" m, [* B. z, m( \* i25452357
27782826
) Q3 Q9 x, m9 S! M$ \7 Y" E23702975
( c) n) R0 s% A$ a( Y' ~[url=][/url]

6 [8 M2 V* x- a. m2 d( U9 o6 z

- a, V6 X  h! d
+ |: h3 w4 X$ K+ G

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

[url=][/url]
$ v* O- n# ]5 _- HTSPFitnessFunction类using System;
using AForge.Genetic;

namespace GenticTSP
1 X( Q4 v+ W! _  ^; J{
  B' [5 P) i) j; l  X///<summary>
/// Fitness function for TSP task (Travaling Salasman Problem)
2 V- }' L' t+ g3 @' k///</summary>
) u7 t+ B. x* f  Q2 z( j: {8 ^publicclass TSPFitnessFunction : IFitnessFunction
! m/ O6 m- x2 e( |- O7 s7 ^{
// map
2 C) [3 F( B5 T7 T( ~privateint[,] map =null;

// Constructor
. j" }" o  c. M& K5 K* q* o; q( g+ Zpublic TSPFitnessFunction(int[,] map)
{
this.map = map;
- i) Z' T, f: z: Q0 {5 q) U}

///<summary>
/// Evaluate chromosome - calculates its fitness value
///</summary>
1 y; J) m' y' u; Ipublicdouble Evaluate(IChromosome chromosome)
{
return1/ (PathLength(chromosome) +1);
}

///<summary>
/// Translate genotype to phenotype
///</summary>
publicobject Translate(IChromosome chromosome)
{
: ?, c0 q# ~: h: G, Nreturn chromosome.ToString();
8 A5 i5 q" K) h( L- t# b% G& c, k}

///<summary>
$ b' W* I* c  Q2 a# S3 l6 K! u  Q/// Calculate path length represented by the specified chromosome
///</summary>
7 a( @  v: U5 U8 l9 }! v7 @publicdouble PathLength(IChromosome chromosome)
{
// salesman path
2 y, E- {3 B, m/ ~ushort[] path = ((PermutationChromosome)chromosome).Value;

// check path size
6 z' b6 t6 E% v" g- Y0 ~# rif (path.Length != map.GetLength(0))
{
thrownew ArgumentException("Invalid path specified - not all cities are visited");
! K; c0 S, R- H" T% a# m, [  G}

// path length
int prev = path[0];
* F6 o0 B. \9 k- x+ yint curr = path[path.Length -1];

6 J) V2 P' i7 l/ v// calculate distance between the last and the first city
double dx = map[curr, 0] - map[prev, 0];
# p4 g% ^0 j' W  P+ M5 Y. tdouble dy = map[curr, 1] - map[prev, 1];
9 X7 {! G7 k, b) sdouble pathLength = Math.Sqrt(dx * dx + dy * dy);

) C( F& H9 Q# Y) y2 t/ a// calculate the path length from the first city to the last
for (int i =1, n = path.Length; i < n; i++)
. G" ~0 r; T' U+ w9 [" \- ]3 c{
1 C: _/ y  h+ l// get current city
curr = path;
# d0 b7 H  h# y1 W+ _
// calculate distance
dx = map[curr, 0] - map[prev, 0];
dy = map[curr, 1] - map[prev, 1];
4 ]+ h* e+ Y% o( [pathLength += Math.Sqrt(dx * dx + dy * dy);

" ]- B/ z: f, g$ m// put current city as previous
prev = curr;
4 v9 Q6 h. ~' ]5 V5 d}
! k1 r+ \% T$ i* t& I
) \1 F. z% ^: g0 E" k- m$ L& Wreturn pathLength;
/ I) j6 }8 Z8 C# n, y( I}
( B6 }. N& a  J& C' Y$ p}
}
; q1 B9 ~& D' c, Z- _
; I; |( X6 i& C  Y" }6 j
[url=][/url]
8 z* x: B1 q6 W) i1 f' `


- s9 K% Y/ L" g4 @

   (5) 添加GenticTSP.cs，加入如下代码：

[url=][/url]
8 v' E5 w9 p2 y0 y' y4 h1 f- VGenticTSP类using System;
9 |( W) l( V, I( [7 `* o0 Vusing System.Collections.Generic;
using System.Linq;
, V# }4 L0 P6 F& }% lusing System.Text;
using System.IO;
# r8 F+ d  a7 }9 e
" A  O5 D% n2 @, Z/ Busing AForge;
using AForge.Genetic;


namespace GenticTSP
" Y# w: A& z3 c" F2 V% o{
2 ?6 P) o# |7 n! ?- z% sclass GenticTSP
{

; Q" W, @+ Q4 h# z  _3 y& rstaticvoid Main()
2 e4 A: q, \/ I2 H( o6 p{
+ C8 Z1 x, ?8 v( S5 y3 mStreamReader reader =new StreamReader("Data.txt");

int citiesCount =31; //城市数

int[,] map =newint[citiesCount, 2];
6 i2 {# g! o$ K
; b6 I3 M$ V- ]for (int i =0; i < citiesCount; i++)
2 G3 ^7 ?- z, t- k{
( {! r8 Y( s0 W2 Estring value = reader.ReadLine();
4 y4 U& n( E1 `string[] temp = value.Split('');
1 P" V/ J& ]! N6 i  bmap[i, 0] =int.Parse(temp[0]); //读取城市坐标
map[i, 1] =int.Parse(temp[1]);
}

// create fitness function
: k4 N4 A- G! C  ]# X  \TSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);

" {% O/ }5 S$ K$ O  |! J2 |int populationSize = 1000; //种群最大规模
! H/ S- O* ?4 w* ~5 J" p5 w
/*
* 0：EliteSelection算法
* 1：RankSelection算法
  H) m+ s# I9 r: S9 g" R0 }8 ?$ z* 其他：RouletteWheelSelection 算法
, |+ s8 K6 R7 [# e/ B* */
int selectionMethod =0;
7 P$ |1 w! H3 S+ w" I' ?
: p0 J( {- F3 d8 g// create population
Population population =new Population(populationSize,
# V# }7 |: q7 t; z: M" n2 Ynew PermutationChromosome(citiesCount),
  h; Z) m+ [/ P* R( F- Z  [/ efitnessFunction,
$ }: v7 G: S5 }- J0 F- R(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
; E+ r1 }! O- _' r. @' M3 d(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
(ISelectionMethod)new RouletteWheelSelection()
);

$ X: e3 C+ L9 d: m; i" {+ D/ B$ D6 p; ~// iterations
5 ]! t& T+ h, V3 ?  ]int iter =1;
int iterations =5000; //迭代最大周期

// loop
* U' T. B6 Q$ ^2 \: f( ~+ d8 Ywhile (iter < iterations)
9 p" d5 |9 {! V* p, E9 E{
// run one epoch of genetic algorithm
population.RunEpoch();
4 o( R2 v6 k1 Y6 Q' a
// increase current iteration
0 G/ c+ v4 a" f, l3 i" U3 eiter++;
( U* |: ~4 \2 z* c2 g. c0 X1 c- E}

% v1 q1 @  M  \" E7 h4 e2 ESystem.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
, @4 E. W( S- xSystem.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
! d) O  V* n$ i" hSystem.Console.Read();

# c/ |  ~2 W/ j# B! ?3 T}
; e: Y! t) D+ }; G}
}
& g) ~" m- b! r  A: p) D, _# _

4 F6 @6 b6 ]7 y. N2 j[url=][/url]

# ^2 S8 w# I& S' o# U: d

4 N0 b- @& l4 d" p" K

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

0 ~0 I4 y& k. ~/ z/ r) P/ E" b! F
% ]5 S: Y* @4 F) v5 A( Y