【转】优化算法入门系列文章目录（更新中）

我要吃章鱼丸子

遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏

. d% @$ i# ~6 L5 z" a/ }

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

5 z& i- ]% V: Q9 h
一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

; Q, y" W2 r: n$ f: d

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

) i0 y% q; L1 ^. S
二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

$ L% w; V, x1 y+ g  ^8 D1 D3 B

　　遗传算法有3个最基本的操作：选择，交叉，变异。

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

[url=][/url]
0 U3 n! X$ T& g; s+ q3 Q轮盘赌算法/*
* 按设定的概率，随机选中一个个体
; [  _' W) T( H% f: v% {* P表示第i个个体被选中的概率
+ O4 j4 e9 X6 c2 y. @+ Z/ E*/
int RWS()
{
m =0;
. d; z% `" V* o& lr =Random(0,1); //r为0至1的随机数
for(i=1;i<=N; i++)
{
/* 产生的随机数在m~m+P间则认为选中了i
! {4 G# p( |1 ~* g  L* 因此i被选中的概率是P
9 j( t. I, R' w- ^*/
3 N: p* U2 I. }( m+ |" I: [m = m + P;
if(r<=m) return i;
! w) h7 e* @, J: c}
+ [# H1 d9 |0 Z}
# ]9 l  \  n+ e7 Z0 j# r6 F
8 A" Q4 e% u9 a! b[url=][/url]
  K" e6 D% Q& k1 L4 l6 f+ d3 L

5 {' k' h: ]) H

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

' T+ l9 [% I! `. M

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

/ k7 D) Y. y8 Y* x
三.基本遗传算法的伪代码

[url=][/url]
0 V: `; {0 L7 b* P. `基本遗传算法伪代码/*
) c7 r" z9 @+ M( G! m- E* Pc：交叉发生的概率
/ F" v( B3 k2 T+ H- x- D* Pm：变异发生的概率
" c6 s$ U$ m3 o  Q: c: ~( F* M：种群规模
2 u" \2 @! w/ {! m6 W3 T* G：终止进化的代数
2 j5 z: b& u$ i% v% ?  M" s, N5 r* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
2 z' k3 Z8 C) O! I7 [% M*/
初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop
: K  i( m. T* R8 {0 r4 x4 d
do
{
8 X7 Y: Z8 e. Z' k1 r　　计算种群Pop中每一个体的适应度F(i)。
　　初始化空种群newPop
2 A* y# |4 Y6 r　　do
' x$ q6 c- h# k; I6 W0 b6 i　　{
/ \( J: v: ?6 _- \# k/ G* W　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
　　　　if ( random ( 0 , 1 ) < Pc )
　　　　{
, z0 R5 W, }$ O3 \　　　　　　对2个个体按交叉概率Pc执行交叉操作
- ^( @5 K2 m, e. u; h" D　　　　}
　　　　if ( random ( 0 , 1 ) < Pm )
+ L1 M. ]0 b$ ?8 H　　　　{
1 X1 }# K9 f# ]( i' h　　　　　　对2个个体按变异概率Pm执行变异操作
. X3 h( P0 L* h% g　　　　}
将2个新个体加入种群newPop中
} until ( M个子代被创建 )
: ^2 P8 x, s5 n  g用newPop取代Pop
}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )

0 M7 S& a' ?" d% J: |$ i$ M" }
9 g) J0 L3 ?( u- K* o4 @' L[url=][/url]
1 v/ D, O6 u" X

- D) e* D2 ?9 a8 |. p1 j6 x9 l
( j/ b& O3 `" F3 l5 P" j; k; w四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

图1. AForge.Genetic的类图

3 s& N8 v0 }9 V! Q' b- j

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

  n" M- w; W7 g- r4 `. y/ X[url=][/url]
  r' x! S2 @/ s1 V" d) c$ q- n/ v13042312
36391315
' I$ z( G5 K2 o& g& h) v; |" l41772244
37121399
34881535
7 S# A: f; a! \9 E7 _7 w2 ?, M  j33261556
3 z* l/ Z/ a# n. o32381229
41961004
4312790
5 c9 O* J) P( i& |4 `4 n( Q4386570
30071970
& I! Z7 C' Z7 b25621756
7 G7 G3 N% f9 V# A. q) E27881491
23811676
& t% @* e/ @/ ~7 g1332695
37151678
39182179
40612370
, P) ~: o% z1 v4 W2 B37802212
1 f  l* b- t# ?& c2 z" u# Z+ C0 |36762578
* r# v% W9 }# V: q3 ]40292838
8 H' d) _: ~( r$ B' j42632931
34291908
" F4 g  Y, J! w- K& z+ J1 y35072367
4 V$ c- e4 z& @' G) P: V33942643
" e9 p! a6 _/ E% z  @6 `* x34393201
29353240
31403550
25452357
27782826
( x8 u3 U% i; q7 v8 B# G* w23702975
, f- i2 X3 s( v4 Q0 E[url=][/url]
$ l" W5 e4 e8 ~; R$ x
: q; p5 ?/ F/ w  A  o

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

7 g7 f; L1 f# l2 \" P- \/ U[url=][/url]
TSPFitnessFunction类using System;
8 L  Z  |  X1 f) R; L/ ]  J0 Susing AForge.Genetic;

! d$ |4 L0 a/ p7 I. Nnamespace GenticTSP
% O3 d' j5 w4 m- v0 _# l7 F3 a{
///<summary>
/// Fitness function for TSP task (Travaling Salasman Problem)
///</summary>
publicclass TSPFitnessFunction : IFitnessFunction
: b- b% p9 j; Y3 _{
( T1 O1 U* x. S1 s// map
( {6 M6 N0 ~' l6 d, J! vprivateint[,] map =null;
+ L  A+ ^$ ~% \
// Constructor
2 z% l: K$ s2 t! x7 ]1 e  y% Z3 \public TSPFitnessFunction(int[,] map)
& j! w' ]* m/ q) F, E2 q{
this.map = map;
# e8 M# m7 E. j% T}

6 {2 W/ @7 y, b& \///<summary>
/// Evaluate chromosome - calculates its fitness value
* b* p. S, o0 X/ @5 ]0 P/ m# ]///</summary>
# X3 j- _- g6 f) `5 o7 X$ mpublicdouble Evaluate(IChromosome chromosome)
8 a. C/ u+ s5 n' t( f) m{
, r! R! \, J' b% u; u" Z4 J2 Qreturn1/ (PathLength(chromosome) +1);
}

0 i3 w# w+ l* w4 I5 L0 {* C& b, J7 Q///<summary>
0 ^- P( d/ D  P. D. `) T  ^/// Translate genotype to phenotype
///</summary>
% P$ M* }- C) }% l4 y4 a. ?- \publicobject Translate(IChromosome chromosome)
{
* _) q5 S, ^2 r6 H' u- E3 p& S% ]return chromosome.ToString();
. _0 R" |, J! c% `' p3 p}
' _6 A) h3 h0 I% g- P; J# ?
///<summary>
# B6 `, }) R  f  q% [# M! _  F/// Calculate path length represented by the specified chromosome
% n! @! R: z7 C; m///</summary>
publicdouble PathLength(IChromosome chromosome)
{
// salesman path
* ^8 s5 ~) h: X' d% Q  s9 Yushort[] path = ((PermutationChromosome)chromosome).Value;
$ p7 l! |) Z: N" q; m
// check path size
( b, j' M) c0 }& ~5 j. Eif (path.Length != map.GetLength(0))
8 ]& W$ p+ |" `' U3 n) t9 W1 Z{
! H1 D& @2 U/ K& fthrownew ArgumentException("Invalid path specified - not all cities are visited");
}

// path length
2 p1 M# p! d$ R: L. xint prev = path[0];
7 @' a0 K: t$ T! z; Pint curr = path[path.Length -1];
: `9 [. `/ }( t9 P1 X0 q) c; i
! h3 a( l" z8 R- z2 u  Y! ~// calculate distance between the last and the first city
double dx = map[curr, 0] - map[prev, 0];
double dy = map[curr, 1] - map[prev, 1];
double pathLength = Math.Sqrt(dx * dx + dy * dy);
8 z4 }" ?$ t- l8 c3 V, @
: Y7 X, Z: s- T1 ~// calculate the path length from the first city to the last
for (int i =1, n = path.Length; i < n; i++)
6 ?' u* k2 R+ i4 x! M% s  ]6 D{
- Y/ z) Z! b: p$ o+ Y// get current city
+ x& i! h$ q& ^, scurr = path;
1 M0 ^7 }7 ~! G( `' T$ h
, J0 U, J+ I1 o) Q' z// calculate distance
dx = map[curr, 0] - map[prev, 0];
dy = map[curr, 1] - map[prev, 1];
3 M( R: ]- K" V/ fpathLength += Math.Sqrt(dx * dx + dy * dy);
* X3 m- d; Y# |$ U
// put current city as previous
: \" Z9 @$ k; o1 D; ?6 Kprev = curr;
}

, E" T+ V$ h# F- Q1 F' O+ m  B* Mreturn pathLength;
2 o, @* m5 P; I# C2 B}
}
}
& K% B, D$ ^2 {$ ]

  O3 P7 E( W4 `8 e4 e  ][url=][/url]

* W9 K7 u, |" x+ @' }: M; e

   (5) 添加GenticTSP.cs，加入如下代码：

( v1 R9 |* g- m8 U, I: D[url=][/url]
1 ^3 N$ f( X' {# ^* @GenticTSP类using System;
using System.Collections.Generic;
+ Y8 Q" t% {8 f' D) Q' E8 Eusing System.Linq;
using System.Text;
3 m% w" x* U1 ^" e* T! r# j. M6 ?( cusing System.IO;
* M' z* D/ l7 V0 }: f
using AForge;
using AForge.Genetic;
" R/ I: p9 E8 J- b3 K7 n0 ~

& P. ?2 w% f! m- ?/ q( y) L4 ]namespace GenticTSP
{
class GenticTSP
{

6 b) L( x4 L* B: R5 ostaticvoid Main()
% p+ U& r8 i$ G# A; T0 ^0 Y/ e{
) T5 y: Q4 J' Z; W# ZStreamReader reader =new StreamReader("Data.txt");

int citiesCount =31; //城市数
/ R- E$ Q4 b" E8 N
9 S9 Y; b' r: n1 Z1 N0 h2 Y% U' g0 g8 Kint[,] map =newint[citiesCount, 2];

for (int i =0; i < citiesCount; i++)
{
string value = reader.ReadLine();
string[] temp = value.Split('');
map[i, 0] =int.Parse(temp[0]); //读取城市坐标
map[i, 1] =int.Parse(temp[1]);
}

  ~2 o1 [- n+ G8 a. T: t// create fitness function
TSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);

: X4 [" r4 n. U: E9 X9 ~int populationSize = 1000; //种群最大规模
& P; q# V8 g0 f; m
" c7 ^  Q3 ?1 x( b/*
  i8 }' c. J' o$ d* 0：EliteSelection算法
* 1：RankSelection算法
- M8 {. p5 O. E9 w* 其他：RouletteWheelSelection 算法
1 m$ E2 j7 S! M7 G  B6 T$ e* */
6 }& B- I0 z1 A' C( q- n. _. {: Rint selectionMethod =0;
; z9 \& @* V2 z- C
; C  c4 a( A# a# V" ^* Y) S// create population
Population population =new Population(populationSize,
- d+ r, o8 c8 R+ G+ h6 Lnew PermutationChromosome(citiesCount),
6 w* ~0 ?6 L8 H, J3 @* TfitnessFunction,
" a" s+ k- e* l! f' K(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
1 ^* d( P! \9 s(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
(ISelectionMethod)new RouletteWheelSelection()
);
0 d2 k  r/ u# @
// iterations
) i9 x% n: h9 \- d+ d: G- nint iter =1;
int iterations =5000; //迭代最大周期

+ F" E% `5 g. b// loop
% z+ ?6 w. x& G( ?( ?while (iter < iterations)
% [8 ~9 G: K/ @{
) e  F% _" ^& s# T// run one epoch of genetic algorithm
8 r2 Y/ X: Z1 i: h7 H6 e0 l/ Upopulation.RunEpoch();
( l' C+ y: N! e' d9 N
// increase current iteration
6 Y- _! g7 u- p  q9 oiter++;
. _& N5 C% d( \. \6 F6 W0 U}

System.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
- Q- `$ q9 [" X: I  HSystem.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
% U/ D7 ?  J1 w9 |. d5 ~% fSystem.Console.Read();

}
$ Q/ t, a1 u( k' J}
}
0 \* x5 r) C0 g% P( z  F' W
& ?9 L0 e( f+ ]# Q7 N
[url=][/url]


4 n' ?9 f) w9 v! H8 a" Y
$ O' G& X( o5 h4 A

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

+ Q0 v5 Z) k& I  r: \


- D( Y+ ^/ f% p