【转】优化算法入门系列文章目录（更新中）

我要吃章鱼丸子

遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏
4 k! f1 D0 O1 D

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

! n3 G) P  }4 F' s. p
# K6 S  j% g+ D& P9 y$ A8 {+ [& J一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

% f' r) D, ]* u; n( s" E
6 {, \* }( i, \! b( b二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

　　遗传算法有3个最基本的操作：选择，交叉，变异。

* A0 C6 a8 {$ y2 S3 w

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

[url=][/url]
) @* t1 O& _4 f3 ]: y轮盘赌算法/*
* 按设定的概率，随机选中一个个体
% \) a# x) G. a0 j* P表示第i个个体被选中的概率
*/
% G/ _8 [) s8 f5 j& Jint RWS()
- U0 R* C6 k5 Y" n+ e{
m =0;
" z" v- A7 o/ X; C( C) [/ H: jr =Random(0,1); //r为0至1的随机数
for(i=1;i<=N; i++)
{
/* 产生的随机数在m~m+P间则认为选中了i
. s9 d  |( e+ |  W# F5 @+ A* 因此i被选中的概率是P
*/
7 \6 ~! o* a0 \$ F6 ym = m + P;
if(r<=m) return i;
7 c8 I1 Q9 M( V1 w& L4 w4 B- B}
  r5 h3 _, F) b, S! I}
2 t# @: D, N0 s( O, G' R; {
) g' e  g$ V7 J* |7 s[url=][/url]
( ~4 P! E* ], u# X- |

( c# f) S7 E" W

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

' T& ?5 n# Q; O9 P$ g1 t

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

3 j0 ~* a5 f9 u' H, e9 p! g# C三.基本遗传算法的伪代码

[url=][/url]
1 }1 O# N% i- V# I: U  H) P9 U基本遗传算法伪代码/*
$ |* P, }3 f5 a0 f* Pc：交叉发生的概率
) r, e& m+ y) w4 s3 ]* Pm：变异发生的概率
3 t+ U) p& J6 Q. a5 J: F  A* M：种群规模
* G：终止进化的代数
* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
0 O  `9 d) E$ A7 t: a*/
1 a4 {. i1 k# O7 F9 Q初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop

/ c* M2 S) J4 v' q  sdo
{
　　计算种群Pop中每一个体的适应度F(i)。
　　初始化空种群newPop
* Y' R+ s* S' {( z) N. L　　do
　　{
　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
　　　　if ( random ( 0 , 1 ) < Pc )
　　　　{
　　　　　　对2个个体按交叉概率Pc执行交叉操作
　　　　}
　　　　if ( random ( 0 , 1 ) < Pm )
　　　　{
% d* l+ ]  g2 O; m4 p5 \0 r3 L: Q　　　　　　对2个个体按变异概率Pm执行变异操作
- k7 R: W& f$ I% S! P6 X* K　　　　}
/ ?* u# D6 Z5 l/ z% C将2个新个体加入种群newPop中
} until ( M个子代被创建 )
用newPop取代Pop
  u) H$ R. v- o* ?, y1 d& X}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )

1 ?% c3 F( \0 _* m
[url=][/url]

2 J# m# Q  w+ b, a# o8 s% ^
9 p7 z  w3 S7 Z4 E9 A, p  q
/ i0 j/ }* ?, T, I& s: b四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

9 d  m) J+ f# E/ c, V! B

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

8 T8 m3 `( H. u+ e0 I

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

图1. AForge.Genetic的类图

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

[url=][/url]
13042312
36391315
41772244
37121399
34881535
, a8 `; O1 l6 `$ W1 a33261556
) @* F+ c) p; D% A32381229
41961004
- j* w4 b! l& N: `6 k/ c4312790
4386570
+ a" j5 p/ ~! H3 ^, }% R3 f. ]7 c- H$ K! S30071970
% o8 N0 n' O' m0 t25621756
27881491
( s1 F/ D6 ^2 f5 |4 V: B5 B! P23811676
- [! Q! m5 O3 m' E  g; r& f1332695
4 C9 M' ?& u# s- U0 F" m5 y0 Q% P37151678
39182179
/ y/ G* f# Q, F7 ]& {2 i% G$ i  V40612370
5 v4 v. n: Y) P8 Z37802212
36762578
  F  R# T0 d+ O0 _1 v1 y40292838
42632931
6 w& [) f! d3 b+ _$ d# ?* U34291908
35072367
33942643
34393201
29353240
, s4 Y- N2 ]: T/ f31403550
25452357
, ]* i: h7 J( D& s( ]27782826
23702975
[url=][/url]

; R9 a6 U$ z7 I4 q  C1 |3 j1 L

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

[url=][/url]
  U0 _8 o/ K0 W1 e4 {# B, @' |+ kTSPFitnessFunction类using System;
using AForge.Genetic;
# B* q+ M" m0 [* u  h0 y
  ]' S( ~2 S* ~& b8 |3 r  g" Xnamespace GenticTSP
+ V6 ?* u3 F5 q% P, [{
2 t" F3 o$ t) m. x  u///<summary>
/// Fitness function for TSP task (Travaling Salasman Problem)
3 u9 g$ B; b+ Y, a) d; g///</summary>
0 a5 G& K& _6 R7 epublicclass TSPFitnessFunction : IFitnessFunction
{
# e1 I6 p. S+ f& ^; c# z$ o// map
privateint[,] map =null;

// Constructor
public TSPFitnessFunction(int[,] map)
{
this.map = map;
}
; S7 q* `5 K4 _  N4 h
///<summary>
! F) ^  D4 n4 O) W4 w; _/// Evaluate chromosome - calculates its fitness value
///</summary>
publicdouble Evaluate(IChromosome chromosome)
{
return1/ (PathLength(chromosome) +1);
}
, T5 S2 m: |- p& l' ]
, z) Y' G% i  C1 P# h///<summary>
0 F. Q0 W! d0 e. u! `" g' o' Q/// Translate genotype to phenotype
///</summary>
) u& x/ h1 ]5 L  Ppublicobject Translate(IChromosome chromosome)
{
return chromosome.ToString();
8 O3 P) r/ T( @" H6 J0 I( `1 ~, t}

///<summary>
/// Calculate path length represented by the specified chromosome
7 V4 j5 F* k  V! l, ?///</summary>
7 L4 }9 h; C8 e+ kpublicdouble PathLength(IChromosome chromosome)
{
) e% i1 q3 W) K+ f' o4 C// salesman path
1 a: q* `! J  O+ W! M) Cushort[] path = ((PermutationChromosome)chromosome).Value;

// check path size
" M% n: G( r& [' u; G% Wif (path.Length != map.GetLength(0))
{
7 b0 z3 w; U/ Z1 Kthrownew ArgumentException("Invalid path specified - not all cities are visited");
# f2 \0 N2 I& P2 _/ }# m0 w}

9 [" O+ G! p: B0 [: I1 m4 }// path length
7 r0 f7 L0 C: ?4 b; ?: h$ Xint prev = path[0];
int curr = path[path.Length -1];

- f; F5 L5 f7 x// calculate distance between the last and the first city
double dx = map[curr, 0] - map[prev, 0];
double dy = map[curr, 1] - map[prev, 1];
* l( i( v, N& A- _- ~' {double pathLength = Math.Sqrt(dx * dx + dy * dy);

& L, |8 f, B7 K' S// calculate the path length from the first city to the last
4 s/ t# D: V1 k( g' Ufor (int i =1, n = path.Length; i < n; i++)
{
// get current city
- \4 d; d. V  N( J& Wcurr = path;

// calculate distance
/ Z; z" {/ h* j. Udx = map[curr, 0] - map[prev, 0];
dy = map[curr, 1] - map[prev, 1];
- Y! x1 l/ f: g4 SpathLength += Math.Sqrt(dx * dx + dy * dy);

// put current city as previous
prev = curr;
}
4 u5 ?8 p( e* H; [% g8 I
return pathLength;
. n+ P+ k: L, Y}
+ w/ p3 i1 n" z, q' s}
}
7 M9 E0 U0 y; j) L/ w, k
2 Y9 m( x6 R* [4 B$ K7 ?: H
[url=][/url]
! p4 G/ m$ B' r2 ~5 k& y
& B+ ~# r, R3 f: P, {! V2 G  q

. d$ h* D8 w3 v" v5 f; X' \

   (5) 添加GenticTSP.cs，加入如下代码：

[url=][/url]
5 F- {& m+ O3 y' [GenticTSP类using System;
6 {0 i1 j) k2 Z7 z/ z+ wusing System.Collections.Generic;
using System.Linq;
using System.Text;
using System.IO;
: q; s$ \) w5 r. s' r, K
using AForge;
/ t6 Q# z  h; u* n5 busing AForge.Genetic;
! E1 V2 b$ N  `3 P

2 j6 L/ F7 b- `& W1 D3 P7 }+ Unamespace GenticTSP
  b! m) ^& B" e  g: _# S# n{
* K! p# ~4 h2 a" Jclass GenticTSP
{
! A3 c7 ^1 o5 X8 R# ?! G& p8 C: `
staticvoid Main()
% z& P1 l& {3 k9 t! T) d{
StreamReader reader =new StreamReader("Data.txt");

int citiesCount =31; //城市数
9 i! R0 Y0 T, v/ a
( A: }4 P& V1 g3 E% gint[,] map =newint[citiesCount, 2];

for (int i =0; i < citiesCount; i++)
{
5 P0 ?6 r7 R" H! astring value = reader.ReadLine();
string[] temp = value.Split('');
map[i, 0] =int.Parse(temp[0]); //读取城市坐标
1 m! L' W2 G" e5 k. x' Y  f# emap[i, 1] =int.Parse(temp[1]);
+ m: y/ K% p! n  q0 g4 H; g}

// create fitness function
TSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);
- b3 P* ?1 D8 T* M
int populationSize = 1000; //种群最大规模

/*
* 0：EliteSelection算法
* 1：RankSelection算法
% C, z: S+ z; ?. _" o9 e- S- Z1 w* 其他：RouletteWheelSelection 算法
* */
int selectionMethod =0;

// create population
Population population =new Population(populationSize,
new PermutationChromosome(citiesCount),
fitnessFunction,
! A* Y+ Q. y5 R* [" R1 l(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
; Y  ?' @8 i- @" a7 D1 V3 S(ISelectionMethod)new RouletteWheelSelection()
/ h$ W  W6 ?- y/ U  c( [, z8 ?8 L7 x);

, ?( y! r  t. o// iterations
3 ^5 n* L- u& M9 o1 Z, p  N. rint iter =1;
' s" Q" l4 N3 t' U5 pint iterations =5000; //迭代最大周期
& u& i8 ]8 t; g$ k7 h4 ]: `& N
// loop
while (iter < iterations)
{
5 w( ?4 S. u7 H* w3 B2 f7 Z( q// run one epoch of genetic algorithm
1 r" q" v% Y& Y  p! R' Hpopulation.RunEpoch();

  G0 P3 I$ ?. {( L4 }% L2 i  t5 d; D! i' A// increase current iteration
iter++;
}
8 h! h8 {0 g) A. F1 a2 F. Y. i* X
' h$ P2 r. G6 Q5 dSystem.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
System.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
System.Console.Read();

& v+ Y. c# F- C}
! u% p% H- J' t) [$ B}
}


[url=][/url]


" X- u. I5 h7 l+ M
) w4 V# P8 n' c. _

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

2 i" y9 q' R6 A