【转】优化算法入门系列文章目录（更新中）

我要吃章鱼丸子

遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

% R. ]+ g1 s* Z1 O( F* |. X) x

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

4 W! S& m2 |2 x* w; A  t: S& ]
二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

* I* z9 J1 ]5 z, T9 y

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

% C. S: N! ?3 S2 u6 F

　　遗传算法有3个最基本的操作：选择，交叉，变异。

1 x" i& W, G6 l+ O& p

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

5 d! c+ i1 A3 ~' e$ @7 P, t[url=][/url]
/ j6 y0 k9 l! x  c5 C. j轮盘赌算法/*
* 按设定的概率，随机选中一个个体
* P表示第i个个体被选中的概率
*/
int RWS()
{
m =0;
r =Random(0,1); //r为0至1的随机数
/ |% w8 P% K$ `3 Z' Lfor(i=1;i<=N; i++)
8 f2 @4 Q/ {% W) b1 i{
/* 产生的随机数在m~m+P间则认为选中了i
' ]8 l2 M5 r( @2 z1 j- c( I# F* 因此i被选中的概率是P
*/
m = m + P;
if(r<=m) return i;
}
2 t5 E; Z, C. C9 G7 V9 }}
8 x- W: u* J1 t: B! B  \; G% W7 E$ ]. a
[url=][/url]
3 P6 m  q4 }2 w! f1 S' [( w$ o
5 x$ M1 z, Z! J9 P$ y  y) g) I

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

5 A0 K. U7 ]( N0 e

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

4 d. x& y9 d6 }. e3 M8 E3 [! B6 A三.基本遗传算法的伪代码
6 V4 U( W- r6 r8 w$ N7 A
0 h: F, y, k+ l; z5 _[url=][/url]
1 J. A' y+ v; z7 s: ^4 T% ^基本遗传算法伪代码/*
/ |& b" F6 c4 q( P1 [- N4 r* Pc：交叉发生的概率
* Pm：变异发生的概率
* M：种群规模
+ W! ~7 Q0 K( ?$ Q- R* G：终止进化的代数
7 F$ u$ r1 V  R* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
9 g6 ]/ K5 z8 `*/
$ X& f6 U, q0 u' q5 K& X初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop

9 a9 z0 B" S, W! Q8 \do
{
+ R. f6 G3 g- o. a+ b　　计算种群Pop中每一个体的适应度F(i)。
) Q5 y/ d- ]) g8 i  ]6 S8 v　　初始化空种群newPop
　　do
0 \; }4 c9 F1 r: s  Y　　{
/ H$ }1 @5 |( d4 b# [　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
　　　　if ( random ( 0 , 1 ) < Pc )
. P+ d1 J$ \! e+ H　　　　{
　　　　　　对2个个体按交叉概率Pc执行交叉操作
　　　　}
/ V+ B8 [* P- ~. t　　　　if ( random ( 0 , 1 ) < Pm )
　　　　{
( |0 e' Q5 X! p, {! v& _* L7 ^1 c　　　　　　对2个个体按变异概率Pm执行变异操作
0 j  f8 O8 ]5 x: U3 Q　　　　}
' q' C6 o: x3 @3 E1 a! ?将2个新个体加入种群newPop中
' X5 g! B& {; ]  N/ S} until ( M个子代被创建 )
用newPop取代Pop
}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )

" Z, l7 [, P7 Q+ K* ^
[url=][/url]
; H) b* A' w: H7 i/ S
+ G; h" ^% |2 V3 H

6 T  H# U, r! ]$ A6 ?- R四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

图1. AForge.Genetic的类图

# c+ s8 F0 ]  z

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

[url=][/url]
3 M' N  K2 A" b4 p+ u1 e2 N13042312
36391315
1 T# R8 L+ k5 r$ @41772244
37121399
34881535
33261556
% K1 d8 h$ D1 w3 R- Y32381229
41961004
" o5 U/ s8 g0 }  X4312790
, Z: C+ z  X3 H; J0 R; ?8 s0 N/ E4386570
30071970
: |% x8 Q! u  E2 @, Q25621756
27881491
1 K( S9 s6 p" [' u/ m23811676
1332695
: _) W8 c. D6 V0 X; G37151678
39182179
8 G4 W; q3 [  |40612370
37802212
36762578
9 g# ?  W* z2 V6 H40292838
42632931
) q0 m3 c4 F0 L- U0 J6 @8 g) e34291908
35072367
, ^$ T" s' e: }; ?7 A1 A9 g, c33942643
34393201
' v% u9 C( Y" y! D3 C9 |  m% h$ ]29353240
  M, G$ _' d& Z6 @% B( q- {31403550
+ W8 j6 K5 ^% Q7 L) |25452357
27782826
% h2 e% G- {. a( A; A23702975
$ f# C3 P2 Y- J  {+ G5 O  P[url=][/url]
: X9 z' S3 M, F( h- i  e% P8 I
0 E; o5 C8 B" d0 L- y( v
- V+ m: S9 ~* X5 n) x5 v/ d
1 w$ v. S8 A& {4 y/ V
7 _) y& N; q, V# E+ g& Q. E# l5 r

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

[url=][/url]
9 A* s* i+ R5 z# t+ u9 b' uTSPFitnessFunction类using System;
# `' {6 \+ _3 `  X+ ^using AForge.Genetic;
0 K% F! Q% }- E0 A; o
namespace GenticTSP
{
' J+ g' s5 e/ G  x/ ^% C8 M///<summary>
/// Fitness function for TSP task (Travaling Salasman Problem)
///</summary>
publicclass TSPFitnessFunction : IFitnessFunction
+ h4 R8 n- o/ \8 Q6 K: m{
// map
) ~& L) U- N: d: E$ vprivateint[,] map =null;
6 R7 h2 C8 s) D, T5 L, O( A) \
# |) \3 v+ z1 z4 }6 L// Constructor
4 b' F$ {: c7 e5 G$ X" k# {public TSPFitnessFunction(int[,] map)
{
* T; H: H" C! |4 y" K6 Q( G& D' L: othis.map = map;
}
( C0 ^3 G' D* |) k7 Z7 L( e' l
///<summary>
  f1 A* M. r5 ?9 k9 e/// Evaluate chromosome - calculates its fitness value
///</summary>
publicdouble Evaluate(IChromosome chromosome)
{
" b/ ?$ p' j) m: `# e2 Vreturn1/ (PathLength(chromosome) +1);
}

///<summary>
/// Translate genotype to phenotype
///</summary>
& E5 u! @- Q6 O; \3 f7 O/ Upublicobject Translate(IChromosome chromosome)
, g3 g7 w6 z# N4 W0 y{
; h9 b& W2 b7 k- V1 f7 Greturn chromosome.ToString();
1 L% w. O+ Y: }, T4 W+ j}
/ q' n! g% f3 l* r
///<summary>
/// Calculate path length represented by the specified chromosome
///</summary>
1 S9 Y6 z( \, E3 `( \6 O7 U! l& lpublicdouble PathLength(IChromosome chromosome)
# q% s7 A) k+ E1 W{
// salesman path
8 ~- O$ r4 j3 S) z: Y  T/ }; Lushort[] path = ((PermutationChromosome)chromosome).Value;

// check path size
4 f+ w( o5 |# Eif (path.Length != map.GetLength(0))
( t% b2 e: n- [: n/ y1 P{
thrownew ArgumentException("Invalid path specified - not all cities are visited");
4 B- E3 o) b( D* E}
) \' A- ~9 f; Y7 f, @8 q* _
( c8 q+ j4 M7 j2 j// path length
: n5 }6 S" O1 E: v+ zint prev = path[0];
int curr = path[path.Length -1];
0 i# s) l5 I! |" s- a  r
// calculate distance between the last and the first city
double dx = map[curr, 0] - map[prev, 0];
double dy = map[curr, 1] - map[prev, 1];
double pathLength = Math.Sqrt(dx * dx + dy * dy);

/ C! x+ i: Y- J! `% V// calculate the path length from the first city to the last
, S3 b9 f, Q1 sfor (int i =1, n = path.Length; i < n; i++)
{
* y' c5 a2 Z$ U6 p! }) Z3 q9 l- E3 f// get current city
& S) l1 q) d( M% L9 h) icurr = path;

% K8 X# N/ |% ]& D3 ?2 H// calculate distance
5 m, b6 {) [! cdx = map[curr, 0] - map[prev, 0];
dy = map[curr, 1] - map[prev, 1];
pathLength += Math.Sqrt(dx * dx + dy * dy);

6 [$ z5 o( T5 k* k4 W1 B// put current city as previous
prev = curr;
}
2 [1 B! ~  {! r: l
2 k2 t* [+ u3 x0 ?/ |# {2 w9 l+ ereturn pathLength;
7 Y# ]4 X5 Z/ X}
- M$ R' s! _1 P6 K" ?% q}
) _1 X3 {: m8 {}

, g: g0 r+ A/ Z) P3 y2 G8 ^: {) h$ g4 R
[url=][/url]

   (5) 添加GenticTSP.cs，加入如下代码：

[url=][/url]
3 }3 D6 o; B6 g. V9 t0 Y) y: cGenticTSP类using System;
using System.Collections.Generic;
1 F0 m$ T$ a, @( m) Pusing System.Linq;
using System.Text;
. z' l' {' A3 e& jusing System.IO;
- @. h7 O* [5 q5 k0 v. q
using AForge;
8 N: ^: L9 M# b6 |' \& P* R' Jusing AForge.Genetic;
- J- Y- d8 ]. l  q- v' z

2 x& l0 h6 D& {namespace GenticTSP
{
: Y/ y! f9 Y' L& a, h9 e3 b# Vclass GenticTSP
& X9 N- M/ L: A$ C' b. m" R  V{
) F" E6 }6 S) O) d6 U
2 v! Q& e& V: B( n. V- Mstaticvoid Main()
, W- w1 t$ @% `9 O1 v2 L  j4 Y{
StreamReader reader =new StreamReader("Data.txt");

7 d: E* m5 l, y% n- j& D, qint citiesCount =31; //城市数
6 z/ g5 E) w: E2 z6 _
7 A: I1 X+ D/ J# a$ Jint[,] map =newint[citiesCount, 2];

for (int i =0; i < citiesCount; i++)
{
% `4 U  G  i% v# E3 r5 tstring value = reader.ReadLine();
1 {7 D: n! f! H& zstring[] temp = value.Split('');
map[i, 0] =int.Parse(temp[0]); //读取城市坐标
& r# x) q+ c' [& @3 ]1 f6 x. I0 Kmap[i, 1] =int.Parse(temp[1]);
}

3 a/ ]  h- h3 V( l& f& c7 p; W// create fitness function
/ T- B# S  H4 q! n: OTSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);

int populationSize = 1000; //种群最大规模
  `& @* E( x, U; x4 b. U
/*
* 0：EliteSelection算法
* 1：RankSelection算法
5 W( E' q# X% W4 I( L* 其他：RouletteWheelSelection 算法
9 X" F9 @9 `/ N; m- R* */
0 P  |; H& Z3 G8 k$ _: ?int selectionMethod =0;

// create population
8 n8 o; A5 }0 v* F& DPopulation population =new Population(populationSize,
0 t+ p7 [; {7 r" Y1 }0 nnew PermutationChromosome(citiesCount),
" W$ i  g! p% ^# ^fitnessFunction,
(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
2 u) L6 S+ p- ]! S' p# V(ISelectionMethod)new RouletteWheelSelection()
  y4 A1 V) v- ^" j6 R0 _1 x);

// iterations
/ M0 h# q' j' l" tint iter =1;
) U6 a+ ]/ q5 l1 }3 Gint iterations =5000; //迭代最大周期
- P7 u: E8 M) t; F/ y
// loop
  b& m$ E: S. y$ ]/ t! [1 v& \8 `4 xwhile (iter < iterations)
{
// run one epoch of genetic algorithm
) q3 K/ E& B6 p% W% B" Y' X  epopulation.RunEpoch();
" N* T) T2 U) o  g
$ O7 q1 j1 G# q7 F" \% h# A( G0 f// increase current iteration
3 V2 U: f, h% W* piter++;
}

System.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
System.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
( \. R1 R1 W. v/ |. I! H! ZSystem.Console.Read();

}
. M9 C: \4 c" _# K}
}
& `1 t6 [, S; T; P. \8 a/ u2 }
2 b/ j, A# z# J/ C- j
[url=][/url]

) P( g2 t9 x9 N# i& M- l

& J! }+ {, u/ H7 w
" J8 [- g  I3 _% d+ s; ]& g+ p$ ~

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

  t8 b6 o. N3 N
! Q) [$ L5 s8 w  ?0 P/ Y1 y, a; d