【转】优化算法入门系列文章目录（更新中）

我要吃章鱼丸子

遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏
/ }6 ^% g" F! G- D5 g, o* x

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

, Z. Y$ [$ C6 W一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

$ U1 T" v3 Q9 e+ _" J二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

3 D: S9 {3 k: j8 k, U$ @% M

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

　　遗传算法有3个最基本的操作：选择，交叉，变异。

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

: S4 ]5 \& t' i6 v# q# p/ Y[url=][/url]
轮盘赌算法/*
- D0 s( L  s8 ^- F' e1 z, n  p* 按设定的概率，随机选中一个个体
* P表示第i个个体被选中的概率
4 `/ I4 _0 {1 x0 m*/
int RWS()
, t$ P+ E7 A& Y- ~, D  P{
  C- H" K! c/ p% ?0 i' km =0;
r =Random(0,1); //r为0至1的随机数
: E9 }9 z% D# E4 {( }5 S  r% C* xfor(i=1;i<=N; i++)
# \4 W8 l% ^- H3 T{
8 t) t7 b* N; r! h* n/* 产生的随机数在m~m+P间则认为选中了i
/ ~) _; g! G( @/ D* 因此i被选中的概率是P
*/
! V) z- v/ [/ W4 Cm = m + P;
if(r<=m) return i;
, T! Y( O1 ?* p8 s  d8 D+ M}
2 e* l* ]; t: V! S! X}
5 Y; I& B+ D& \7 l7 y
[url=][/url]

0 O0 D9 n' l4 O

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

三.基本遗传算法的伪代码

* L% s' X# Q' d* T% n$ b. ][url=][/url]
& J: \/ \- Z! X+ a; s; r0 v基本遗传算法伪代码/*
& R0 I/ S7 x6 G, }' k$ B* O* Pc：交叉发生的概率
) n1 s+ Y0 C% U7 G5 D$ Q. Q* Pm：变异发生的概率
* M：种群规模
$ O( I0 H3 [: H& R( m* G：终止进化的代数
* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
*/
初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop
# x# P. w4 P" D4 h+ D6 J5 ~2 p
do
{
& r  a6 b1 @0 P% y　　计算种群Pop中每一个体的适应度F(i)。
　　初始化空种群newPop
　　do
$ k/ u/ o2 E7 e! Q& K8 b' i　　{
　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
4 K) y2 D# \% p, }) z. p0 L( q　　　　if ( random ( 0 , 1 ) < Pc )
　　　　{
# `; R& I# x7 v$ I+ v% M　　　　　　对2个个体按交叉概率Pc执行交叉操作
3 z' _( q, d" F; k% Y! w　　　　}
　　　　if ( random ( 0 , 1 ) < Pm )
　　　　{
/ e* C' S: e' s( f& q' U, x　　　　　　对2个个体按变异概率Pm执行变异操作
/ Z4 |& ?# J0 V/ S5 J# ?　　　　}
0 \1 w# z7 t3 ?将2个新个体加入种群newPop中
6 ?( ^; G) K2 o9 F8 B6 C9 N8 U. @} until ( M个子代被创建 )
用newPop取代Pop
}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )

* t* |3 n6 C/ m! X& A
[url=][/url]
- b9 k( h" ]+ R0 D


四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

& g! K! n! k5 P

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

图1. AForge.Genetic的类图

( a% r# w6 D, Y* V
' M" E' f: ^0 A0 B" a" i6 K- r

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

[url=][/url]
13042312
- {$ t: J$ X! I36391315
41772244
4 D$ Y6 k! J" i37121399
34881535
33261556
32381229
41961004
1 x2 n1 z* G, l/ }1 R6 I! @0 |4312790
6 m  _4 \  ~* Q/ o4 ~! U* Y4 [& E4386570
30071970
2 `+ i" Y" p  ?6 t' c3 n25621756
27881491
23811676
( e) _' b" J+ |* A$ O* |# ^; ~1332695
% O. W. f8 ~: c! R: @% M37151678
39182179
( J% O, B3 D! G40612370
5 s) k. k( I+ L& D5 L) ^37802212
36762578
40292838
7 W5 U) W2 p$ d& ?5 J1 m42632931
34291908
35072367
33942643
34393201
3 X. }0 g8 y* j29353240
31403550
4 y" H, m) o2 q" `$ h/ M  u. t% Z4 l25452357
5 J& f; d3 }, Q5 ?27782826
23702975
[url=][/url]
, C) g: F3 l4 E
7 d9 ]) n* s" L& U3 K, f0 Q( ]
6 R9 N0 ]$ c$ q
/ p% U  W2 E+ @
) B6 s$ O& \( D

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

  V8 }/ o4 V! \7 |1 w[url=][/url]
TSPFitnessFunction类using System;
using AForge.Genetic;
. y5 v. u; U# Q( I
namespace GenticTSP
1 J% p, a) d* D9 |+ t{
///<summary>
/// Fitness function for TSP task (Travaling Salasman Problem)
1 i( |8 V) h, v* p$ {6 B" X6 N6 A///</summary>
publicclass TSPFitnessFunction : IFitnessFunction
2 w4 }: @" a6 ^! V7 Q{
// map
4 @9 b' v$ F" i) M- N$ p, Gprivateint[,] map =null;

// Constructor
: B- X( w5 r9 N) l, u# Hpublic TSPFitnessFunction(int[,] map)
{
# g; u, s" e8 l- A! ^this.map = map;
0 r% Z: |+ D. D, ]9 d- r6 O}
" Y7 Q- Y% [- {/ C. _1 N) t
///<summary>
: Z& t5 L' Z4 |) b$ r% v% j7 J/// Evaluate chromosome - calculates its fitness value
///</summary>
publicdouble Evaluate(IChromosome chromosome)
{
0 R% G9 f# e+ \return1/ (PathLength(chromosome) +1);
+ ]4 w8 @" i- O; `. m}
: S6 b5 e& O% y5 `1 G) U% ~
///<summary>
/// Translate genotype to phenotype
/ ?9 S" E+ a1 @' g) m- n///</summary>
+ K7 C. m* e( y$ G9 y& y9 j# \6 Zpublicobject Translate(IChromosome chromosome)
{
. E. [7 s% o* greturn chromosome.ToString();
/ D8 F: x3 ~( j' S7 F7 O; o}

, i9 x) ?8 Z# X2 f///<summary>
/// Calculate path length represented by the specified chromosome
///</summary>
publicdouble PathLength(IChromosome chromosome)
. ~* P0 D! g3 E/ }: L; O{
6 f8 ]* y7 e8 v* c// salesman path
ushort[] path = ((PermutationChromosome)chromosome).Value;
/ T. ]. e" c2 J2 [9 O5 d
1 F7 v, M; Q. k% z) ?// check path size
if (path.Length != map.GetLength(0))
{
8 n/ q/ r+ d& G+ G% P0 pthrownew ArgumentException("Invalid path specified - not all cities are visited");
}

// path length
int prev = path[0];
3 l% a; p" @# X3 m& c  s5 T5 [$ Pint curr = path[path.Length -1];
/ U! m0 r# s( M! U
( F; }" D) P1 i// calculate distance between the last and the first city
double dx = map[curr, 0] - map[prev, 0];
4 v% e0 Y* @6 N1 _( m# idouble dy = map[curr, 1] - map[prev, 1];
0 U8 U. i! G1 ?' o$ l5 Pdouble pathLength = Math.Sqrt(dx * dx + dy * dy);
: }7 h% U) m" `+ P! c7 z
// calculate the path length from the first city to the last
for (int i =1, n = path.Length; i < n; i++)
5 t! `0 o8 O3 ^/ |! }1 g{
// get current city
curr = path;

4 C* m2 \( s3 h$ l# \2 n// calculate distance
+ b- y8 X% S+ r7 M' V+ A; F8 ?dx = map[curr, 0] - map[prev, 0];
dy = map[curr, 1] - map[prev, 1];
4 O1 E* w* Y) Y# \4 kpathLength += Math.Sqrt(dx * dx + dy * dy);
2 h! m0 K7 _) b
// put current city as previous
5 Q6 o* U' V2 t+ ~5 x) g& ?0 n) Oprev = curr;
}
! |0 J- N. D' u$ `8 k5 U8 T
return pathLength;
}
; s" i% a4 D: ?9 ?# u4 X}
}

2 I% ~$ y4 ]# U  b% A
[url=][/url]
! N, f9 l' r5 l# ?6 P0 L
3 B  i( d8 g0 u! d1 `* s
/ e! ~0 r) V' W0 o$ M0 F

   (5) 添加GenticTSP.cs，加入如下代码：

5 [' }+ d# Z& e1 @3 l[url=][/url]
) G  J% P9 v5 \% K, N2 o& QGenticTSP类using System;
& ~3 i1 R) S" @2 V- _using System.Collections.Generic;
using System.Linq;
using System.Text;
* ]9 s* ~0 V, A0 o+ q4 s0 T: p( rusing System.IO;

using AForge;
using AForge.Genetic;


namespace GenticTSP
{
0 T; _3 e8 Z1 z7 M& xclass GenticTSP
$ |0 a3 `3 a+ A5 R& O{

2 k4 b. |6 s. L3 Ystaticvoid Main()
9 X1 M$ x5 v. W* L3 w6 s, \{
StreamReader reader =new StreamReader("Data.txt");

int citiesCount =31; //城市数

int[,] map =newint[citiesCount, 2];

for (int i =0; i < citiesCount; i++)
( m+ H( u6 A2 c' u) v{
( S5 R8 K& b4 J# H: c8 X$ pstring value = reader.ReadLine();
1 X( G8 p) s3 g% V9 H0 _5 P7 Qstring[] temp = value.Split('');
map[i, 0] =int.Parse(temp[0]); //读取城市坐标
map[i, 1] =int.Parse(temp[1]);
}
" ?% X- l. k( \! ~* W5 r& l3 b
+ V* L  I. Z6 L- v. ]- R) K// create fitness function
TSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);

int populationSize = 1000; //种群最大规模
* D' \) B+ @+ l) t# f, B) Z
) b- C  N" U. M/*
& L6 @+ a8 A0 ]; \* 0：EliteSelection算法
* 1：RankSelection算法
* 其他：RouletteWheelSelection 算法
* */
5 r* U6 V6 P/ O/ m: Uint selectionMethod =0;
4 Z+ x  r1 B" S$ {2 K4 E, d( ]
// create population
! ?( y2 w$ c1 ^9 uPopulation population =new Population(populationSize,
new PermutationChromosome(citiesCount),
. l6 z+ a, l% Q/ AfitnessFunction,
- W3 C( I* v) j, h(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
: x" Y/ h0 }9 n3 p(ISelectionMethod)new RouletteWheelSelection()
1 C# L! e4 W2 E8 `/ @);
% ~4 P+ W; G9 q+ H
// iterations
" {. [9 X6 q7 q5 oint iter =1;
int iterations =5000; //迭代最大周期
7 w& \; ^" \4 ~; ?
4 a2 b( G2 C. P// loop
2 Q' h- J0 d" a" B" bwhile (iter < iterations)
3 z, Q1 Z4 u4 P1 n{
" l- D3 _3 B1 t1 p$ y// run one epoch of genetic algorithm
population.RunEpoch();

// increase current iteration
  j7 Q5 {8 u' _* C+ R, fiter++;
: L) ~* ^3 u7 c5 k6 O2 E}

& i- |0 B( N' B$ |3 z- MSystem.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
5 @( H0 K7 Y; y: Y9 @System.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
) c1 w# {, k5 C2 x' jSystem.Console.Read();

}
}
! q. p) D6 ^- c, |8 s}
4 U6 H* Z  [& H; o" Y  v

2 w' x! h) a  ~5 S3 i* X[url=][/url]
! K0 D" |+ u5 g$ X# A( u  F
, q7 J# r% i, x
5 G4 ^: Y4 Y# L2 {0 K, |
$ U4 W6 Q# P( ^3 D

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

$ s# j& m2 e/ q% b! r+ n% L
! Y, p' Y7 a* H, J! P/ e
. H0 `1 O/ n% P7 S