【转】优化算法入门系列文章目录（更新中）

我要吃章鱼丸子

遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏

" \& S( w, I$ W; N  V1 b5 @5 m

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

- f5 U3 \$ Z3 ?9 A$ C. l二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

! H# z7 z$ @; n1 U' R

　　遗传算法有3个最基本的操作：选择，交叉，变异。

/ V: h! q$ w' K- P4 \

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

[url=][/url]
) G+ A6 o& r* `( n6 W0 u) n$ e轮盘赌算法/*
" m& H2 X$ C/ f" R) j( d( X* 按设定的概率，随机选中一个个体
3 M# a& v, o& a6 w8 _9 A* P表示第i个个体被选中的概率
$ H- Q! s  N# l5 V* `+ u*/
9 {4 E" A, Y6 w) u* U1 ^int RWS()
) y' ^5 i- Z) v{
7 S+ A& A9 U$ n! h" x3 e# @2 g4 ]m =0;
  X+ k7 e( J' G1 O( T8 Br =Random(0,1); //r为0至1的随机数
for(i=1;i<=N; i++)
{
+ n( B  {5 U  I+ b) G/* 产生的随机数在m~m+P间则认为选中了i
* 因此i被选中的概率是P
& ~0 k/ O0 ]1 Z' q$ j1 D8 i2 A*/
m = m + P;
1 ^( {5 _6 r; @, {9 rif(r<=m) return i;
}
}
+ i$ g0 l' t% y  F# Y! b! k( Q6 w$ Q
* f5 `$ S/ ]! _! Q9 R1 F[url=][/url]

. E! c, y$ W! |; O6 i: c" s

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

三.基本遗传算法的伪代码
1 P4 b4 A# K" n1 n' _
% I# a' N2 z; @: _[url=][/url]
9 v0 `9 F+ d) O7 q6 D: C$ W基本遗传算法伪代码/*
* Pc：交叉发生的概率
" l' j: e9 }; H* Pm：变异发生的概率
( c  K# k$ _& g! F  d& s9 O0 X* M：种群规模
* G：终止进化的代数
* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
' k9 q9 P& S4 T7 Z/ {*/
. X7 r+ e; D) {6 i* A( c: u5 ^* n初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop
% {, [2 A/ l. I1 N- h$ N
5 w$ M+ H( C( f. j: I& {do
$ ~$ C9 y2 x4 B6 j* ?{
　　计算种群Pop中每一个体的适应度F(i)。
5 \" M( j8 ?8 H7 \% O% T: F　　初始化空种群newPop
　　do
" Q+ O2 R5 e8 ]; j　　{
　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
" z* }5 w0 I/ G! `　　　　if ( random ( 0 , 1 ) < Pc )
　　　　{
　　　　　　对2个个体按交叉概率Pc执行交叉操作
$ s% {% \* Q+ P  M7 N  H$ d7 S; S  Y　　　　}
: d: V) G0 H( a; l# G  u- i0 H　　　　if ( random ( 0 , 1 ) < Pm )
4 o8 q( z/ v1 e* W8 q+ z　　　　{
8 v& A( R) C( z" X! E" T' V　　　　　　对2个个体按变异概率Pm执行变异操作
# F3 H' g; I" [* U2 z4 `9 M　　　　}
将2个新个体加入种群newPop中
0 N  D6 l1 `/ m/ y: g( R3 m) H* R} until ( M个子代被创建 )
! G; _0 J6 A# W% W8 q8 I# p用newPop取代Pop
}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )
3 h* C9 W. y# D* {( e

7 L; I8 B# W; Y/ c" M[url=][/url]
6 A  R2 D" R' W
4 R& w0 N2 C9 n' {. h1 D
: _! ]( t) [3 R  e4 |
四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

图1. AForge.Genetic的类图

; N- Q6 P. c5 g! A8 {* }  S

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

[url=][/url]
13042312
36391315
6 V; A7 b  N4 c7 @0 D9 L8 J( z/ k41772244
. Y$ J4 v# _& r; F37121399
) ]  i2 j% o8 [34881535
% O  x/ {/ t6 l6 W33261556
& C- F9 ~8 w0 V1 n% \' s/ o4 T32381229
. O9 N1 V( h+ s( H; _- x( O41961004
4312790
3 C* n( M/ D8 @7 T4386570
- v- u" G6 W/ I- B5 a- O" U; l30071970
5 o4 _  |. X+ y2 w( ^  j3 C25621756
" O2 e7 _+ Q3 ]9 q4 U( E/ g27881491
23811676
3 @  l* U0 O0 m9 o; c* t7 P$ W' \0 R1 Y1332695
37151678
+ k8 ]; f1 v8 E. p6 O% R4 }3 y$ J39182179
40612370
; R6 i" h0 c# E9 [" E37802212
6 m4 |% S" }  p; H( f36762578
40292838
42632931
34291908
35072367
33942643
34393201
9 e* F  K: I2 c/ B% ?6 V( X29353240
31403550
25452357
$ a" ?' o& k) _4 K6 X( _27782826
23702975
, m9 w- K) x3 t* B+ V* _" C) y: R[url=][/url]
9 |" }* X7 X, j, E* w6 I

9 `3 f5 D  i: Y- |* X  s; `
9 O- Y- B. h. ?# {% t

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

[url=][/url]
# ~7 ?$ S  l: ]TSPFitnessFunction类using System;
using AForge.Genetic;

namespace GenticTSP
: p" p, g; R+ Q6 h% z; A{
///<summary>
& V; f4 Z% P+ t, a3 ]. J) o6 s0 ~/// Fitness function for TSP task (Travaling Salasman Problem)
& f- b/ y* H, }; Q! j. E  ^///</summary>
publicclass TSPFitnessFunction : IFitnessFunction
{
// map
$ ?1 U6 m) E$ X1 ~/ ], Eprivateint[,] map =null;

9 K# m8 J) v% C1 G: H// Constructor
6 I0 B+ M0 Z# t0 zpublic TSPFitnessFunction(int[,] map)
{
this.map = map;
2 O5 W: s/ {2 r2 x, R* H! m6 P}

2 V: |0 i/ y1 f6 ~# Y# S$ a  y$ P///<summary>
/// Evaluate chromosome - calculates its fitness value
///</summary>
/ a1 ^( K0 M- k+ [' Kpublicdouble Evaluate(IChromosome chromosome)
& S/ V4 e* R7 g/ Q1 c* q9 c{
( Y: U/ T8 r6 Y. [4 ~& ^! Ereturn1/ (PathLength(chromosome) +1);
}

///<summary>
/// Translate genotype to phenotype
///</summary>
publicobject Translate(IChromosome chromosome)
{
return chromosome.ToString();
( ?; P7 z2 w$ p8 f3 B: ~4 o}
' S; J! _9 S) X; I
///<summary>
" z: J- Q6 Y( @6 d: v+ e& u/ v/// Calculate path length represented by the specified chromosome
///</summary>
publicdouble PathLength(IChromosome chromosome)
{
// salesman path
ushort[] path = ((PermutationChromosome)chromosome).Value;
/ M% U/ U7 J0 |5 U
" h: P- d9 m) N! U/ x// check path size
if (path.Length != map.GetLength(0))
{
thrownew ArgumentException("Invalid path specified - not all cities are visited");
}
" R; {* ^2 p" n
0 M$ D/ X- G6 S// path length
# V# V. U: B$ c# H  k' kint prev = path[0];
3 }( Y) P3 e# @int curr = path[path.Length -1];
3 ?  g! e0 y$ Y% z
9 b$ E- H6 H, J8 j+ R3 G// calculate distance between the last and the first city
  n0 O; q8 Z% R6 d0 I! {1 ^* @8 Fdouble dx = map[curr, 0] - map[prev, 0];
& W3 f) _1 D) X( Qdouble dy = map[curr, 1] - map[prev, 1];
double pathLength = Math.Sqrt(dx * dx + dy * dy);
0 F- P8 Z1 J: ~! @9 K
5 I4 [; D! N$ m// calculate the path length from the first city to the last
for (int i =1, n = path.Length; i < n; i++)
{
// get current city
curr = path;

& ?! P# I- l; @$ W// calculate distance
dx = map[curr, 0] - map[prev, 0];
  i* F0 D$ m9 g- E1 _dy = map[curr, 1] - map[prev, 1];
pathLength += Math.Sqrt(dx * dx + dy * dy);
9 V/ B4 j% V7 L# e# {' y& k( G
// put current city as previous
/ `8 D# C0 j$ U9 Pprev = curr;
}
4 l2 {. J$ O  ~1 H- o
7 G# `9 A) D2 Q- X8 M! Y: ^return pathLength;
2 R7 l- ]3 f  m. x}
}
8 s& h' f& i8 c. i+ }}
# ^0 h# e- N# F  K. k% L; f& X! }
1 B+ L- W& D& o; `" X2 A
& E8 |6 l* U  ?0 {4 S[url=][/url]

. h7 ~; C! C. \+ w# J
/ }3 \0 F' H) n0 b* o

   (5) 添加GenticTSP.cs，加入如下代码：

[url=][/url]
/ l  Y$ B0 y% x) K8 pGenticTSP类using System;
using System.Collections.Generic;
6 @8 e% j0 B  V: c6 O4 Ousing System.Linq;
- D6 {3 h- }( v- X: u5 S, `using System.Text;
) b: @5 `! M) Pusing System.IO;

using AForge;
using AForge.Genetic;


namespace GenticTSP
{
class GenticTSP
{
1 r. B6 I9 [( O+ W; |
) W6 V( Q% ^# ?staticvoid Main()
+ g4 V1 v8 `: q1 _{
. C. M( Z( Y! x$ DStreamReader reader =new StreamReader("Data.txt");

* o) D: ?( E5 @$ zint citiesCount =31; //城市数

% l% Q( g; i' k) Cint[,] map =newint[citiesCount, 2];

for (int i =0; i < citiesCount; i++)
. C3 R$ Z( [# |, Y' k) x5 t- G& y{
$ J8 |" Z5 }1 z8 I- V) R2 l. Istring value = reader.ReadLine();
7 x$ ?$ v, L, Dstring[] temp = value.Split('');
6 Q6 P9 K+ t: Q  e9 e$ ]/ o8 Umap[i, 0] =int.Parse(temp[0]); //读取城市坐标
  Z2 q* h. y; F1 W3 dmap[i, 1] =int.Parse(temp[1]);
}
7 x3 x. p- R2 i  l7 a8 {6 B
3 v6 ]5 r( ?5 e# j" J: `// create fitness function
TSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);

7 Z) x, `8 H  ?% X0 E5 e- x% D; h, nint populationSize = 1000; //种群最大规模

/*
. Z6 Y7 H8 D# U+ `* 0：EliteSelection算法
% g9 P; z1 b$ p% l3 X* 1：RankSelection算法
* 其他：RouletteWheelSelection 算法
2 p8 ?7 O: N# o' ?. h* O, b" [  H; S* */
int selectionMethod =0;
+ j# I" y7 f) O* R1 a
: R# z0 ?  q' g: l/ A// create population
Population population =new Population(populationSize,
new PermutationChromosome(citiesCount),
fitnessFunction,
(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
, G" D9 Z. n4 `& q(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
(ISelectionMethod)new RouletteWheelSelection()
);
/ R. B( _  X: }7 P" l( f: S
0 Q1 ]5 E% j& F$ G9 I. x// iterations
int iter =1;
" H5 G) G- b8 i% i. t0 Jint iterations =5000; //迭代最大周期

7 D* x, H0 x+ S. ]( d4 M  r$ Q9 [// loop
while (iter < iterations)
{
// run one epoch of genetic algorithm
population.RunEpoch();

// increase current iteration
8 G6 R9 c3 B5 p/ G; siter++;
}

, {. [0 g% b$ X& r1 z/ H% Z1 YSystem.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
System.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
+ w, \: T" y1 V2 w  RSystem.Console.Read();

}
}
$ N. q/ T# O& ?/ K7 a}


8 R7 H( q7 h' l- @: {  d8 G[url=][/url]
9 S3 ]5 c" t2 _4 r+ a

" x! R% Y1 d1 o' r0 r

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

9 M6 a* v. X/ D


+ U1 Z4 d6 [! y  u