数学建模社区-数学中国

标题: 【转】优化算法入门系列文章目录（更新中） [打印本页]

---

作者: 我要吃章鱼丸子    时间: 2016-4-8 14:13
标题: 【转】优化算法入门系列文章目录（更新中）
遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏
8 e; S  H4 _) O7 u" {
, v( X6 F  A+ U, ^' R

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

8 D! O. n/ z) K0 B" T一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

' K$ C; }0 |- Z- e

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

0 L" b: M' f% O6 V

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

　　遗传算法有3个最基本的操作：选择，交叉，变异。

+ `+ e& }" x. {8 z% s9 o% V8 k

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

2 Z9 ?. p- A. Z. r$ T+ a9 k[url=][/url]
. [6 M8 f! S6 h/ |轮盘赌算法/*
3 k: m2 W) P" f/ H0 n, I* 按设定的概率，随机选中一个个体
9 R3 s" X4 M0 p7 r* k; I* P表示第i个个体被选中的概率
*/
- e0 ^* N3 K0 I( ?7 Hint RWS()
{
m =0;
$ K0 \: {$ a+ V( L4 P8 hr =Random(0,1); //r为0至1的随机数
for(i=1;i<=N; i++)
# m+ J, r5 X$ q$ D) B{
/* 产生的随机数在m~m+P间则认为选中了i
* 因此i被选中的概率是P
*/
m = m + P;
, b) Z, n+ Z+ u0 R! xif(r<=m) return i;
5 W) J2 ]; w" z. Y# {7 L: e}
}

" x' o5 o7 V; Q: x* Q) u( q[url=][/url]

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

- R! \3 Z8 A4 A# v( x+ U6 P) u三.基本遗传算法的伪代码

[url=][/url]
3 R5 T+ b" P! {: Q2 v5 S8 R$ W基本遗传算法伪代码/*
7 H) d- g4 g9 ?/ Q3 N* Pc：交叉发生的概率
4 {" U2 v7 d$ ]$ v8 k2 y  k* l) M1 t/ ^* Pm：变异发生的概率
. C) D, b3 [7 Q. `: h) e* M：种群规模
* G：终止进化的代数
% g2 _( t2 t- j% ]: T+ [* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
*/
- Q' B: I/ N- |+ K9 z; t4 I0 [* P初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop

do
4 L6 |% U7 C: K+ i3 g{
　　计算种群Pop中每一个体的适应度F(i)。
; f: j% z6 T- z4 v　　初始化空种群newPop
1 X1 H2 [) t# u1 M4 f2 w　　do
6 X, S/ M% g0 l6 `% Z- S4 K1 F　　{
　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
　　　　if ( random ( 0 , 1 ) < Pc )
0 j6 H! s/ _- Y, X  [0 l　　　　{
　　　　　　对2个个体按交叉概率Pc执行交叉操作
　　　　}
0 i7 D7 [3 Y5 ~" E3 q7 v　　　　if ( random ( 0 , 1 ) < Pm )
# J; h1 D: W0 V/ X/ e  ^　　　　{
; Z  P$ o- s" t" k6 E5 ]7 S4 ]　　　　　　对2个个体按变异概率Pm执行变异操作
　　　　}
将2个新个体加入种群newPop中
} until ( M个子代被创建 )
3 D( S; G5 E2 E1 c9 T# t% v9 h4 K用newPop取代Pop
( k* c* \( ^$ P}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )
3 W$ F8 _6 D6 ?) s# f

[url=][/url]
* }3 ~+ s' h4 l% \


四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

1 J& I9 w! h' O/ A- U+ _5 k

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

图1. AForge.Genetic的类图

& o( l; X/ @" m  w
' h  m  M, r; V: u; h

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

[url=][/url]
13042312
36391315
! t( }' _; s; K4 C, z( Z41772244
37121399
3 W+ b* {! r; O" z* ]34881535
33261556
$ M3 w( a7 I: _32381229
41961004
) k; Y' A1 }- M  J: a4312790
4386570
30071970
25621756
) F6 v, O& G; ?4 a27881491
, d4 @5 l* l9 _23811676
7 _3 _' g% I$ D3 R- n& h1332695
37151678
39182179
; q% u0 J- }' G40612370
37802212
+ X" h0 S& d6 U" I" \5 C36762578
40292838
8 e3 }9 I0 f6 T42632931
34291908
35072367
# V2 _- i3 s: z& H. J. A' p7 A8 A33942643
34393201
, W. p4 F1 n( {. N4 F29353240
31403550
1 K6 E' @! ^% G/ S8 J  D25452357
27782826
23702975
[url=][/url]


  M, p' R  D2 Y& |3 r
2 r7 l/ _) z* V+ q
) s4 `- u7 n4 g* n2 b9 s

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

* c: _3 O( G2 I6 \3 q: j[url=][/url]
  e% p1 k% x7 y+ b- W8 nTSPFitnessFunction类using System;
! s! [$ n) H$ p0 X; x" C7 qusing AForge.Genetic;
8 F# q5 ^& K( P- H3 }4 W+ C6 H
namespace GenticTSP
{
6 J" ?( i' ?# T///<summary>
2 o/ M1 O7 ]* y' }3 D/// Fitness function for TSP task (Travaling Salasman Problem)
' f  [( d! t% n1 @///</summary>
) ~; E/ Q  s" p8 Zpublicclass TSPFitnessFunction : IFitnessFunction
{
// map
6 d5 V1 W0 z* _3 ?; O- Rprivateint[,] map =null;
! ^1 _/ N1 |) P2 r- T+ c
// Constructor
public TSPFitnessFunction(int[,] map)
{
this.map = map;
}
# E) l' e6 p% M2 n% w4 I) t
! @$ t6 T! G5 ^7 _///<summary>
/// Evaluate chromosome - calculates its fitness value
///</summary>
4 E+ @- T* v7 h  A; Dpublicdouble Evaluate(IChromosome chromosome)
{
8 H2 u2 p* `: E) a6 }return1/ (PathLength(chromosome) +1);
}

* l5 F, D& I/ n% r///<summary>
) H' n0 l; G' l3 E/// Translate genotype to phenotype
///</summary>
: ?% n' E& X' g2 p! W/ `, _publicobject Translate(IChromosome chromosome)
0 ?; H/ F7 L. o7 p8 W4 \; S{
return chromosome.ToString();
}
. j2 B' K  I; h( l% ?* m
///<summary>
/// Calculate path length represented by the specified chromosome
///</summary>
5 `# K6 J- h* Upublicdouble PathLength(IChromosome chromosome)
{
# M4 k" B' r( G$ R) Q2 Q6 V) e// salesman path
ushort[] path = ((PermutationChromosome)chromosome).Value;
5 b0 N  [( u% _: e9 t
// check path size
2 Y& E3 v+ t- t  q$ o: _+ _4 Hif (path.Length != map.GetLength(0))
" @  E+ f* w( V" y+ L{
thrownew ArgumentException("Invalid path specified - not all cities are visited");
}

// path length
/ D1 D7 j. r+ xint prev = path[0];
int curr = path[path.Length -1];

, O0 A* z, h( e// calculate distance between the last and the first city
double dx = map[curr, 0] - map[prev, 0];
7 I4 }* U, Y, hdouble dy = map[curr, 1] - map[prev, 1];
/ f3 G; U$ t0 I2 F: h! O; Vdouble pathLength = Math.Sqrt(dx * dx + dy * dy);

// calculate the path length from the first city to the last
for (int i =1, n = path.Length; i < n; i++)
{
// get current city
curr = path;
3 e/ L0 n  W) c  d9 I, }7 E
// calculate distance
dx = map[curr, 0] - map[prev, 0];
dy = map[curr, 1] - map[prev, 1];
- P/ A! O' J! i, c, d+ a% k/ A1 T) FpathLength += Math.Sqrt(dx * dx + dy * dy);
7 d6 Y1 e. a7 T' U) e
// put current city as previous
- K, T( T. o' _5 y0 Sprev = curr;
8 h7 y1 U1 }: X& ]}

return pathLength;
( t  r8 Q6 C+ ]! [}
}
}


[url=][/url]


0 R+ ]. s2 A- h7 e5 g5 }" m

   (5) 添加GenticTSP.cs，加入如下代码：

# W- Y. g+ S8 W# G2 E; W[url=][/url]
- i' J7 S# N3 }GenticTSP类using System;
8 D' z- T" `- E& k* busing System.Collections.Generic;
" U; b; I& v  N8 g8 c; r( ^using System.Linq;
using System.Text;
* d8 q1 C% x! Y) ~! |9 B- lusing System.IO;
7 M* Z$ R, G: F4 ^. ^; X7 P, P
using AForge;
8 t$ K4 T/ t- `* {using AForge.Genetic;
2 h' M: @6 h) w1 L3 r) {% s

9 T1 t% {% u# k- |; Jnamespace GenticTSP
{
) c% t% q% [% j7 ?8 z/ Y1 ?class GenticTSP
* @/ C0 @4 p# p/ R- {{
, I1 d. I0 ]* ?. G5 }
staticvoid Main()
{
% I, j; K& L/ Y! v5 J3 p1 J' uStreamReader reader =new StreamReader("Data.txt");

int citiesCount =31; //城市数
0 o+ w. C! p) m) Z* B- |% z
4 B0 m- R1 f4 Q5 _/ x. v8 @int[,] map =newint[citiesCount, 2];

5 v1 m2 i5 }- _% ~* Dfor (int i =0; i < citiesCount; i++)
- q0 v/ F9 Z2 j1 ?  ?% _# A% i{
+ e/ z& v5 _* s/ a& h9 h% H' cstring value = reader.ReadLine();
string[] temp = value.Split('');
map[i, 0] =int.Parse(temp[0]); //读取城市坐标
* V! y& ~* I2 @9 O7 {1 Jmap[i, 1] =int.Parse(temp[1]);
7 A' J9 d- _- {: _0 b1 O7 `) c}

- W3 N, g- z8 X% V' R0 l' t; L// create fitness function
TSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);
( T6 Q5 B* E: v( h
5 K* {  |- k  j, s1 O6 B- `9 b- bint populationSize = 1000; //种群最大规模

/*
- f$ _9 c- w# G0 d6 r( K8 e: t9 B, a* 0：EliteSelection算法
! E2 P! [( R0 P% C  P* 1：RankSelection算法
, p' ]1 e  a  ~# ?% c  _* 其他：RouletteWheelSelection 算法
* */
int selectionMethod =0;
' I1 K% S4 u. i7 Q  p; \% E
. X% @& S4 b: f" q) K4 i// create population
' ]- s) c5 {4 l7 V- x' L( FPopulation population =new Population(populationSize,
9 [2 w0 c+ d3 I6 Q" |new PermutationChromosome(citiesCount),
2 G: S1 K3 @! MfitnessFunction,
(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
, r9 E* Y8 N* V' V(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
(ISelectionMethod)new RouletteWheelSelection()
. H( l* t$ U. |- c);
" n: C9 }- @2 q8 i1 O+ D  }
7 I0 M3 x/ r% e; c( k' \// iterations
  Y8 P( K; f* c3 {9 m# \int iter =1;
int iterations =5000; //迭代最大周期

. I, {% w* m7 b% G' V) p6 E// loop
while (iter < iterations)
, y6 l, U- h; x  `{
// run one epoch of genetic algorithm
population.RunEpoch();
/ f- s, n1 i8 x- y# f
// increase current iteration
* a! h1 O2 _' N+ }iter++;
" y( I. R: d- W7 ~' b6 p; f}
: C! J+ ^9 ]$ a9 q  g3 B' b4 S
, M% I7 G2 f+ ISystem.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
* [9 ^7 j" [  |  _( `System.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
5 ]4 G# A4 `  z) x( TSystem.Console.Read();
+ W4 H$ ]# g$ m: k1 u
0 Y( j% L, q# g+ k: C# H}
/ d& B4 B3 v! `8 J: x4 U  l}
( Q9 D+ K* j( d; a9 b# {! I4 o}
* N  x6 n9 A& H- s" L
+ ]- e5 L; Q9 _8 N! l
[url=][/url]

. g, G2 Z% p# ]. Y8 F! \1 t% T! h
) G) {' D+ s/ @
5 ?2 w: u2 a) m' j0 j" a/ R
* F9 u" C' Z6 v5 R. S* i

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

2 S* x5 o: s8 ~; ~' T6 u1 y
  @" j- I2 I* ]! ^  y

---

欢迎光临 数学建模社区-数学中国 (http://www.madio.net/)

Powered by Discuz! X2.5