数学建模社区-数学中国

标题: 【转】优化算法入门系列文章目录（更新中） [打印本页]

---

作者: 我要吃章鱼丸子    时间: 2016-4-8 14:13
标题: 【转】优化算法入门系列文章目录（更新中）
遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏
% U+ m' s# i8 i2 g

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

9 _% Q2 b! G* T  A一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

, h% `  ]5 {; ~* M) u

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

" m+ P" v$ t  x! B5 v8 D! M% }
二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

% O4 L" Q9 S. L& V3 T' m' v# H4 Q

　　遗传算法有3个最基本的操作：选择，交叉，变异。

8 {, E0 I2 M2 s2 [9 Z( C7 A

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

[url=][/url]
/ J1 m$ V& Q4 F$ j; N. }4 f  U) x轮盘赌算法/*
* 按设定的概率，随机选中一个个体
  w, I# p  F( a7 c, b9 J6 s* P表示第i个个体被选中的概率
*/
: }' ~5 g9 p1 @# d6 m4 ^1 ~int RWS()
+ d8 P7 R5 M8 z6 K2 x{
m =0;
r =Random(0,1); //r为0至1的随机数
4 Q8 G+ V+ C! Vfor(i=1;i<=N; i++)
, Z/ }) F# t7 M! w0 r0 R{
3 |7 J* U" A" _6 }* T/* 产生的随机数在m~m+P间则认为选中了i
& P+ ~* T) d9 K# }* 因此i被选中的概率是P
*/
m = m + P;
if(r<=m) return i;
}
}

/ f5 U# _1 o2 f) [  t) n[url=][/url]
: n4 B1 \, X- G
2 w( l" g, j- Q6 L* P* M* a& F

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

: w5 O- |0 s* S
三.基本遗传算法的伪代码
' j6 W+ ]& H! I/ F
[url=][/url]
基本遗传算法伪代码/*
5 c% I  B$ v; O; Z* Pc：交叉发生的概率
* Pm：变异发生的概率
* M：种群规模
* G：终止进化的代数
* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
*/
初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop

do
{
　　计算种群Pop中每一个体的适应度F(i)。
  G, U1 \/ L% ]3 L9 X　　初始化空种群newPop
  Y. A! j' K5 T/ W/ l9 d　　do
/ k, D% O- x( n9 d" N5 U3 [6 I　　{
　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
. t  D3 N$ N+ s+ F　　　　if ( random ( 0 , 1 ) < Pc )
/ o0 _! r" X& `- R; v　　　　{
6 `3 b! [: z' y+ W8 V* x; ?6 u　　　　　　对2个个体按交叉概率Pc执行交叉操作
3 r+ x0 v" S3 o% V　　　　}
9 ]  t. _  n. Q9 T" M5 T% O　　　　if ( random ( 0 , 1 ) < Pm )
　　　　{
　　　　　　对2个个体按变异概率Pm执行变异操作
　　　　}
. c) `% i  w3 V) b将2个新个体加入种群newPop中
# K9 s5 R, [# E- @  v# L} until ( M个子代被创建 )
* z* ^& Z; @/ e; t% }1 A用newPop取代Pop
}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )

) Q% H* ?( ]3 R9 A) {; j
[url=][/url]

3 \3 j/ r0 f, g5 V& D* i. ^3 P2 ~

四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

' p- H- H: N8 {* W+ i

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

图1. AForge.Genetic的类图

( V% D" p& A, w, ~

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

[url=][/url]
13042312
36391315
$ ^1 t$ u7 c) X$ Q) @* O: R# [( d41772244
5 D+ n: U- v( t& P37121399
34881535
33261556
32381229
- ~+ i! D  ~5 C1 e0 C8 Z4 W41961004
4312790
/ B; ]$ E  I. C& D" Q/ g  a/ ?4386570
30071970
25621756
27881491
23811676
1332695
37151678
39182179
" n0 U! D9 g0 L% ]3 Q40612370
37802212
8 a1 q  Q0 ?; q8 G6 H9 H36762578
40292838
% j& Z- S1 L  L$ j* X( l3 b+ U% Y: d, W42632931
34291908
! s* ]4 Q. ^. r0 K* w9 E1 u35072367
33942643
34393201
8 }3 `. L$ l0 X29353240
; n4 T/ G, d, R8 C$ J31403550
6 h. R3 P6 `( y6 o25452357
27782826
* j- X; y" F# V2 m% F" X# Y23702975
) ?. r  D) B# A" j% t4 h[url=][/url]

2 [. m7 C" u: I& d  y0 Z7 \' Z5 q3 B

: n% q0 z  o1 k! p' |8 L& U7 k/ x

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

* D: I  i: C4 Z: c[url=][/url]
TSPFitnessFunction类using System;
using AForge.Genetic;

8 u; [1 Q0 L' Z3 d+ p& Jnamespace GenticTSP
{
/ k8 F% |; h/ a/ C( @+ f/ g///<summary>
. C- r( H# U4 }+ g5 R/// Fitness function for TSP task (Travaling Salasman Problem)
///</summary>
publicclass TSPFitnessFunction : IFitnessFunction
( W9 A( b  z8 \; c1 j/ q{
// map
% B5 v' z! H  N  K3 m' f9 O" sprivateint[,] map =null;
1 N1 p6 t( @: r
// Constructor
public TSPFitnessFunction(int[,] map)
; n2 m$ \, v1 H% ~5 f: r" u$ @{
. }6 l7 s/ ~: T% h8 ~3 j7 Jthis.map = map;
}
( Y9 U4 f. t3 N
///<summary>
- L2 x: s$ e# o- n/// Evaluate chromosome - calculates its fitness value
///</summary>
publicdouble Evaluate(IChromosome chromosome)
2 |9 q. s( m. d  j% x- k- ^1 h{
return1/ (PathLength(chromosome) +1);
}
& t$ |, z5 ?. d6 {. S9 F
# z' d0 T2 a4 `) e* _- N& ~/ M///<summary>
) P1 y& r1 F* K; o; K7 s2 k' y8 t/// Translate genotype to phenotype
///</summary>
publicobject Translate(IChromosome chromosome)
{
return chromosome.ToString();
}

( H2 D% O: m) M1 v  g8 n% ~5 Z///<summary>
- `: G0 p; Q  c' c) Z2 y, s2 T/// Calculate path length represented by the specified chromosome
///</summary>
/ v' s! w. ?( S1 Cpublicdouble PathLength(IChromosome chromosome)
, `8 p3 q+ f& x; ]# C# Q{
& D9 y$ B, g4 M& O" M// salesman path
- l3 p6 f2 ~$ y. `% Aushort[] path = ((PermutationChromosome)chromosome).Value;
9 Z, E" V. |' F( B
8 w+ y' p2 [) s// check path size
7 u4 V; S9 p. A! {# q( v0 {1 aif (path.Length != map.GetLength(0))
{
0 P3 e( P2 F9 }6 E6 Ythrownew ArgumentException("Invalid path specified - not all cities are visited");
' h! k% K. e6 F}

- ?' f4 G7 z+ L* I, `, |// path length
. _$ l6 R( v' H. l: L: g: Eint prev = path[0];
int curr = path[path.Length -1];
! U! c8 ]( T& F  h' `8 @3 s4 X7 A
// calculate distance between the last and the first city
, G! U' ~2 A8 _5 cdouble dx = map[curr, 0] - map[prev, 0];
double dy = map[curr, 1] - map[prev, 1];
double pathLength = Math.Sqrt(dx * dx + dy * dy);
# X- @! V  U3 F) p- W  J
// calculate the path length from the first city to the last
( j( y1 t& C; t' E( K% \" Ifor (int i =1, n = path.Length; i < n; i++)
; _* b# U4 m. w: b1 N{
; i" |! H4 {! j$ ~! @// get current city
  J+ y$ e% B* S: q/ Ncurr = path;
2 I4 k& |% f( y1 B$ f, O( X
// calculate distance
dx = map[curr, 0] - map[prev, 0];
dy = map[curr, 1] - map[prev, 1];
pathLength += Math.Sqrt(dx * dx + dy * dy);

// put current city as previous
$ X- S3 S& n  a# `9 r" ]2 M& ~prev = curr;
}

return pathLength;
7 _! E  i. ~2 m3 o}
! _0 d8 m, {! d" i}
- I1 V3 }9 w: M& w' H}
3 w7 b: V) _) N

0 a7 L* `" t. `7 A' u! k( N/ b* A[url=][/url]



1 j0 X: z  F: w7 L

   (5) 添加GenticTSP.cs，加入如下代码：

[url=][/url]
( C2 g- T9 }& U2 g: ?: f* {GenticTSP类using System;
using System.Collections.Generic;
# ^5 V( o9 R  m1 Yusing System.Linq;
% ]! }- U) K8 M- q# Yusing System.Text;
using System.IO;
5 X- `5 K$ x4 e. b  |3 t3 p
using AForge;
using AForge.Genetic;


7 l) A7 L$ l4 {& `! A4 Vnamespace GenticTSP
{
class GenticTSP
- ?4 Q) Y8 W, h) m4 T( u- M{

staticvoid Main()
{
StreamReader reader =new StreamReader("Data.txt");

int citiesCount =31; //城市数

& |7 I: g9 {; Iint[,] map =newint[citiesCount, 2];

for (int i =0; i < citiesCount; i++)
- C! @; F: ^6 ]{
string value = reader.ReadLine();
, K$ |, F4 f" w! `" A" E) nstring[] temp = value.Split('');
1 ?0 K1 D% E# D* }/ ~8 {0 P3 Gmap[i, 0] =int.Parse(temp[0]); //读取城市坐标
map[i, 1] =int.Parse(temp[1]);
. [& M; w' ^9 s1 w' L}
7 s( W, e* M# |* V  H' |% V# b% y9 P
6 D' i% X- I) x7 C# P// create fitness function
! z9 a* D, T, |( {' q, t0 R. D1 kTSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);
; B" B4 L/ E9 ~  ^8 u
int populationSize = 1000; //种群最大规模

/*
/ S2 t% d: s, U+ {* 0：EliteSelection算法
6 B* ^# t6 U) x4 h' H6 h* 1：RankSelection算法
7 o: W$ f0 a$ d* 其他：RouletteWheelSelection 算法
+ S) W; Z- s# g8 J: _% l9 N* */
int selectionMethod =0;
: W  @* e# D+ M9 p  M6 B
// create population
) C+ q8 h, \$ M) L& nPopulation population =new Population(populationSize,
" n  U' _5 v7 |- ~3 A3 i) U8 j! ~new PermutationChromosome(citiesCount),
fitnessFunction,
6 J% L% J: d/ c" a(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
(ISelectionMethod)new RouletteWheelSelection()
);

// iterations
8 S3 B9 x! X5 F! Wint iter =1;
5 {5 x3 i  X2 A  a' v" Zint iterations =5000; //迭代最大周期

// loop
while (iter < iterations)
5 ?$ P/ G" I( u, s& h. N6 X! N! G; k{
7 v. M% s% V3 h1 ]- z// run one epoch of genetic algorithm
' l6 g! U$ W) I) R5 S2 kpopulation.RunEpoch();

$ _* `# E( k2 U  g% h! g/ d: @// increase current iteration
) F7 s* ]8 u) d) [2 k5 C6 _  r% liter++;
& h" G- P' T$ l' {- B* H, A}

System.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
* ^- ]/ a6 L4 d: e$ Y& f: mSystem.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
, N* N5 {' m; ?* S* G* h9 A# ^8 CSystem.Console.Read();

}
% s( P& v. ^, `# `' O( |}
}

! }( h: u* L! F
[url=][/url]

+ p9 t6 B* j$ b
7 T+ z# m0 f8 `. ~* d

9 S1 B$ M6 d. v* W5 ~

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

8 D) W* N0 y7 Q3 V' D$ V9 k) y: z
8 d$ n8 M0 _5 V2 F/ F

---

欢迎光临 数学建模社区-数学中国 (http://www.madio.net/)

Powered by Discuz! X2.5