数学建模社区-数学中国

标题: 【转】优化算法入门系列文章目录（更新中） [打印本页]

---

作者: 我要吃章鱼丸子    时间: 2016-4-8 14:13
标题: 【转】优化算法入门系列文章目录（更新中）
遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

. M8 x1 _/ ^( {9 e) C$ V
一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

5 }! |% W) m8 C4 u, @1 V- z2 X

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

1 E& E+ L$ ?$ ?' V: d) _

　　遗传算法有3个最基本的操作：选择，交叉，变异。

$ U) z8 f" ]; m

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

[url=][/url]
3 f3 Z" X1 z2 h" @8 I轮盘赌算法/*
* 按设定的概率，随机选中一个个体
* P表示第i个个体被选中的概率
# M- @2 W) x0 K! \*/
int RWS()
{
m =0;
2 K; S; s) Q' k# `r =Random(0,1); //r为0至1的随机数
1 ?. I" U2 B. s% T, efor(i=1;i<=N; i++)
{
/* 产生的随机数在m~m+P间则认为选中了i
( _; A& u6 m1 K+ i$ R: M7 J* m5 T* 因此i被选中的概率是P
*/
m = m + P;
2 K* @9 \! x0 G* o, k) |8 K2 gif(r<=m) return i;
}
5 ^; y/ }9 K7 k; Q- ?- [}
+ i5 o3 C9 d: {
[url=][/url]

( k2 ^9 L5 h' E2 \7 I

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

4 }6 Z& Z7 a  ]/ G2 V三.基本遗传算法的伪代码

[url=][/url]
! @: e) M+ g. z9 L' b  D% N- s- {+ S基本遗传算法伪代码/*
* Pc：交叉发生的概率
0 A3 D/ v" ~! J5 s( k; h* Pm：变异发生的概率
8 `, e; k4 @+ ^3 x* M：种群规模
* G：终止进化的代数
- z0 W: d. O8 f7 }9 M- U* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
4 T5 [" j3 ^- A% y! X3 V6 O, u- q3 W*/
初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop

do
{
　　计算种群Pop中每一个体的适应度F(i)。
+ Y0 W/ `, o. {3 p) z5 i　　初始化空种群newPop
! r9 V/ q. w0 u! V% o$ Y　　do
　　{
　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
　　　　if ( random ( 0 , 1 ) < Pc )
　　　　{
8 w$ e6 t0 G8 d6 |　　　　　　对2个个体按交叉概率Pc执行交叉操作
, l: K$ u2 S+ d　　　　}
8 U7 Q$ u: J; w1 Y0 ]/ \　　　　if ( random ( 0 , 1 ) < Pm )
　　　　{
　　　　　　对2个个体按变异概率Pm执行变异操作
6 M1 a4 X  C5 H0 O, d" D! N$ s6 k　　　　}
将2个新个体加入种群newPop中
} until ( M个子代被创建 )
; H; L9 F2 L3 n0 j; c用newPop取代Pop
" o  X3 {( _, j# R5 I; S) E( u}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )

4 V* N! e5 X0 u* Q
[url=][/url]



四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

2 Y1 @" F4 `/ f

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

4 o2 q9 ]* P/ J+ I6 ?- P

图1. AForge.Genetic的类图

0 j! H) K. q& B4 `

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

[url=][/url]
2 }8 k9 S+ d1 e/ C. y( r$ e/ a( O13042312
36391315
1 f5 j. l: r0 w4 l0 ~5 M6 E+ c$ H41772244
" c9 _* K. t9 E& H37121399
( L7 ?" j) L. a* X34881535
33261556
' e6 e" t, {* R: j8 C32381229
41961004
4312790
' ?2 @% t# P* B) i7 a* d, [  Y. h; z4386570
2 X; ^7 `% ^$ h/ a0 f& `7 _30071970
25621756
, J4 b$ F' B8 b, }! e27881491
23811676
1332695
37151678
39182179
40612370
6 g1 k: r9 p: M) S) v37802212
9 q+ Z9 w. i- y7 i& k36762578
40292838
42632931
34291908
0 |3 ?8 ?4 [+ d1 Q" {  A+ ~# O35072367
33942643
34393201
29353240
31403550
8 ~( ]; i. X+ `3 `  _# d$ ^5 `0 O25452357
27782826
23702975
[url=][/url]

' T% L; B( C! R2 o


! F. l8 k4 A; g( Y( v

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

[url=][/url]
4 y: n: l3 @! T. S" n0 fTSPFitnessFunction类using System;
# X, B- y, \) I+ Y$ Dusing AForge.Genetic;

namespace GenticTSP
{
///<summary>
, _4 d/ ]8 ^3 ]6 Z$ c2 }/// Fitness function for TSP task (Travaling Salasman Problem)
///</summary>
+ ~2 T; v; F2 m- Mpublicclass TSPFitnessFunction : IFitnessFunction
{
// map
privateint[,] map =null;
; Y1 u4 M: m; Z3 s& Y# ]
$ E& Q9 u) y1 r* t7 ~# h// Constructor
public TSPFitnessFunction(int[,] map)
# H  M& ]# e2 J8 w{
this.map = map;
" |# X8 e, J& P7 z}

///<summary>
. Q  I+ ]9 @  S/ o$ l: Y2 x6 H; d/// Evaluate chromosome - calculates its fitness value
///</summary>
publicdouble Evaluate(IChromosome chromosome)
" k' {% g, A9 ]# q+ t6 d{
return1/ (PathLength(chromosome) +1);
}

0 m# \! H: i5 M+ Z0 q5 m///<summary>
0 c/ C& O2 l. P7 |- W4 f+ b/// Translate genotype to phenotype
4 \; F' s7 m/ R; O( F3 W7 @///</summary>
publicobject Translate(IChromosome chromosome)
{
. ]. G* ?3 i+ _( y. Sreturn chromosome.ToString();
. ~: M& ]0 ]4 ]- s! S! ~}
7 ~# y! `: W2 H5 u8 e! l
' Y# U; a+ r6 Z2 m; M' G///<summary>
/// Calculate path length represented by the specified chromosome
///</summary>
publicdouble PathLength(IChromosome chromosome)
8 ]  O2 o& A( x, n: y5 I+ ^& l{
// salesman path
ushort[] path = ((PermutationChromosome)chromosome).Value;
0 p0 G/ L! ]. q, w1 c) ]$ p
2 Q4 ~# k) u( G0 d8 y) [$ B  r! y" L  A// check path size
if (path.Length != map.GetLength(0))
) J, `1 T" d) s" u) v{
thrownew ArgumentException("Invalid path specified - not all cities are visited");
}

// path length
int prev = path[0];
int curr = path[path.Length -1];
- o$ f* l/ w; v& Y9 H7 y% D
+ ]8 [5 ^* |. x  {- {// calculate distance between the last and the first city
6 m( x  q" z# U# Cdouble dx = map[curr, 0] - map[prev, 0];
4 u& w- u9 C/ r) s3 l# N  ndouble dy = map[curr, 1] - map[prev, 1];
1 o) A  O! E- R$ g# B3 wdouble pathLength = Math.Sqrt(dx * dx + dy * dy);

// calculate the path length from the first city to the last
/ n# d2 _/ ^3 q8 [for (int i =1, n = path.Length; i < n; i++)
{
0 O$ n* U; \8 p! X7 S// get current city
8 K' K: i8 Y  ^) v4 n  Ocurr = path;
: H; c% H2 O, k: }
// calculate distance
dx = map[curr, 0] - map[prev, 0];
dy = map[curr, 1] - map[prev, 1];
& e5 R$ _7 x& |% {! n! wpathLength += Math.Sqrt(dx * dx + dy * dy);
% _6 t  Z$ W! M7 i% q
- _" D- x) Z# {6 h  Z// put current city as previous
% b3 T  V. a& J/ h9 [' \! f- lprev = curr;
: R0 e+ {% v0 o4 `8 a# y( |6 q}
- x, k) Q9 E0 u/ W- ]# X
return pathLength;
% ?8 W$ t7 y  C}
}
2 h) p2 j0 n$ R2 k; x1 l/ y}

5 O; B$ V8 x' l( ^5 d* P3 X( s
[url=][/url]

: V- w4 @* g  F' t! [: g3 Z- {6 w

   (5) 添加GenticTSP.cs，加入如下代码：

[url=][/url]
. T- r6 u, Z, d' l/ hGenticTSP类using System;
using System.Collections.Generic;
8 `7 K; q) c4 C( P; Uusing System.Linq;
using System.Text;
using System.IO;

using AForge;
8 }* s( {0 \  ~- s" @* T2 Qusing AForge.Genetic;

) ?1 G1 V6 V) D/ c! X# B
namespace GenticTSP
{
) c. V/ h8 t- h0 I" pclass GenticTSP
6 I1 @0 Z7 C' [# J2 I0 B; C% k8 X{
2 k- w- J$ {& Q) L2 Z3 |8 G9 ~3 _
  P  \. |4 D( T( r3 Q% Rstaticvoid Main()
- K' F, c/ _) P- c$ V! h{
StreamReader reader =new StreamReader("Data.txt");
' L; t7 D/ ^$ ~0 S( F% G
- \2 ?* L5 W# l! I7 k* oint citiesCount =31; //城市数
6 }! I* V/ v1 [0 b0 M- ?% N, h
int[,] map =newint[citiesCount, 2];

for (int i =0; i < citiesCount; i++)
{
, b7 i: x! u+ {! _4 I: y4 Dstring value = reader.ReadLine();
string[] temp = value.Split('');
. n3 c+ S  X5 i2 |- |: J* dmap[i, 0] =int.Parse(temp[0]); //读取城市坐标
# d3 O4 F  w: p3 C4 K/ O( `% Imap[i, 1] =int.Parse(temp[1]);
. q! A) \5 d# e) I3 c% w}
6 {$ e6 c- o7 ]( O3 s9 _- n
// create fitness function
TSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);

int populationSize = 1000; //种群最大规模

/*
* 0：EliteSelection算法
0 {! w' W0 }) \% m0 `* S* 1：RankSelection算法
' t- G  f, v" e& D6 T" F) Y* 其他：RouletteWheelSelection 算法
* */
int selectionMethod =0;

$ D/ Y+ V( @4 v8 f: z) ]& o6 J// create population
Population population =new Population(populationSize,
new PermutationChromosome(citiesCount),
fitnessFunction,
# |' E" H' [; t8 e' k(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
4 \/ L$ U0 ^+ ~/ y6 o(ISelectionMethod)new RouletteWheelSelection()
);

// iterations
" u  u, ]* k: \% L, Z+ tint iter =1;
int iterations =5000; //迭代最大周期

// loop
% _8 g- x+ y$ S( z7 f: ~+ ^while (iter < iterations)
7 E5 Q' F+ z' \, L{
& n3 A0 C8 E: x& e6 Z// run one epoch of genetic algorithm
- q2 w% n  g) N: q# |( P- p6 I) ppopulation.RunEpoch();

& g# X1 P" w& h/ ~// increase current iteration
iter++;
}

% ~9 {2 B7 s7 W- v1 R  E% K" mSystem.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
( `! M% i; l' q3 oSystem.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
( `' e* Z: I/ W. ZSystem.Console.Read();

}
}
4 f  d9 u; g7 V- D}

- Y: Q7 p/ P2 b0 x+ F  H5 U6 t5 e
[url=][/url]


0 `9 g/ Q" {- w' U- f* }
7 |, X4 v* i! w1 T; s- c

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

8 D0 ?# J6 K% H- X! ~0 v
  i$ p! y1 o0 ~4 w' h! K  R# ?
- L0 n1 ]% ?3 H" c; C, v+ @! ~

---

欢迎光临 数学建模社区-数学中国 (http://www.madio.net/)

Powered by Discuz! X2.5