数学建模社区-数学中国

标题: 【转】优化算法入门系列文章目录（更新中） [打印本页]

---

作者: 我要吃章鱼丸子    时间: 2016-4-8 14:13
标题: 【转】优化算法入门系列文章目录（更新中）
遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏
: X5 ]2 F3 F  r1 \  z
1 V% r( `% i. d  A

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

& ?# J: t1 H: H: M, |6 d+ C/ r
: u% h# A' {; w二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

2 L% P# b  U8 V# r$ r

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

　　遗传算法有3个最基本的操作：选择，交叉，变异。

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

[url=][/url]
( |4 c" ?% I6 w9 k. L: _: c2 p轮盘赌算法/*
5 ?  }& d" s+ l2 |7 J* 按设定的概率，随机选中一个个体
* P表示第i个个体被选中的概率
# o& ]  ?5 Z+ H, M, _3 v3 v*/
- u& D3 R1 [; [/ \int RWS()
{
m =0;
r =Random(0,1); //r为0至1的随机数
for(i=1;i<=N; i++)
2 s+ }( a" V6 l8 O0 b2 ~{
/* 产生的随机数在m~m+P间则认为选中了i
) t6 H! s- B; O8 A4 R, j" R" W0 c* 因此i被选中的概率是P
*/
/ p) d  B8 v' v( H% im = m + P;
if(r<=m) return i;
# d' Y7 j/ A1 O7 [}
# b% a* B& F! X) F2 A6 V& }1 R4 a}
# {% k7 R  a1 Y' X3 g0 \4 l! r. _
! t8 @7 b1 Z$ I) O/ z" p8 W/ i[url=][/url]

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

# A; [0 ?* U6 ^4 L1 R* r/ Y

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

三.基本遗传算法的伪代码

' c9 w/ b. u2 b9 H2 S1 H6 T[url=][/url]
2 p% C% A: E' R9 i* D5 U基本遗传算法伪代码/*
* Pc：交叉发生的概率
; {% }# u& e! x3 n% J9 f* Pm：变异发生的概率
: `& ]3 r1 F( r/ ^/ B% U* M：种群规模
1 C4 f5 R$ ~( e: @* G：终止进化的代数
+ ^0 u2 ]$ X7 N) w# t& n* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
*/
初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop

do
{
" F! @9 V, u9 h　　计算种群Pop中每一个体的适应度F(i)。
　　初始化空种群newPop
　　do
6 n* U" Z+ N" Z. x　　{
$ H% D0 Z8 [5 M' e' A6 V; Q& G2 G　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
　　　　if ( random ( 0 , 1 ) < Pc )
! C) V" y8 K2 Y2 Y　　　　{
　　　　　　对2个个体按交叉概率Pc执行交叉操作
　　　　}
　　　　if ( random ( 0 , 1 ) < Pm )
; n: y' V& O  H% b9 E5 T; z　　　　{
　　　　　　对2个个体按变异概率Pm执行变异操作
7 t0 I9 _( X7 K4 A, S, L, ?　　　　}
将2个新个体加入种群newPop中
5 L! w, j: q) P+ x' ~} until ( M个子代被创建 )
' g+ n. b+ e, l用newPop取代Pop
! g# r& ^7 y( a; l. J}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )
  M2 m  V# x: @- x; Y1 w

' K/ y9 e! ], [* j" D[url=][/url]
8 K* q2 a% m5 {4 n9 q2 p9 w6 {

2 u. }/ S0 j1 Z6 T9 G3 M
四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

2 n+ i" g5 W) @* x2 n9 o9 x" t

图1. AForge.Genetic的类图

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

[url=][/url]
13042312
; f) l# B* _! C4 H) g% G$ b# q36391315
41772244
37121399
34881535
) V8 g1 E+ \- I3 z33261556
! z5 B' c: @: g6 u32381229
( \. n1 v! J- X% j' o2 \/ l: J! y41961004
: z$ e$ U; P0 p- u) M2 K4312790
- l/ y! L- V' {6 Z  G! \; s4386570
30071970
25621756
27881491
23811676
1332695
  ^) k! @1 Y( u1 P- g37151678
39182179
40612370
37802212
/ \3 m4 G: S+ k9 g, }% z36762578
: g" u1 H2 s2 ]7 b40292838
) I8 y5 i! }1 r5 N1 W  u% |7 L% |+ J42632931
" A' j' \4 z: G34291908
35072367
; ^' N/ T" n& U  E. x' |  t0 t33942643
. k# T) o# N) M$ ^34393201
29353240
  D1 P6 b; w: c5 h, ~0 r2 T31403550
25452357
# W. h% b5 k) O8 s9 a: K2 g27782826
23702975
[url=][/url]
( B( e! j1 ~3 O- R) l1 ?& ?
3 |  v" _: N" A
9 E8 Q1 o$ q5 k  s9 L
: M) n/ e1 Q5 p) K2 j7 v$ _0 _
, Q5 j9 q7 f4 k/ ^7 ^

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

/ |- m( S8 i+ _[url=][/url]
) ?0 J2 t6 y- X5 J* O! iTSPFitnessFunction类using System;
using AForge.Genetic;

namespace GenticTSP
{
2 p+ H7 C" F5 ^///<summary>
/// Fitness function for TSP task (Travaling Salasman Problem)
, r) O2 X) j8 U: f. b///</summary>
publicclass TSPFitnessFunction : IFitnessFunction
2 `' i' T: s( H1 d" G+ c" h{
" b: {/ g$ S: j2 ^( j// map
3 ^$ K4 k; J0 _+ jprivateint[,] map =null;
! J" a5 I# l% F* D( x- _3 _2 q3 G
. A( Y4 h0 r: \& O// Constructor
public TSPFitnessFunction(int[,] map)
- E6 V% n7 y: V$ i1 p{
this.map = map;
}
9 }1 U- }+ N2 S5 P
6 d; x' D6 l. ~, g///<summary>
8 l2 C# [" o0 T. K0 }- _6 A0 y/// Evaluate chromosome - calculates its fitness value
///</summary>
! Z" X$ ]* U  P( wpublicdouble Evaluate(IChromosome chromosome)
{
return1/ (PathLength(chromosome) +1);
+ H+ v$ d) f( _6 h5 a2 _}
  I7 ]0 v/ S% s6 U
///<summary>
/// Translate genotype to phenotype
///</summary>
publicobject Translate(IChromosome chromosome)
{
, s6 n9 t  R. |6 h: P6 H$ preturn chromosome.ToString();
) l2 A& y* ?# U8 ~}
. M. ?9 ^/ x8 X/ a& I
///<summary>
/// Calculate path length represented by the specified chromosome
///</summary>
publicdouble PathLength(IChromosome chromosome)
* @* f7 V# m* R/ I; E{
// salesman path
( v5 s9 v. D4 j$ F6 H6 lushort[] path = ((PermutationChromosome)chromosome).Value;

// check path size
if (path.Length != map.GetLength(0))
1 Q& E1 U. U8 W- P  A{
thrownew ArgumentException("Invalid path specified - not all cities are visited");
}
% }9 a& E4 J; u
// path length
int prev = path[0];
int curr = path[path.Length -1];
9 ]* r2 a- ?& t  z
* e/ d! ~# {7 M9 ?// calculate distance between the last and the first city
double dx = map[curr, 0] - map[prev, 0];
' s! z/ F; v. Y; odouble dy = map[curr, 1] - map[prev, 1];
+ M3 L: D7 W- N( k2 odouble pathLength = Math.Sqrt(dx * dx + dy * dy);

// calculate the path length from the first city to the last
for (int i =1, n = path.Length; i < n; i++)
{
// get current city
curr = path;

0 h* r6 Y* Y1 Q" o) W// calculate distance
dx = map[curr, 0] - map[prev, 0];
# ]! Q- X1 E7 p, F3 Pdy = map[curr, 1] - map[prev, 1];
$ h% X* n. G* S6 a1 {pathLength += Math.Sqrt(dx * dx + dy * dy);

$ J) |# M  _4 `& l& D8 p" k// put current city as previous
' G7 T; v+ ^& ?5 Oprev = curr;
' X! v6 ]1 ?2 I/ f; y}
- s* l8 G* U8 q* H6 e; U3 Q
, d( m- J0 l. Z) T8 Breturn pathLength;
; A+ |2 n0 }4 m}
}
}
3 V" ~: V+ `7 c
; X2 T& |3 i2 f& i
[url=][/url]
6 K1 z; \4 m- y& [7 Y, F" @7 K
5 B9 Q6 j9 u8 G6 W5 Y- X
( M& v2 N1 d+ \; s

   (5) 添加GenticTSP.cs，加入如下代码：

[url=][/url]
4 z, v3 F+ G6 FGenticTSP类using System;
using System.Collections.Generic;
6 B" S" V3 }2 r, }2 s: O/ I! ?using System.Linq;
" X, A# `" W- pusing System.Text;
using System.IO;
- c+ e! E+ t+ _5 B+ z4 _) L" ^3 H, N
using AForge;
, Z. n* Q, I  _; M! ?using AForge.Genetic;

% {/ n2 q4 D" x6 P3 l, R* s' B
. q3 ~( w9 x, ^1 x! u/ \+ ~namespace GenticTSP
{
class GenticTSP
. f1 z& K9 n: q9 k. X# X{
! f6 F; L. t, A9 R
. j  L& @) S7 m* h. N0 rstaticvoid Main()
6 `  r% E" K0 @9 O: u  N2 Z7 q{
StreamReader reader =new StreamReader("Data.txt");
& ~5 ?6 H8 t* r/ w
9 l9 o$ R5 N3 ?/ Z1 P. b2 Z4 ?; |int citiesCount =31; //城市数
; }7 K$ ^0 e3 `; L9 C
( m7 h: ^* e; K( K+ Q3 }& Aint[,] map =newint[citiesCount, 2];
, J; z) q$ `4 L0 P
6 g0 D$ h" _7 k- t: C! cfor (int i =0; i < citiesCount; i++)
8 ^& T$ C$ [+ \* `. V& Q% L* W* B{
string value = reader.ReadLine();
0 f. s- i1 f! C, Y. f& o! u6 Lstring[] temp = value.Split('');
map[i, 0] =int.Parse(temp[0]); //读取城市坐标
map[i, 1] =int.Parse(temp[1]);
}

! T5 O, x% V5 h7 v2 X% T' @// create fitness function
TSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);

int populationSize = 1000; //种群最大规模
, E" y$ |0 S. F, }& x2 ]
! _& C( ?2 u3 W: I/*
* 0：EliteSelection算法
* 1：RankSelection算法
2 W) O  t! i2 t$ I7 u/ I, e* 其他：RouletteWheelSelection 算法
* */
4 Y9 K' s& O- Cint selectionMethod =0;

// create population
8 G" e) D7 \  ], FPopulation population =new Population(populationSize,
* R8 W! k- ]( d( |* pnew PermutationChromosome(citiesCount),
. u, F' Q. k  V5 tfitnessFunction,
(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
# H" t( O* f* e% R% u+ ](ISelectionMethod)new RouletteWheelSelection()
4 k9 R- c+ P/ l0 M. t, ?5 q; ?);

+ _* Q$ m4 M) U5 r% @// iterations
% k6 V6 t3 h; C5 l, mint iter =1;
int iterations =5000; //迭代最大周期
, P8 A8 h) d0 o. Q
: _3 m  S3 m. w8 K1 }  P7 ?// loop
while (iter < iterations)
9 U4 {! S9 h( k{
// run one epoch of genetic algorithm
population.RunEpoch();

0 k* I% e6 m4 V4 P, T// increase current iteration
iter++;
, I& {& }( s5 E+ G}
2 k6 t3 h! {* O( P2 s) O6 f
System.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
5 x: s% m  m: b2 d, w8 F/ B3 FSystem.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
! X, B! O# q% F% YSystem.Console.Read();

- O5 g0 @; K9 R% }2 E# O0 u( s# }}
8 z6 `7 A3 t1 E2 H}
) q! P2 O- J3 Q9 [9 I# c}


  X/ I' D2 T1 \[url=][/url]
: U# V% H' O' v' W3 h
6 n( ^4 I$ e/ O$ O3 }" [! U: R2 i

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

' x/ y8 j8 H. ~$ I) B( j
7 _( g3 E" d5 F# b

---

欢迎光临 数学建模社区-数学中国 (http://www.madio.net/)

Powered by Discuz! X2.5