数学建模社区-数学中国

标题: 【转】优化算法入门系列文章目录（更新中） [打印本页]

---

作者: 我要吃章鱼丸子    时间: 2016-4-8 14:13
标题: 【转】优化算法入门系列文章目录（更新中）
遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

' v$ T% I; y" Y. }7 L  ]3 ^
1 j8 a: R( a) ~# o一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

% s1 C" {+ V; Y* }; {8 |

　　遗传算法有3个最基本的操作：选择，交叉，变异。

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

[url=][/url]
轮盘赌算法/*
5 \% Y) W1 E- G* 按设定的概率，随机选中一个个体
/ n% G9 q9 k; ?2 T* l- ~' _* P表示第i个个体被选中的概率
*/
int RWS()
* N6 o+ M7 r* A/ g3 r$ h{
- u; m& X5 c, k0 g' t7 Bm =0;
r =Random(0,1); //r为0至1的随机数
7 w# L2 e8 B2 B# v* D1 K, {for(i=1;i<=N; i++)
& i) k. R2 T% S5 {5 [$ Y" f) o{
2 I( j( V1 ?3 P/ l/* 产生的随机数在m~m+P间则认为选中了i
) n% x. x; ?1 y* 因此i被选中的概率是P
*/
9 Q) P) |- y' [3 em = m + P;
if(r<=m) return i;
( [7 r; B- y$ r}
}
0 H* V' W2 v( R9 ~7 V% d' A
[url=][/url]

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

) J! u! Y+ i' B* d0 G- ^% w三.基本遗传算法的伪代码
6 e. R, |( W3 h' I
) ?2 r- t6 [& O# M[url=][/url]
9 l+ s7 W, x! s: f% G基本遗传算法伪代码/*
( F( U! P0 v* K* Pc：交叉发生的概率
* Pm：变异发生的概率
* M：种群规模
; P: |- a. X/ B! ~$ ^! O* G：终止进化的代数
! x& {3 B. m! l. @) o$ y: i* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
& s1 z; r! W% X! W9 }3 v*/
初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop

do
7 c7 o  h2 d, `$ h8 d{
　　计算种群Pop中每一个体的适应度F(i)。
　　初始化空种群newPop
　　do
' S  w0 {3 s1 G4 }3 l: {% J　　{
　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
　　　　if ( random ( 0 , 1 ) < Pc )
　　　　{
+ P/ D$ t! @) d# D/ C　　　　　　对2个个体按交叉概率Pc执行交叉操作
: ~+ k- y* b/ |% J　　　　}
/ |8 s( G5 ~- Q0 v　　　　if ( random ( 0 , 1 ) < Pm )
　　　　{
　　　　　　对2个个体按变异概率Pm执行变异操作
　　　　}
将2个新个体加入种群newPop中
* W; ]% q3 s4 `} until ( M个子代被创建 )
* B5 ~  d8 J; |用newPop取代Pop
}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )
, ^5 |! p" [) U  I* d$ ^
" W* K2 C" j$ o0 }# b' _4 v/ t, E* g
* B, W  C2 p( T  O) v[url=][/url]
1 m+ F; m. O9 ~8 T5 D8 P/ p/ F

& B+ z! G* V- k( p, J  Q2 C  i
) z' o$ z& P7 _4 m( T, d- _3 o3 @7 ^四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

/ ]0 {! a1 ?3 r* S

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

图1. AForge.Genetic的类图

0 ]/ `. P  _7 C4 L  h# W, M

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

[url=][/url]
13042312
3 ]5 Y) W3 l4 B: I- `  H& L36391315
7 q/ j$ E6 W, J) B7 s7 p8 y" q, h41772244
! g* w0 V) o3 K37121399
( J1 p7 d1 Z$ w; ^7 a4 J34881535
) A' }: Y  O% V' C. ^$ W% L33261556
32381229
" w! c3 c5 L3 h  f4 O41961004
! u5 }4 L* f5 b. E! O4312790
4386570
30071970
25621756
27881491
; d$ ~1 q4 _. f, X, R23811676
! W8 }! _7 @8 L1 ~2 Z6 P: X1332695
3 M$ U" O7 m+ t) s37151678
; T- K7 C5 Z0 `" a! y39182179
40612370
37802212
) H4 ?( X/ A% ~5 N36762578
+ r9 G3 \+ I! _; f1 F3 A8 S40292838
42632931
! ~  w& y: W# x34291908
: x* l# K: x- }3 S2 H0 M35072367
33942643
34393201
1 N: N4 _" ^* J& ]$ D29353240
31403550
6 P5 O' f  H2 B1 z4 ?  D5 v25452357
27782826
23702975
[url=][/url]
  _* z! f3 j3 j" ]! ~
  M: Z& E7 i$ j0 R" ]

( p) m6 N; n3 t! y& P
7 g! q* C+ ?. s% D  j9 o: j

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

[url=][/url]
9 G) N# z$ ^& I& HTSPFitnessFunction类using System;
using AForge.Genetic;
. t8 `! O% K+ x+ U
namespace GenticTSP
{
+ p- ?+ K7 a, S/ ?/ K2 z( u///<summary>
/// Fitness function for TSP task (Travaling Salasman Problem)
///</summary>
  s2 I6 m2 m8 b7 qpublicclass TSPFitnessFunction : IFitnessFunction
9 f. n  p4 y9 L! Z" ?{
// map
privateint[,] map =null;

( \  ^  S- _% E+ M; M* s5 {4 X// Constructor
public TSPFitnessFunction(int[,] map)
{
this.map = map;
# D% u6 F0 Y' _}
$ r' J/ u7 X) ]) ?8 q# l3 {
///<summary>
% S9 R  [9 J: r! `+ l7 T/// Evaluate chromosome - calculates its fitness value
///</summary>
publicdouble Evaluate(IChromosome chromosome)
{
: X7 _  R. m* S0 [return1/ (PathLength(chromosome) +1);
# I8 v- W8 r6 }5 G. [% P6 c}

///<summary>
/// Translate genotype to phenotype
///</summary>
- ?. p1 L8 I1 X5 K, M! Kpublicobject Translate(IChromosome chromosome)
{
return chromosome.ToString();
}

, u3 t7 m/ b$ g& c3 l: Q6 r///<summary>
/// Calculate path length represented by the specified chromosome
1 @$ ~/ a3 b. v# d+ B8 r2 ]1 Z///</summary>
! D) A# O: Y4 B* v! ipublicdouble PathLength(IChromosome chromosome)
{
// salesman path
! r9 X& [( r* G6 n- N: Jushort[] path = ((PermutationChromosome)chromosome).Value;
7 h$ c7 I0 y) d. z1 V. {& G
8 N  a+ `2 D2 f5 k/ ]+ s// check path size
if (path.Length != map.GetLength(0))
- @+ k( t3 l3 ^6 y. \( s, N5 e0 Z{
thrownew ArgumentException("Invalid path specified - not all cities are visited");
7 N0 V( `4 g# y5 G' V}

& a7 Z, U& _3 b. g* u* l9 t2 @! b6 M' f// path length
( J# Z% M5 M/ Pint prev = path[0];
6 f" F, t5 C& N' a+ u+ l* S! L3 R4 Kint curr = path[path.Length -1];
: E, Z' \  B8 }6 G. ]8 g0 \& t4 j2 q
* H* z5 {+ G) p# {// calculate distance between the last and the first city
; L& P, K" m* b. rdouble dx = map[curr, 0] - map[prev, 0];
double dy = map[curr, 1] - map[prev, 1];
double pathLength = Math.Sqrt(dx * dx + dy * dy);

. Z1 t- c5 h( s( s; g# {$ q// calculate the path length from the first city to the last
+ k  U8 Z1 B( S7 Pfor (int i =1, n = path.Length; i < n; i++)
{
// get current city
/ D' S: u3 z- e* k, [' Q; |curr = path;
" i1 n* s/ O" j6 M4 B( t, I
// calculate distance
8 X; S2 Q! ?% }+ f0 }dx = map[curr, 0] - map[prev, 0];
dy = map[curr, 1] - map[prev, 1];
pathLength += Math.Sqrt(dx * dx + dy * dy);
5 S' N0 G: j" L+ S% U" V
// put current city as previous
+ G9 M8 T0 |7 Q4 z2 y$ Uprev = curr;
+ b1 E. \, ~; H- }5 @7 _}

return pathLength;
}
}
& `3 A4 x" H  }}
' T; R  r6 l5 v/ A( G$ ~
2 {! P+ G1 b- b: E. i
8 N* y$ M7 b, d- `0 ]1 i; p[url=][/url]


# y- r' \% }8 K
# s: j9 n/ l3 P; |& }

   (5) 添加GenticTSP.cs，加入如下代码：

7 E: j) j1 O  V+ P6 [[url=][/url]
GenticTSP类using System;
using System.Collections.Generic;
/ F6 G& [4 {  c; M/ x2 K2 b$ L- ]5 wusing System.Linq;
using System.Text;
9 V2 ~0 g3 u" T9 c; K- l$ c$ qusing System.IO;
7 l' h2 L2 N3 D& Q- u# a1 n
using AForge;
using AForge.Genetic;
9 e) ?1 B$ j% G1 W( d- g1 B
" s. {( n$ A& N2 o( Q  h' B  v; m
; U/ H* {/ N0 R2 J2 Unamespace GenticTSP
! o+ M" V* h& ^0 k{
' K7 o  L- v1 e+ w9 F1 M! ]class GenticTSP
{

staticvoid Main()
{
, ^+ r$ J3 E* P9 e2 E+ iStreamReader reader =new StreamReader("Data.txt");
- r' L$ X5 `! O% {2 |; s, t( o
int citiesCount =31; //城市数
8 W3 w, j8 E2 [: u
int[,] map =newint[citiesCount, 2];

for (int i =0; i < citiesCount; i++)
{
; ~& z* O) L- @) }string value = reader.ReadLine();
string[] temp = value.Split('');
map[i, 0] =int.Parse(temp[0]); //读取城市坐标
map[i, 1] =int.Parse(temp[1]);
. K' I* G3 Z  I$ o; ]}
" J( _4 T3 B+ f* V; C
// create fitness function
TSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);
6 O. o: V/ w- l' U  N5 g* g
" o3 x2 s8 @& |/ |! \6 U/ Uint populationSize = 1000; //种群最大规模
6 l" d$ u  h. \; a
# ^3 l# [2 \8 @+ q+ t/*
* 0：EliteSelection算法
9 d! D0 |5 r+ j  m* 1：RankSelection算法
* 其他：RouletteWheelSelection 算法
0 N( M9 |/ N' R6 m! D' L1 B- o* */
int selectionMethod =0;

// create population
Population population =new Population(populationSize,
2 j' A" s. ~- Inew PermutationChromosome(citiesCount),
! G/ P4 b1 i3 bfitnessFunction,
(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
! e7 Z2 c$ A- ?( u(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
0 j  o4 w) k( N(ISelectionMethod)new RouletteWheelSelection()
);

// iterations
int iter =1;
int iterations =5000; //迭代最大周期
! t8 K  m; z% \
& |, g0 O7 W6 C8 ~! |// loop
# l7 s  Y/ g; J% i1 a6 Awhile (iter < iterations)
{
// run one epoch of genetic algorithm
population.RunEpoch();
8 `5 g% `4 Y  T" r! z- @; m
8 ^% z1 V( q7 K6 t6 o// increase current iteration
iter++;
! b0 m# e9 T( J% \}
7 T7 b; r) h- `' ~2 u
System.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
System.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
. o9 N3 J5 c  y! U% w: _System.Console.Read();

; z& {% v5 V  c3 Z; o; \' z" m; S}
6 @  y6 n+ {4 Y/ u* T# q2 ]}
3 E1 E/ C: u# |1 I; d& J) Q}
! u4 o4 Y; e2 R$ i

[url=][/url]

: Z2 z4 P/ `7 t0 v* M; W- r4 ~5 u

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

; ^2 g# i' Y; K: s% G

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

8 f$ J* E5 I# n" |

---

欢迎光临 数学建模社区-数学中国 (http://www.madio.net/)

Powered by Discuz! X2.5