【转】优化算法入门系列文章目录（更新中）

我要吃章鱼丸子

遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

& D6 r& p) _9 Z! t

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

2 m/ W& d* v( ?1 T; G4 J/ S( C4 A7 [
二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

　　遗传算法有3个最基本的操作：选择，交叉，变异。

3 S" ^! T2 u( t7 ]# U' m( n$ j7 y

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

[url=][/url]
轮盘赌算法/*
* 按设定的概率，随机选中一个个体
* P表示第i个个体被选中的概率
*/
8 h; F9 E0 a, \0 a- @) Fint RWS()
# u* J/ `+ B5 d6 |0 f: g{
m =0;
r =Random(0,1); //r为0至1的随机数
for(i=1;i<=N; i++)
6 l. I/ O7 I4 Y, y+ p5 U, D{
/* 产生的随机数在m~m+P间则认为选中了i
0 U, \4 ]  W1 v( u. L3 b( h7 ?* 因此i被选中的概率是P
9 N1 {7 Y) D1 l% p7 T" H% _3 c*/
m = m + P;
2 U4 o! T3 n8 C7 W- _if(r<=m) return i;
}
7 Z! o* I$ [- c: H0 d$ J}
8 ?/ k) q' D- b  b4 ]7 p7 X
[url=][/url]
* O+ ~& ~8 `4 w5 {

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

8 y" s. Z3 S' }三.基本遗传算法的伪代码
4 W. ?* R" f; D7 O' ~/ L2 d
$ T- A" Z# O. f. j7 F$ t- ~[url=][/url]
基本遗传算法伪代码/*
: `; u- P( r1 E3 D6 G3 b* Pc：交叉发生的概率
* Pm：变异发生的概率
6 Z9 J2 v- F: W8 V* M：种群规模
* G：终止进化的代数
* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
) W" L9 A/ U4 S  S+ _$ W*/
. i" c! O# \* \4 A7 w初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop

  F. N3 f, u/ Qdo
{
! F+ e3 ^4 r8 U0 G/ w3 m　　计算种群Pop中每一个体的适应度F(i)。
　　初始化空种群newPop
　　do
　　{
　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
3 }! i) h% U6 w* M1 u" t　　　　if ( random ( 0 , 1 ) < Pc )
* y$ v# u9 R$ t. z6 F3 ~& v　　　　{
- P; V5 u! z# w$ }　　　　　　对2个个体按交叉概率Pc执行交叉操作
9 y; N, r# A: S8 V　　　　}
　　　　if ( random ( 0 , 1 ) < Pm )
3 E2 H" r6 P! ?9 ~　　　　{
　　　　　　对2个个体按变异概率Pm执行变异操作
　　　　}
* W  z  U' k% e# f* U将2个新个体加入种群newPop中
2 H8 V; [$ ~! j. M" j} until ( M个子代被创建 )
用newPop取代Pop
}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )
+ u6 E" }5 s, K" W. `; y

; u$ }& N+ F! J9 A- F; f3 v# I# M[url=][/url]
0 {! r+ r  i" l

0 l, t  r# ]8 ]# G$ R
四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

' e2 O) N& s9 y  ^

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

图1. AForge.Genetic的类图

6 {8 s! x* @: O* i0 d9 H7 y( \
/ ^1 e  J  F" t

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

+ }* i: k/ z( q0 P+ e* p[url=][/url]
13042312
36391315
2 S. b: y8 _  b% w4 P41772244
* ~; d* P/ n& e2 O: ~* W37121399
34881535
33261556
( e. w# J0 }2 x32381229
41961004
4312790
4386570
% M$ }3 s! E' ]+ H, c! {: v30071970
25621756
27881491
23811676
9 i" ?+ L/ q. ~1 W+ Z1332695
37151678
39182179
40612370
37802212
$ l$ ^: f+ j" m' Q  V1 @+ Y& V36762578
% _& s% F( Y2 ~% ~4 W7 p6 J; ~$ @* {40292838
- w2 J: S# G2 |% v$ @42632931
7 Y) M$ i% n" @' E2 a. B34291908
* q8 z$ O* s8 M( ~6 Y35072367
: _# ?# \- Z/ R% _, Q33942643
34393201
29353240
9 M& S( l2 o* C7 w$ N- H9 C31403550
25452357
27782826
23702975
[url=][/url]
4 z- \/ l+ X- ]5 E* X

, X) b# M6 t: e8 Q' f  [

: A* d: \3 a8 r; k" T6 [

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

[url=][/url]
; k! a" d; D9 }+ A, R. QTSPFitnessFunction类using System;
6 B. D4 E& R9 a4 Jusing AForge.Genetic;
; u/ g# O3 P$ ]$ Q6 a
namespace GenticTSP
{
. d) c! ?: `) X- X3 L% j" a9 H///<summary>
' b. S/ q5 w7 k# z9 y/// Fitness function for TSP task (Travaling Salasman Problem)
///</summary>
; ~1 O, C: B3 m. K. R, ypublicclass TSPFitnessFunction : IFitnessFunction
{
// map
privateint[,] map =null;
) R( u# o- o! Z/ j& O
# }0 ^5 _/ `; C; O8 E// Constructor
public TSPFitnessFunction(int[,] map)
! ~7 Y5 z; o+ y7 Q9 K2 e6 U{
this.map = map;
7 Y/ }: H/ P3 B: y$ s}

" A. r5 h3 I; a& B///<summary>
/// Evaluate chromosome - calculates its fitness value
///</summary>
publicdouble Evaluate(IChromosome chromosome)
{
0 R/ q6 z) g7 [( h% e! Vreturn1/ (PathLength(chromosome) +1);
5 n: ?+ P) g+ V  w( I' c}
0 h0 b4 r# E) }9 R5 j
; w, l# B& H2 x0 k2 J2 E///<summary>
7 w( i1 u) t3 k. `! p% _/// Translate genotype to phenotype
///</summary>
publicobject Translate(IChromosome chromosome)
{
- L: J5 i1 A6 \return chromosome.ToString();
8 n+ N$ T" f5 U}
1 t& w3 s, I% U5 A6 g5 X' m
# V2 K" S4 E5 ?% r7 B) d  F7 x///<summary>
/// Calculate path length represented by the specified chromosome
! o6 G. b+ |6 D' U" ^///</summary>
, R, c1 ?- |$ d/ epublicdouble PathLength(IChromosome chromosome)
{
// salesman path
ushort[] path = ((PermutationChromosome)chromosome).Value;
* W% g, V! o4 M: T( _
/ Y( `& J& r- O; F* S0 [! E// check path size
5 y( d3 S8 i) P7 qif (path.Length != map.GetLength(0))
9 t/ g" c. M8 D: h8 Q3 L3 S/ x{
2 `6 S  U: q7 K: fthrownew ArgumentException("Invalid path specified - not all cities are visited");
}
4 g1 g+ z3 O! M- t4 _! G- P3 L; Z
0 F6 [- q" t2 O% s6 ?& H// path length
9 j3 C7 E" r8 [int prev = path[0];
int curr = path[path.Length -1];

// calculate distance between the last and the first city
double dx = map[curr, 0] - map[prev, 0];
double dy = map[curr, 1] - map[prev, 1];
. A4 v, H! S2 X- ]/ {double pathLength = Math.Sqrt(dx * dx + dy * dy);

// calculate the path length from the first city to the last
for (int i =1, n = path.Length; i < n; i++)
# N; S2 ]+ w% ?! h2 {{
6 u3 u7 C8 ?6 p5 U// get current city
curr = path;
, y, R8 P) r4 P8 X/ n9 N/ Q
- v  I2 B" L" i9 _: K// calculate distance
: B6 K$ D7 a+ F* _' s; Vdx = map[curr, 0] - map[prev, 0];
dy = map[curr, 1] - map[prev, 1];
pathLength += Math.Sqrt(dx * dx + dy * dy);

// put current city as previous
prev = curr;
0 D  L2 u, g9 r}
, G* b. Y( r! h  @: Y3 G
return pathLength;
}
}
}
6 l3 @# ~; n  ^5 i4 {( s' f
: Y7 q# T0 ^! p4 s
) o) b. A0 m* a& k6 o5 F& b4 Q[url=][/url]
. N. e% I+ O. a$ N' j* G$ y

  A8 ~, a) N5 C+ Y6 U/ i+ G
- w4 F9 v% a; X! W' C4 e+ [' M

   (5) 添加GenticTSP.cs，加入如下代码：

' z1 `" n. Q5 S( x  _[url=][/url]
GenticTSP类using System;
% {$ f4 Q: T7 D7 `using System.Collections.Generic;
( p5 |3 \) d8 @& S3 rusing System.Linq;
using System.Text;
4 f# J: E& I. Y/ h! b5 q  ^using System.IO;
  H; a+ ]8 k) r
6 N' h' Z) x4 tusing AForge;
using AForge.Genetic;
6 c: N5 R7 O: X3 w# _
* O4 Z2 k; w9 F% w8 r* o4 j
namespace GenticTSP
7 h1 L: r4 z' n. {0 U' d" ~8 B{
class GenticTSP
' ]. u( y1 |3 e! O( d3 P# a8 J{

- g! y  U0 n" Z  \staticvoid Main()
{
StreamReader reader =new StreamReader("Data.txt");

- J  S: a4 f0 E& e9 m% \4 kint citiesCount =31; //城市数

0 A7 x5 D0 w4 E' G( m! I, Q6 t* ~int[,] map =newint[citiesCount, 2];

" V: V. C2 Y* [+ f' g- O& R% Cfor (int i =0; i < citiesCount; i++)
3 }  t( ?+ a/ Q1 O{
string value = reader.ReadLine();
) c1 C! L8 s3 r4 kstring[] temp = value.Split('');
' Q1 P+ D* j) d; n+ ?% g/ v( S1 Fmap[i, 0] =int.Parse(temp[0]); //读取城市坐标
5 A# t7 K* t- p/ P9 a9 l3 c, M% `map[i, 1] =int.Parse(temp[1]);
# h* d# K. L0 v1 U}
4 L8 v$ C8 d$ {: q( y0 a
9 E- h. Y$ u7 ?) l5 r$ i// create fitness function
TSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);

int populationSize = 1000; //种群最大规模

( V3 C: e: w4 P5 B' U. N  `/*
4 k# ^9 j0 o1 A* 0：EliteSelection算法
2 y( l: w4 Y$ y" t# z) U0 B* 1：RankSelection算法
* 其他：RouletteWheelSelection 算法
  J& K4 H+ _2 a3 F* */
int selectionMethod =0;
8 q8 n. }3 B# l% k& V: ~
// create population
: |4 {9 ~* O6 zPopulation population =new Population(populationSize,
# t: C* T7 r, ^5 }# i) U, s3 l5 h; P- a& Gnew PermutationChromosome(citiesCount),
fitnessFunction,
/ C. U5 G1 u  F' \(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
5 t$ }8 D6 {0 q) s& X(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
/ \3 T& ~% N5 `- ^( ^+ D(ISelectionMethod)new RouletteWheelSelection()
2 @% V2 }' u4 \);
+ v$ t2 o9 J! n
// iterations
int iter =1;
int iterations =5000; //迭代最大周期
2 I" H: h9 m: s3 r+ m8 j* M
# Q& c5 s- j$ ?4 r. c" O7 h8 V// loop
5 j, `8 X, }: o; n" a- e9 B* ewhile (iter < iterations)
{
5 c8 `3 a) F8 }+ m2 o, S// run one epoch of genetic algorithm
population.RunEpoch();

// increase current iteration
iter++;
3 N# L/ t2 q: B. N6 M3 e}
" V1 f" Q9 L3 S! P( r
System.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
' u, C- Z# T2 U: K) x  N: WSystem.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
' s' I0 V" x/ d  |  `  ZSystem.Console.Read();
3 S3 P/ o) D+ i. i4 E
9 _6 e8 G% z# H# y/ |}
- o# [! _4 I& Z/ R0 w}
}
: ^' `) ?! o% J; e" I, I7 g
% W- O! q2 {5 i: s- B( w
7 p: c2 ~  U# s9 ^4 f, m- q[url=][/url]


5 `6 _+ R  R' y; U1 Q* Q  w
. o# R5 }0 ^4 d6 M

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

; u% N3 {1 D' G# t% ^2 K+ y
) H% ^) U  E$ U; H1 x3 I+ U
: v, h2 _8 F' j& Z$ `