【转】优化算法入门系列文章目录（更新中）

我要吃章鱼丸子

遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏

7 C6 z+ ?8 }0 D: ~( y" V

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

0 V* A3 V! ?1 I7 y" U7 O& e
一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

, a; s% I! ]6 |6 m& H

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

4 m6 J5 l1 g' `# d) T8 y, Y

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

$ J3 C* x0 i6 T: V4 x3 N- e

　　遗传算法有3个最基本的操作：选择，交叉，变异。

7 A; f8 n# u" B6 [

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

# g7 M. Z/ a# S8 \1 q2 {; h: H[url=][/url]
轮盘赌算法/*
3 n/ S& _4 G1 {( m6 ~* 按设定的概率，随机选中一个个体
- U1 a0 [1 y" P7 R$ D* P表示第i个个体被选中的概率
*/
, |4 \6 U9 B  T: t8 t2 W" Hint RWS()
{
6 s, i( t" ~6 ~1 B* mm =0;
r =Random(0,1); //r为0至1的随机数
for(i=1;i<=N; i++)
6 v' ?$ o1 Y# J! j! C$ j, c( A{
/* 产生的随机数在m~m+P间则认为选中了i
2 `* r+ g0 \. D* y; E1 K* 因此i被选中的概率是P
*/
m = m + P;
if(r<=m) return i;
2 a* M- z% ?# S- ]: T" q& d}
6 K. B2 `  X6 `0 D# S- A; M" U5 ^3 X}
5 |0 B2 d+ V+ V5 m) _1 N
[url=][/url]


4 Z8 a2 _' F) V: R- l

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

: y4 F7 X% F# F3 `- F
/ D4 k/ T, _* A  j# l- ]三.基本遗传算法的伪代码
: K8 J3 ]9 n3 G3 m. g& r. y
' r3 U/ h6 y7 X. ^& k0 y; Z[url=][/url]
4 M2 g3 k8 M  k) Z# ~7 n1 h基本遗传算法伪代码/*
  f/ ~  H' l) R/ g! c* Pc：交叉发生的概率
* Pm：变异发生的概率
* M：种群规模
+ I+ k" @# R( M2 a- a6 i9 f9 ~! s* G：终止进化的代数
/ W: J5 e% m  v' H) J3 V! w* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
*/
初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop
7 \7 P, b  o8 y/ ]7 _: D
do
8 k$ L- g9 m9 l{
　　计算种群Pop中每一个体的适应度F(i)。
　　初始化空种群newPop
" \, ?4 _- m6 c4 g　　do
　　{
　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
　　　　if ( random ( 0 , 1 ) < Pc )
! i8 @( ^  o3 @$ N* c: [　　　　{
9 `8 Y) O8 c2 ~+ s& t　　　　　　对2个个体按交叉概率Pc执行交叉操作
　　　　}
　　　　if ( random ( 0 , 1 ) < Pm )
　　　　{
　　　　　　对2个个体按变异概率Pm执行变异操作
　　　　}
* L3 w$ `9 v8 O' H将2个新个体加入种群newPop中
} until ( M个子代被创建 )
: p8 @$ _( K+ Y. t  p用newPop取代Pop
}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )


0 P; m) [$ Y+ w2 I6 F[url=][/url]
/ d2 R* H  G, {" B% d

% f5 V) F1 ^* ^7 Y4 V# I1 S+ \- i
四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

) i$ M7 X4 |5 w+ k" g

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

* a. v5 Q* m8 f3 Z6 V/ o

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

6 P( F8 ~# l0 w

图1. AForge.Genetic的类图

/ m* M  J9 h8 g( V1 {+ ~2 m

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

6 F7 L/ A5 O0 W6 |/ Q[url=][/url]
13042312
8 L; [% T; n% n. \) k36391315
41772244
37121399
' x6 Y8 A1 u4 t$ ]4 Z! [/ a34881535
* L* z* G5 X0 b* b# Q8 Z3 e$ s33261556
32381229
: ]5 i2 s' a4 H41961004
& t3 Y# R+ V# r1 t5 n" b/ v4312790
4386570
30071970
0 H; t9 Y* b9 {2 H25621756
/ F  g+ c) ^9 Z0 i; X1 y0 p27881491
23811676
2 \  u3 ^3 U3 c- ~7 Y* s3 i1332695
! {6 ^8 B" a& R3 A37151678
39182179
, c/ C* O' y+ {2 V40612370
  F) L* ~/ @3 t37802212
36762578
40292838
) Y) q4 L" i: M. x) n42632931
34291908
( ~, @+ ^1 S. N2 X4 H) q" o0 ~; n35072367
8 G# P+ \/ t& g# d% C5 U3 g( |33942643
34393201
29353240
! }* k$ P+ |5 {, m" ?2 z4 C31403550
4 H# M; C! y  R; Z( W( Q8 R25452357
* \' C, @; [2 P: ~27782826
$ d7 L' `5 ]  |7 z$ y; Q. V' P23702975
[url=][/url]
* ~/ j7 o; A$ {6 G( _% V, |
3 C/ Y; P( K3 c+ P- Q5 D
) L+ ?, f4 S+ l. Q5 I

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

[url=][/url]
8 m$ {! g% X$ g- D: X3 GTSPFitnessFunction类using System;
5 H2 I9 }& L) {$ x$ a, busing AForge.Genetic;

namespace GenticTSP
) Z2 x6 L/ F: h' A. z( @" i{
  u% p+ i& J# {///<summary>
, V2 i# ^* R! S8 d3 y& U/// Fitness function for TSP task (Travaling Salasman Problem)
///</summary>
publicclass TSPFitnessFunction : IFitnessFunction
{
* q& o/ r2 C, W+ W// map
privateint[,] map =null;
/ P: y# T: ^8 z$ }& V! w6 f
// Constructor
public TSPFitnessFunction(int[,] map)
{
/ }! N/ z9 t# n4 qthis.map = map;
}

7 g: U* ~/ Z5 E/ w: e///<summary>
9 d" _* T; o, b' f% ^/// Evaluate chromosome - calculates its fitness value
///</summary>
publicdouble Evaluate(IChromosome chromosome)
{
return1/ (PathLength(chromosome) +1);
}

///<summary>
/// Translate genotype to phenotype
: _5 G. Z8 ^% z; X2 \1 L, @5 ~+ p///</summary>
publicobject Translate(IChromosome chromosome)
{
return chromosome.ToString();
}
+ }2 R" a( ?$ s, L$ w# w# T. a; u
& Y- r, H  t  E5 o( }///<summary>
/// Calculate path length represented by the specified chromosome
///</summary>
publicdouble PathLength(IChromosome chromosome)
" f. a0 J, b6 X+ P{
// salesman path
ushort[] path = ((PermutationChromosome)chromosome).Value;
( Y- e4 J9 e# N' l+ c8 R
// check path size
if (path.Length != map.GetLength(0))
9 D2 c% t3 V6 h" ^$ U. k3 E{
thrownew ArgumentException("Invalid path specified - not all cities are visited");
}

// path length
int prev = path[0];
$ B0 @% ^0 k1 r2 Xint curr = path[path.Length -1];
3 R' t+ P; v. m
1 T. n* v5 O; d. M0 y* H// calculate distance between the last and the first city
double dx = map[curr, 0] - map[prev, 0];
: R( g  Q9 ^$ |double dy = map[curr, 1] - map[prev, 1];
double pathLength = Math.Sqrt(dx * dx + dy * dy);

9 j' l, {% F6 y1 p5 \// calculate the path length from the first city to the last
for (int i =1, n = path.Length; i < n; i++)
/ X6 \! o$ B2 Z2 \% V{
// get current city
9 ~% H2 c/ m7 J: A# U' rcurr = path;

, h$ ?; c6 E- z6 O* }- ?2 z# P' E4 F0 Y// calculate distance
dx = map[curr, 0] - map[prev, 0];
; y$ ?+ B6 W4 B/ qdy = map[curr, 1] - map[prev, 1];
, p* f5 `& Y; ?$ B% Q% R* IpathLength += Math.Sqrt(dx * dx + dy * dy);

$ c: d8 D7 R7 P9 g7 v; b// put current city as previous
9 ?) r9 ~% t# J! jprev = curr;
}

return pathLength;
}
}
}
0 w+ d' |1 ?+ w: V. R

[url=][/url]

/ ^. d* O  \$ f# C' D+ K9 `
: r& k5 ]/ J) f6 U3 v
6 `, o3 s5 w( E

   (5) 添加GenticTSP.cs，加入如下代码：

[url=][/url]
GenticTSP类using System;
! Q1 M( D, o$ l# Lusing System.Collections.Generic;
% f9 x8 K3 F% g* \, V5 Q* F8 Ausing System.Linq;
7 s" w7 k7 V( T3 k7 U6 `using System.Text;
using System.IO;
1 D. [- w' x8 i1 z* I+ o0 b
3 s- P" _$ B+ p; N* h* i' _% eusing AForge;
using AForge.Genetic;


namespace GenticTSP
{
class GenticTSP
  v7 Q7 C2 E* @{

" Q. H4 K" V/ C7 l8 v4 D7 hstaticvoid Main()
: K  \6 I9 E2 x! k# X{
3 M& u$ Y2 e8 V% M& \" n* }StreamReader reader =new StreamReader("Data.txt");
& u+ d( H2 s! i6 g& ?
& P' Z# L6 C) cint citiesCount =31; //城市数

1 u7 `3 i; [: [  Nint[,] map =newint[citiesCount, 2];

for (int i =0; i < citiesCount; i++)
{
string value = reader.ReadLine();
string[] temp = value.Split('');
map[i, 0] =int.Parse(temp[0]); //读取城市坐标
" Q  H/ ~+ T6 [" Y* y0 Omap[i, 1] =int.Parse(temp[1]);
% n. u* [7 V" q1 J, u8 B/ k( m}
: C1 X, i: x( l& Y% c  C
// create fitness function
TSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);
" e& ~5 y( g/ G( Q
9 a/ L. X2 A8 {& h0 `$ xint populationSize = 1000; //种群最大规模

/*
* 0：EliteSelection算法
/ x/ P* S, O, w& V" C- _$ m* 1：RankSelection算法
* 其他：RouletteWheelSelection 算法
8 U5 ~" k- _4 |: _& A* */
2 h5 v  ?  X  f5 w" t3 h! uint selectionMethod =0;

" L# ^6 t" J' N0 S5 h2 e// create population
Population population =new Population(populationSize,
new PermutationChromosome(citiesCount),
fitnessFunction,
! O. P- n; _( z2 d; S(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
4 s2 c' y0 I( r$ e/ B(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
(ISelectionMethod)new RouletteWheelSelection()
);
* P3 C6 a% [) ^
// iterations
int iter =1;
! `8 h) b4 e" a& k6 ]int iterations =5000; //迭代最大周期

  M/ g* h5 Y+ T0 I+ `// loop
while (iter < iterations)
' k4 W$ g  n$ N5 L1 K, V{
// run one epoch of genetic algorithm
/ ]. m' i" ]# o6 n* d4 Rpopulation.RunEpoch();

// increase current iteration
iter++;
}
; F, Y7 F; l$ D3 X* n. Q% }+ F+ F
System.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
System.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
* c& b$ I# c/ ^4 j' d/ PSystem.Console.Read();

3 q) `% A) v6 Z}
, y- E- X' l1 \* U" }}
}
; U2 `# `/ s7 q* h  w) _
4 Z5 z$ C, q& {# G7 W4 C+ X, E. k
[url=][/url]


+ F1 O. P! x- Z5 m
8 b* R( _3 Q  w/ t0 |
2 C) C! G1 O7 J2 A  S

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

1 a; [$ O1 H9 ]; x: p) }

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

4 H& a0 S; g$ e4 v