【转】优化算法入门系列文章目录（更新中）

我要吃章鱼丸子

遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

, e- d$ S* t! ^4 ^+ Y) \. f9 u一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

  M1 r# M! N3 T) }  h

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

2 @9 e4 S0 z9 `% M二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

: t" v/ [0 V& F( g8 ]& e" }

　　遗传算法有3个最基本的操作：选择，交叉，变异。

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

[url=][/url]
- Z" @" }& w4 J! [& p轮盘赌算法/*
* 按设定的概率，随机选中一个个体
* P表示第i个个体被选中的概率
*/
int RWS()
$ g" H. P/ s8 I; ~5 ^( s{
% ~2 F& P& u5 K0 r1 w( um =0;
- J4 ^% [6 e) V4 ~( [, Gr =Random(0,1); //r为0至1的随机数
8 M  c" M; x; e1 v5 Tfor(i=1;i<=N; i++)
{
3 U6 m- n1 e& ?' }# _* X: B/* 产生的随机数在m~m+P间则认为选中了i
  p/ p5 T% \1 W5 c3 Z' Z* 因此i被选中的概率是P
*/
m = m + P;
) U! R& @5 e- w5 Y2 {if(r<=m) return i;
% `5 B5 B0 U- A  M}
}
+ R7 G& [8 b& N- B. Z5 L
# `/ W% M) X* I3 s1 s5 `: H[url=][/url]


9 g* O" A+ t3 W# X7 ^+ w

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

2 {/ a* k' i: j4 N/ `6 {' @2 \
' \  {2 c+ s2 r) N三.基本遗传算法的伪代码
6 k* Y' ^0 w/ O/ p8 d) N) |4 q
  c7 j: }' ]% T! b[url=][/url]
0 @& H1 T. b" o) F; h+ ?6 {- I- \4 T基本遗传算法伪代码/*
& j) v% @6 B7 p0 B, g& u* Pc：交叉发生的概率
0 _) m  v- e# Q+ V6 ~0 \5 O  S/ z* Pm：变异发生的概率
* M：种群规模
* G：终止进化的代数
* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
*/
初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop

$ b: ]+ m/ b' m- wdo
{
　　计算种群Pop中每一个体的适应度F(i)。
　　初始化空种群newPop
! S. d" z3 g/ _3 t% q7 U2 @/ k　　do
9 Q+ u4 M$ ~+ P　　{
　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
8 S+ o6 X1 h: a, g6 X　　　　if ( random ( 0 , 1 ) < Pc )
　　　　{
　　　　　　对2个个体按交叉概率Pc执行交叉操作
　　　　}
　　　　if ( random ( 0 , 1 ) < Pm )
( o9 l& H6 Z( _9 e; A9 D- S　　　　{
　　　　　　对2个个体按变异概率Pm执行变异操作
5 f3 Y* {+ V% r- Z7 t　　　　}
将2个新个体加入种群newPop中
  i3 {2 B, E8 Y# e# v9 W} until ( M个子代被创建 )
, R1 ]; D' e6 N; c4 P: {用newPop取代Pop
}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )

6 K" X+ {0 q! H
. @) b' P2 ]$ n+ t8 o[url=][/url]
# l% Q% V3 s, k
; v$ T7 o7 g  U7 N0 q; k1 |- u0 |" W

四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

' n' `4 U+ ~1 U

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

: u4 e7 G; Z+ N  ]

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

: L7 H/ U9 C, p: a. C

图1. AForge.Genetic的类图

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

; g3 N; z+ F- C[url=][/url]
% C( B# D- O& @" B! w3 A) C+ S8 h13042312
; E: {) s! ]/ e# F36391315
) L6 a5 s6 f/ x  G$ s; D# {41772244
% P& \( x2 \  ^; b5 I# a37121399
34881535
33261556
32381229
" Z. k% D" U# |9 y7 ~: ^8 Z6 H& S41961004
4312790
4386570
30071970
1 x8 D+ M& K' D2 q, C25621756
27881491
23811676
1332695
37151678
39182179
40612370
4 q' ?8 A$ Q' v, O37802212
36762578
$ n, r/ E) z* `, ~* B40292838
42632931
34291908
35072367
- L; V0 k! G8 u$ t' ?9 t6 _/ Q6 k33942643
34393201
3 j- w) P8 J1 G. e29353240
31403550
: `6 z5 p$ [! y8 X' M9 N0 R* x25452357
27782826
/ W0 q0 m( X8 f4 M) A23702975
[url=][/url]
: @- w! Z' Z9 [! l& D9 A  }/ O" a

) q( d, F$ U& F( R) e
; P5 H1 @7 l/ m+ h! F3 k" W
. {" r/ V/ e  x7 C) m# f

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

[url=][/url]
TSPFitnessFunction类using System;
using AForge.Genetic;
1 Y7 h7 F5 D9 c" s( }
' I  x" j1 l3 v5 b- K7 Rnamespace GenticTSP
{
///<summary>
" J" `+ `& p. x( ~/// Fitness function for TSP task (Travaling Salasman Problem)
///</summary>
publicclass TSPFitnessFunction : IFitnessFunction
{
5 x9 v7 k: N3 B' C6 ^* ~, P9 m! a// map
$ r$ I7 D+ _. V( s4 r! E+ V; C% z* ^privateint[,] map =null;

// Constructor
5 p" e4 b$ r+ D+ D4 N8 M+ s4 Qpublic TSPFitnessFunction(int[,] map)
% H0 Q1 e4 E) J% v4 @8 B9 ~{
' [9 w$ t- G* \  Xthis.map = map;
5 f1 B, h3 \, f}
" \1 p8 Q" O4 W) ]  c7 D* H) |
///<summary>
) W& d! @, k9 l) C. y9 L/// Evaluate chromosome - calculates its fitness value
! P! z4 m$ p* Y- w; u///</summary>
publicdouble Evaluate(IChromosome chromosome)
{
return1/ (PathLength(chromosome) +1);
8 r+ r' ]8 x( V/ a" Z+ s1 L& x}

///<summary>
3 D' }8 K  j! ], W/// Translate genotype to phenotype
1 e) w7 H0 e7 O" D5 G" S///</summary>
, F7 l; |* Z+ zpublicobject Translate(IChromosome chromosome)
4 o% v% U8 \% g  e0 x5 A{
return chromosome.ToString();
8 P5 w4 `; c) g: p& ?  P* f}
0 u% U9 ?- ]4 r! g& c1 t% O) g2 b
$ f/ }$ @1 n$ ~$ M8 x) y, p! T/ G' X///<summary>
0 m8 j) P  T% @* I/// Calculate path length represented by the specified chromosome
///</summary>
publicdouble PathLength(IChromosome chromosome)
/ E1 v' N, R9 ]# I{
0 D( B7 b( x6 k// salesman path
ushort[] path = ((PermutationChromosome)chromosome).Value;
0 Y8 ~6 P7 o2 {
+ R% S) `  r7 s// check path size
; D3 M3 K! Q: O- n* `/ D( z4 Pif (path.Length != map.GetLength(0))
8 p5 m0 ?0 V5 D{
thrownew ArgumentException("Invalid path specified - not all cities are visited");
}
: U4 c3 A1 k3 `- K* q) Y7 P* M
! u7 J1 Q5 ~7 S/ _// path length
int prev = path[0];
int curr = path[path.Length -1];

0 k, G& y- s3 [2 A  ~; o. U! z# r// calculate distance between the last and the first city
double dx = map[curr, 0] - map[prev, 0];
& z! d% i* d2 Q7 W, Edouble dy = map[curr, 1] - map[prev, 1];
double pathLength = Math.Sqrt(dx * dx + dy * dy);

* p- A* l( [* s3 p% P$ ?% w// calculate the path length from the first city to the last
* E* n# K' ^# ~3 k  L8 S$ N4 Yfor (int i =1, n = path.Length; i < n; i++)
* ^3 h$ c. n* |/ Y; H' q{
// get current city
curr = path;
: u. ?9 Q  l# z% `  c0 e) J; Y
  X6 z$ p, H6 S! @// calculate distance
dx = map[curr, 0] - map[prev, 0];
dy = map[curr, 1] - map[prev, 1];
pathLength += Math.Sqrt(dx * dx + dy * dy);

// put current city as previous
prev = curr;
: W$ _+ G, ?/ g  h5 X}
1 {" v. g/ p* y, O4 F' l: v7 C
return pathLength;
}
}
9 M, x- ^' V/ J2 V2 U}


7 G8 d1 L8 [- |0 }& c" n0 q: p: S[url=][/url]

( T" N* y5 Y9 X: ?% N
0 t0 K9 }  m1 ^) m$ H
! |7 ^! v, E% o# j! Q! c

   (5) 添加GenticTSP.cs，加入如下代码：

[url=][/url]
GenticTSP类using System;
. y9 p( ^; X" I5 Musing System.Collections.Generic;
using System.Linq;
using System.Text;
using System.IO;

& G. a/ V- a4 D4 p" F, o& Gusing AForge;
using AForge.Genetic;
1 r4 V. N4 q2 c. ^1 v* U8 d+ c

$ x" n* M* Y- z1 s+ _" `* `3 Dnamespace GenticTSP
{
class GenticTSP
7 [  i' A, e; o1 u) r8 e+ [  a) [{

; x# H0 ?# S! U3 e3 Jstaticvoid Main()
{
StreamReader reader =new StreamReader("Data.txt");

0 I0 H1 k. e( o% E4 u: v3 ~int citiesCount =31; //城市数
. s) Z0 k2 E6 U! I# R. O; ?/ {
2 Q6 ~3 H% F- V' H2 Rint[,] map =newint[citiesCount, 2];
6 a+ }# X* M9 Z, Q. ^
- W0 }  Z! ]1 e# ^/ n4 @) t$ sfor (int i =0; i < citiesCount; i++)
{
- k! |" R( Q, E9 T6 {3 tstring value = reader.ReadLine();
string[] temp = value.Split('');
map[i, 0] =int.Parse(temp[0]); //读取城市坐标
( D5 x. `2 M; k& J% Imap[i, 1] =int.Parse(temp[1]);
9 I) [# q. n' V8 ^: v2 Y2 ~}

// create fitness function
8 }( q# _, H$ n; ?2 H) c1 h4 vTSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);

/ W6 u1 l" V0 S4 v( @1 c/ |, G! rint populationSize = 1000; //种群最大规模
' R' Z5 Z% n0 |6 Y
/*
8 l+ @4 B0 Y5 Q: W: K4 l6 v* 0：EliteSelection算法
: Q' V$ p; I& S0 \6 M* 1：RankSelection算法
* |, f0 P3 B. J* 其他：RouletteWheelSelection 算法
* */
int selectionMethod =0;
; x; w. L9 c: M3 \7 `
// create population
Population population =new Population(populationSize,
3 b  B5 z; ~2 X( y# Nnew PermutationChromosome(citiesCount),
  M* h. }- |( D+ Y" S0 EfitnessFunction,
% o9 y5 x1 S" L' L0 o- D(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
2 ?5 [8 X5 d. }( N(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
4 f# z8 k" o6 w1 L. H" p- T5 S3 j(ISelectionMethod)new RouletteWheelSelection()
$ H. Z' b/ j7 I/ G);

// iterations
int iter =1;
int iterations =5000; //迭代最大周期
) v- `3 q7 F# f3 `2 [6 N9 y8 m, T; M
// loop
while (iter < iterations)
{
// run one epoch of genetic algorithm
population.RunEpoch();
! j' c2 E# ]: z& T: n- D# W
; f4 L, q7 G9 x- f5 ?/ u2 A// increase current iteration
% x. z  l  ^2 o" U  |iter++;
! C. u& w8 d) l7 H1 B}
+ X5 R- t! a  l; p' U* w1 _) C$ w
System.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
System.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
: z3 m% |& {. J; e, bSystem.Console.Read();
) X" h" c6 _/ K# `  }9 Z- M+ x6 d
}
/ ?& A# }, v; p7 R}
" r' @. Z4 x0 o" n}

+ z" Z) M- J1 M7 ^* `5 Z  R
[url=][/url]

' {% z+ O9 `4 A4 |. s7 F
: }3 W6 b! d: g0 e: |

. C$ [9 A3 {' h$ N1 S; T# V

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

' _2 {7 R: @  x! R! g; I5 b! v( M% E5 i7 E


. k) Q3 Y& t8 n1 e8 X