【转】优化算法入门系列文章目录（更新中）

我要吃章鱼丸子

遗传算法入门Posted on 2010-12-23 13:12 苍梧 阅读(103275) 评论(39) 编辑 收藏

优化算法入门系列文章目录（更新中）：

　　1. 模拟退火算法

　　2. 遗传算法

原文http://www.cnblogs.com/heaad/archive/2010/12/23/1914725.html

　　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。

一.进化论知识

　　作为遗传算法生物背景的介绍，下面内容了解即可：

　　种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。

　　个体：组成种群的单个生物。

　　基因 ( Gene ) ：一个遗传因子。

　　染色体 ( Chromosome ) ：包含一组的基因。

　　生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。

　　遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。

　　简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变 ( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。

9 u. C9 F" X  u( ]8 n5 K二.遗传算法思想

　　借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。

　　举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取） ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。

7 f+ [7 m* C" X6 R& C2 c1 [/ z% t6 H

　　编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。

# p6 t4 B4 u1 T9 ]; S( Q

　　遗传算法有3个最基本的操作：选择，交叉，变异。

  _& ?6 p+ ]" F% K" z, u+ u

　　选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) + …….. + f(Xn) ) 。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection ) ，轮盘赌算法的一个简单的实现如下：

( E( Q9 E$ V. O- S; B[url=][/url]
3 _9 y4 U$ i+ r& Q! r$ `& W, |5 S7 x. A! o轮盘赌算法/*
* 按设定的概率，随机选中一个个体
; @, K8 B4 c4 k+ k* P表示第i个个体被选中的概率
! i5 E9 E1 t  p# R7 q- [*/
( b4 s6 h! R5 Q6 b6 Y: [8 [int RWS()
& c  E  t, A2 v3 H4 f{
m =0;
/ R( z- Z* j% pr =Random(0,1); //r为0至1的随机数
for(i=1;i<=N; i++)
- j6 b  A. {6 W4 h( p6 M' y) R  m{
) _+ E3 v3 O+ x' }/* 产生的随机数在m~m+P间则认为选中了i
: Z' k2 X8 p3 n2 W* 因此i被选中的概率是P
2 w: b+ X& n" C1 Q* F: G$ I# G) n" g*/
m = m + P;
if(r<=m) return i;
}
7 _; r0 w1 O' U& \8 l}
6 ]* B; P8 \5 r
" G0 r, g3 ^7 H# `6 E[url=][/url]

) R+ |' u5 J6 ]9 q: J1 t, G
1 O( s+ ]. q- t5 G- a

交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：

交叉前：

00000|011100000000|10000

11100|000001111110|00101

交叉后：

00000|000001111110|10000

11100|011100000000|00101

染色体交叉是以一定的概率发生的，这个概率记为Pc 。

* x; T- A. W# y

变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm 。例如：

变异前：

000001110000000010000

变异后：

000001110000100010000

适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。

7 f  b# p4 f! |2 G% `2 d
三.基本遗传算法的伪代码

[url=][/url]
基本遗传算法伪代码/*
* Pc：交叉发生的概率
0 N2 [+ X" ~% Q5 P! f4 o* Pm：变异发生的概率
* M：种群规模
- N; o- d: A# ~" I* G：终止进化的代数
3 I5 `! ?# t7 K5 C0 x* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
*/
# \- s8 k# ?9 Q9 P. L初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop

; g4 v/ v: {* N( h3 s+ V- B9 Wdo
9 Y2 N* S1 \; U) k4 m{
( r+ `( v) ^3 S" d1 I- v% x　　计算种群Pop中每一个体的适应度F(i)。
& l2 o5 L1 G' B7 p$ x( M, ^% M　　初始化空种群newPop
　　do
* v2 ]6 }, D! s3 J5 Y$ M- q　　{
+ z! i2 n5 B5 v7 s4 Y- C. \) ^8 n　　　　根据适应度以比例选择算法从种群Pop中选出2个个体
　　　　if ( random ( 0 , 1 ) < Pc )
　　　　{
　　　　　　对2个个体按交叉概率Pc执行交叉操作
/ f5 o6 S* O4 Q  A0 h　　　　}
9 n+ G1 g% r; K　　　　if ( random ( 0 , 1 ) < Pm )
　　　　{
　　　　　　对2个个体按变异概率Pm执行变异操作
　　　　}
7 Q  f/ l  _$ q+ Y+ b将2个新个体加入种群newPop中
4 j: [6 d/ w5 k} until ( M个子代被创建 )
' Q& a7 {) E2 N! G用newPop取代Pop
}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )
. W% s: T" ]# |2 [
; a/ m" p. p+ y$ D9 n: R2 C
6 Z/ V; A3 J' R6 l* l[url=][/url]

" h6 y. j4 A& g: a$ I7 l$ s

8 z9 m- o; Y5 t! Z  u* y四.基本遗传算法优化

　　下面的方法可优化遗传算法的性能。

　　精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。

　　插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。

五. 使用AForge.Genetic解决TSP问题

　　AForge.NET是一个C#实现的面向人工智能、计算机视觉等领域的开源架构。AForge.NET中包含有一个遗传算法的类库。

% ?+ T5 \( U) O

　　AForge.NET主页：http://www.aforgenet.com/

　　AForge.NET代码下载：http://code.google.com/p/aforge/

) p9 U7 h' n4 I) Z( ?

　　介绍一下AForge的遗传算法用法吧。AForge.Genetic的类结构如下：

4 {/ K% R& Q' v4 y% i

图1. AForge.Genetic的类图

9 V6 d" S" f, R5 X8 x

   下面用AForge.Genetic写个解决TSP问题的最简单实例。测试数据集采用网上流传的中国31个省会城市的坐标:

% d7 t" e' U3 {0 f+ n$ m[url=][/url]
13042312
! t9 S2 O+ x: c5 ^36391315
41772244
37121399
34881535
33261556
32381229
+ p4 b) r7 O5 l& q8 U& Y/ b! g41961004
6 c5 u- P  R5 h0 p6 q2 E4312790
4386570
& C, E0 s* E4 M6 Q6 N) j- U& }' o30071970
25621756
27881491
! e3 g, T( H% E: m% Y; [! F23811676
1332695
37151678
39182179
40612370
37802212
36762578
* s: f2 P0 R# R5 u1 g40292838
  Y4 z' q5 a! X9 ]# B42632931
# L7 J! D  W: I34291908
2 @: \/ U& O) }% X: o35072367
33942643
- |9 E6 \; l) O8 b/ G; N9 s& x34393201
5 H9 v" j( G: E0 S8 Z29353240
; o- {$ S' Z. {$ E& R) o31403550
: F, H+ ?! d. S) l- W# g/ }; S25452357
27782826
23702975
- e* k  t2 S, J2 i[url=][/url]

* x2 \) }5 |5 k  L2 K$ |  S( u0 Q) V

7 `% a; ^$ T' K' l- o, s

操作过程：

   (1) 下载AForge.NET类库，网址：http://code.google.com/p/aforge/downloads/list

   (2) 创建C#空项目GenticTSP。然后在AForge目录下找到AForge.dll和AForge.Genetic.dll，将其拷贝到TestTSP项目的bin/Debug目录下。再通过“Add Reference...”将这两个DLL添加到工程。

   (3) 将31个城市坐标数据保存为bin/Debug/Data.txt 。

   (4) 添加TSPFitnessFunction.cs，加入如下代码：

[url=][/url]
TSPFitnessFunction类using System;
using AForge.Genetic;

namespace GenticTSP
* J/ E/ j3 J  ^3 R{
( G  @( W4 o% S///<summary>
/// Fitness function for TSP task (Travaling Salasman Problem)
///</summary>
2 ^( [3 x) M% k. d5 C# _publicclass TSPFitnessFunction : IFitnessFunction
- {8 b3 d2 F, S2 [{
// map
privateint[,] map =null;

" S, D" W( K$ h7 |$ @// Constructor
public TSPFitnessFunction(int[,] map)
/ U2 _, i' Q& E2 Z4 [1 U{
' x- T; f0 \/ m# ?" C8 athis.map = map;
}
$ B3 ?+ G. q6 j1 d& c4 h
///<summary>
7 X2 A1 {, w! l/// Evaluate chromosome - calculates its fitness value
. s, `; t2 r: X7 S///</summary>
2 q0 H0 l+ [7 T: t$ N5 ^" [6 Dpublicdouble Evaluate(IChromosome chromosome)
{
return1/ (PathLength(chromosome) +1);
}
7 }2 s. A2 K% S' U. G! ~
, Q9 \& e+ Q, ^/ y% q+ o( e2 m///<summary>
/// Translate genotype to phenotype
///</summary>
. q) X- c7 H, k6 x6 C+ Xpublicobject Translate(IChromosome chromosome)
{
$ V" ?0 u6 n. `: e, W3 U) preturn chromosome.ToString();
. k+ ?+ u. M4 r! X}
2 j, j# N5 U: Y! c& c* c
' |4 ^1 s) i  U* X) N///<summary>
/// Calculate path length represented by the specified chromosome
///</summary>
, N- c) w- f' wpublicdouble PathLength(IChromosome chromosome)
2 K& z; x! K4 n# W( h  j" f{
// salesman path
ushort[] path = ((PermutationChromosome)chromosome).Value;
3 J( f6 x4 C/ E  k5 f' t
// check path size
, l4 Q9 m: K/ w/ d) Jif (path.Length != map.GetLength(0))
4 E: R5 a" D' |  h{
0 ?" e( b- g& E! n; lthrownew ArgumentException("Invalid path specified - not all cities are visited");
6 k. R& h% y# X0 |}
( [) m  {& k3 E) O3 |8 k9 `8 g
// path length
int prev = path[0];
( s0 i% z9 l! j4 w: R) mint curr = path[path.Length -1];
, S& h, ^1 Y0 N* n1 N; I$ @0 L
( O9 K& F' s/ C// calculate distance between the last and the first city
) N" A" q# q2 y" ^3 h3 n8 U9 K6 b4 Edouble dx = map[curr, 0] - map[prev, 0];
double dy = map[curr, 1] - map[prev, 1];
  _4 o) {( r! t  idouble pathLength = Math.Sqrt(dx * dx + dy * dy);
* Y( o# V3 e& \/ E
5 P4 C' H6 K0 F/ B5 V8 ~// calculate the path length from the first city to the last
2 }5 A& s; ]5 N6 ^for (int i =1, n = path.Length; i < n; i++)
{
// get current city
curr = path;
3 ?* e  {1 S) z' S7 r; Y2 M
// calculate distance
dx = map[curr, 0] - map[prev, 0];
+ g# t' ^9 M+ `dy = map[curr, 1] - map[prev, 1];
/ S0 w# K" w3 W- j, Y2 H, s6 I5 ?8 MpathLength += Math.Sqrt(dx * dx + dy * dy);

// put current city as previous
2 E$ q  s! j( mprev = curr;
0 k/ ~- s+ L: x* X- Q$ w}

( P  t+ j$ k( c3 l* greturn pathLength;
! a5 b. T9 Q! W' U0 S6 p- f4 ]}
8 o$ Q$ f2 x' g% s+ A. ?2 C* f}
+ D8 w- V' }) o. I/ ^# ]% l% Y6 D}
( `; a1 `/ j6 k( H+ t5 S4 u
7 Y7 Z; P/ E: Z
1 [" A5 N: Z+ ~9 F[url=][/url]
% \4 Z4 j9 w" P* z3 }  {; K
6 Z* M9 b; t0 B' n( o" u

   (5) 添加GenticTSP.cs，加入如下代码：

[url=][/url]
3 |( L8 s/ r" Y8 X7 B$ @GenticTSP类using System;
, n, F6 g! L& \. {) f$ o2 T' ousing System.Collections.Generic;
+ I2 A+ f( E9 c1 Iusing System.Linq;
using System.Text;
using System.IO;

using AForge;
  K7 O  a  u, Xusing AForge.Genetic;

9 N0 w/ G+ |: Z# h7 }# b
namespace GenticTSP
; y6 E+ P: V8 z* @- k' w- S{
class GenticTSP
{

2 o4 j& ~( t3 o- E; N4 n& [staticvoid Main()
) c* W) H7 o+ |) C, A{
% [1 M* D0 K1 YStreamReader reader =new StreamReader("Data.txt");

int citiesCount =31; //城市数

int[,] map =newint[citiesCount, 2];
+ _% J- O, v2 D0 K0 Z# ?
for (int i =0; i < citiesCount; i++)
. ?! E* \: }' Z& K- @) c: ]{
string value = reader.ReadLine();
string[] temp = value.Split('');
0 o! H: d/ l8 j4 Y! ?8 _map[i, 0] =int.Parse(temp[0]); //读取城市坐标
* I: ~9 O; c" P; a& [/ |map[i, 1] =int.Parse(temp[1]);
}

- v- z( P8 H' g( }+ ]// create fitness function
TSPFitnessFunction fitnessFunction =new TSPFitnessFunction(map);
" Y# q( @% [7 k6 A9 n
& S8 s2 D" {  Z: \+ m6 U5 N0 gint populationSize = 1000; //种群最大规模
* ~4 e$ u+ d( A/ [" [; m
- ]7 P0 k3 K7 ~0 f% [- t& \2 r/*
* A; J. ]! x, E" c; F; U* 0：EliteSelection算法
! ]7 u. t- G6 t$ W' M2 D* 1：RankSelection算法
* 其他：RouletteWheelSelection 算法
* */
int selectionMethod =0;

// create population
Population population =new Population(populationSize,
" `4 ~* T4 V+ s; f$ unew PermutationChromosome(citiesCount),
. q, I0 w7 s  d+ q( t4 t9 YfitnessFunction,
' z  i  R# R- b(selectionMethod ==0) ? (ISelectionMethod)new EliteSelection() :
(selectionMethod ==1) ? (ISelectionMethod)new RankSelection() :
( v' j( ~8 X& ?6 F(ISelectionMethod)new RouletteWheelSelection()
);
: {& R7 _; r$ U: g4 e
// iterations
int iter =1;
0 y0 n* y0 A1 |3 P. D( z0 sint iterations =5000; //迭代最大周期

% q+ U# l/ y" W  w// loop
- _" A. P' _: w: _' B; Wwhile (iter < iterations)
8 k0 \* z) J: p& l. Q) O  W{
// run one epoch of genetic algorithm
0 ^) K, c' E0 ~( H1 V2 _2 K1 dpopulation.RunEpoch();
7 t4 e$ ~1 `! C
// increase current iteration
iter++;
( q& ^! R# c" p" u2 G  a' d}

% Z4 M9 g; l9 C5 \8 YSystem.Console.WriteLine("遍历路径是： {0}", ((PermutationChromosome)population.BestChromosome).ToString());
System.Console.WriteLine("总路程是：{0}", fitnessFunction.PathLength(population.BestChromosome));
System.Console.Read();
6 n( O; `  C4 a
}
+ ~6 ?2 c* W! D' x* c& l8 Y( [}
}
7 C% C  [, N- @  a. n* h( P

[url=][/url]


8 r% M# ^. G6 h0 ]
' h7 X3 T1 r  n8 X5 x; ^/ H* d5 Z

网上据称这组TSP数据的最好的结果是 15404 ，上面的程序我刚才试了几次最好一次算出了15402.341，但是最差的时候也跑出了大于16000的结果。

我这还有一个版本，设置种群规模为1000，迭代5000次可以算出15408.508这个结果。源代码在文章最后可以下载。

6 Y7 f- F) q! b7 n

总结一下使用AForge.Genetic解决问题的一般步骤：

   (1) 定义适应函数类，需要实现IFitnessFunction接口

   (2) 选定种群规模、使用的选择算法、染色体种类等参数，创建种群population

   (3)设定迭代的最大次数，使用RunEpoch开始计算

( ~  l$ U) I. \/ a

5 E" o; E* X; ?0 U+ T# t0 F