数学建模社区-数学中国

标题: 一群"鸟"帮你解数学题:聊聊粒子群算法 [打印本页]

作者: 2744557306    时间: 2026-8-23 17:38
标题: 一群"鸟"帮你解数学题:聊聊粒子群算法

算法笔记 · 粒子群优化 · 附完整可运行代码

先讲一个真实的故事。

1995 年,两位研究者在模拟鸟群觅食:一群鸟在一片区域里随机飞,谁也不知道食物在哪。但每只鸟都记得自己飞过的最好位置,也能看到整个鸟群目前找到的最好位置。于是每只鸟的飞行策略变得很简单——一部分凭自己的经验继续飞,一部分朝群里公认的好方向靠拢。

结果让人惊讶:不需要任何"领导",不需要知道食物在哪,鸟群竟能自发地聚拢到食物周围。

这两位研究者一位是电子工程师 James Kennedy,一位是社会心理学家 Russell Eberhart。他们把这个模拟简化成几个公式,就成了今天要讲的主角——粒子群优化算法(Particle Swarm Optimization,PSO)。顺带一提,这个算法诞生 25 年后,他们拿到了 IEEE 的诺贝尔级别的荣誉——它至今仍是工程优化里最常用的算法之一。

如果你正在准备数学建模竞赛,这篇文章能帮你在"优化类"赛题里多一件趁手的兵器。

一、把优化问题想成"找食物"

先忘掉算法,想一个具体场景:

你要找一个函数的最小值,比如 $$f(x, y) = x² + y²$$,最小值显然在原点。但现实问题里,函数可能长得像一片丘陵——到处是小山包(局部最优),真正的谷底(全局最优)藏在某个角落。梯度下降这类方法从一点出发,很容易卡在最近的小山包里下不来。

PSO 的思路完全不同:与其派一个人去找,不如派一群鸟去找。

[td]
概念
在算法里是什么
一只鸟 / 粒子(Particle)一个候选解(一组变量值)
位置(Position)解本身,比如 (x, y) = (3.2, -1.5)
速度(Velocity)下一步往哪个方向飞、飞多远
食物的位置函数的最小值点
离食物多近适应度:把位置代入函数算出的值
自己的经验个体极值 pbest:我飞过的最好位置
群体的情报全局极值 gbest:全群找到的最好位置
二、灵魂公式:只有两行

PSO 全部精髓浓缩在两条更新规则里。每一代(每一轮迭代),每只鸟这样飞:

' e, o" f0 b( S; Q0 g
$$v_{k+1} = w \cdot v_k + c_1 r_1 \cdot (pbest - x_k) + c_2 r_2 \cdot (gbest - x_k)$$
% _3 k" H- S8 C* F9 Y2 h. n" v, ?5 `; U2 I: b
$$x_{k+1} = x_k + v_{k+1}$$3 d: C% }; V3 r+ C. w; j# B

第一条是速度更新,即"下一刻往哪飞"。拆开看,一共三股力量在拉扯这只鸟:

[td]
部分
含义
生活翻译
w·vk惯性:保留原来的飞行方向"我正往这边飞呢,别让我急转弯"
c₁r₁·(pbest − x)认知项:朝自己最好位置飞"我以前在那儿吃过食,回去看看"
c₂r₂·(gbest − x)社会项:朝全群最好位置飞"老王说他找到吃的了,跟过去!"

第二条是位置更新,简单到不像话:新位置 = 旧位置 + 速度。就是"按刚才决定的方向飞过去"。

这里的 r₁、r₂ 是 0 到 1 之间的随机数——这点很关键。如果每次都精确地朝 pbest 和 gbest 飞,所有鸟很快会挤成一条线,搜索就死了。加上随机扰动,鸟群才能保持"散着搜索、又大致向好看的方向去"的状态。

一句话记住 PSO: 每只鸟被三股力拉着——惯性(接着飞)、自己的记忆(回自己找到过的好地方)、群体的情报(去大家公认的好地方)。飞到新位置后,更新记忆,再飞。如此反复,鸟群整体就向最优解聚拢。

三、三个参数怎么调[td]
参数
名字
常用值
调大调小会怎样
w惯性权重0.6 ~ 0.8大→搜得广但收敛慢;小→收敛快但易陷局部最优
c₁认知因子1.5 ~ 2大→各飞各的,多样性好
c₂社会因子1.5 ~ 2大→一窝蜂跟风,收敛快但容易早熟

工程上还有个进阶技巧:惯性权重线性递减——从 0.9 慢慢降到 0.4。前期惯性大,鸟群撒开网全局搜索;后期惯性小,大家稳稳地精修局部。这被称为"先广搜、后精修",是 PSO 最常用的改良。

四、上代码:70 行实现完整 PSO

下面这段代码零依赖,保存成 pso_demo.py 直接运行。我们拿两个经典函数开刀:Sphere(单峰,考收敛速度)和 Rastrigin(满地局部最优,考跳出陷阱的能力)。

  1. # -*- coding: utf-8 -*-
    , s, k" ]0 U0 B! b
  2. """粒子群优化算法(PSO)完整演示,零依赖可直接运行"""
    7 D7 v1 ]6 d+ N0 l4 W
  3. import random) ^  j4 V4 E1 y5 R8 z: p
  4. import math
    ' e6 W. @0 k+ I: _2 J
  5. - w8 ?2 V! W5 p
  6. def sphere(x):7 u/ Y6 I. y! s) t
  7.     """Sphere 函数:f(0,0,...,0)=0,单峰"""% y0 f% S+ l( R
  8.     return sum(xi ** 2 for xi in x)- w* t5 o  w# k# G: j3 I
  9. 0 B$ D$ [/ h' K% X% p
  10. def rastrigin(x):* k* U, y, K/ M3 W! o+ @
  11.     """Rastrigin 函数:大量局部最优点,全局最优仍在原点"""( R, K$ w; @9 n5 E' O: ?
  12.     return sum(xi**2 - 10*math.cos(2*math.pi*xi) + 10 for xi in x)
    1 L9 f; [$ P3 D1 |+ `1 @
  13.   {$ U& h" k0 `* m! y+ @# {! A
  14. class Particle:, @5 x5 W2 h+ T. M4 Q) O3 h
  15.     """一只『鸟』:有位置、速度,记得自己飞过的最好地方"""0 s6 u& i3 T! A- A
  16.     def __init__(self, dim, bounds):
    ; s5 I( w* v: f
  17.         self.pos = [random.uniform(bounds[i][0], bounds[i][1]) for i in range(dim)]
    ( E8 Q4 v9 s: w: M- e9 s4 J4 O
  18.         self.vel = [random.uniform(-1, 1) for _ in range(dim)]- |* z1 }$ p* e9 T6 J( J
  19.         self.best_pos = list(self.pos)      # 个体极值 pbest
    . V1 s. \& `- z7 _; [1 K, `/ Z
  20.         self.best_val = float("inf")
    0 R; ]7 ]9 l! s
  21. ' a8 A2 w% z2 L/ o# u& |
  22.     def update_velocity(self, gbest, w, c1, c2):" k# L# S' `. Q+ d
  23.         # 速度更新:v = w*v + c1*r1*(pbest-x) + c2*r2*(gbest-x)
    1 q, M+ F+ U' |4 E  P) g* i: J7 R
  24.         for i in range(len(self.vel)):& D: c/ e6 s2 @- A3 L
  25.             r1, r2 = random.random(), random.random()
    : ?3 N# v1 [6 L; f3 S
  26.             cognitive = c1 * r1 * (self.best_pos[i] - self.pos[i])  # 自己的经验
    / Z( P8 i& D+ _$ U% r" m, [8 P# n
  27.             social    = c2 * r2 * (gbest[i] - self.pos[i])          # 群体的情报& T9 c4 k$ Z( w2 F# B1 F3 x
  28.             self.vel[i] = w * self.vel[i] + cognitive + social
    2 \7 ]) F: R0 g3 X/ |
  29. ! W! [( Y' n: Q0 Y& }* n
  30.     def update_position(self, bounds):6 o! b% M# B& @. s
  31.         # 位置更新:x = x + v,并夹回边界/ y+ }( o( V+ ]0 A) P! Z1 ]7 A+ h
  32.         for i in range(len(self.pos)):7 _7 [4 C; h8 w7 z; Z4 P
  33.             self.pos[i] += self.vel[i]9 \  z1 e# \: w" W. b& S
  34.             lo, hi = bounds[i]
    , H8 \. `1 A& [
  35.             if self.pos[i] < lo:   self.pos[i] = lo
    : n8 p& ^( Z5 y& k7 f. `- l7 X" ~0 @) n
  36.             elif self.pos[i] > hi: self.pos[i] = hi
    # v* R, B5 n+ E' c

  37.   m/ g  I  o$ f* Y
  38. def pso(func, dim=2, bounds=None, n_particles=30, max_iter=100," ~7 A% r8 c# f  |- j$ b
  39.         w=0.7, c1=1.5, c2=1.5, verbose_every=10):" o1 f) L  @* Y8 F& w
  40.     """标准 PSO 主流程"""5 Z1 p, s4 X' Z! [
  41.     if bounds is None:
    ; _: I& N5 }. Q
  42.         bounds = [(-5.12, 5.12)] * dim
    4 w; K- f7 J1 M; T" o7 d
  43.     particles = [Particle(dim, bounds) for _ in range(n_particles)]
    3 |1 q% ?7 q5 t; _6 G* |3 S
  44.     gbest, gbest_val = list(particles[0].pos), float("inf")
    " v) D2 w4 W# m
  45.     history = []
    ) M$ K8 i% l7 M/ y7 v

  46. , O, o9 V, y& ?7 A* U& C4 D1 p0 l* {' C
  47.     for it in range(max_iter):  e! a' ]% a! s5 E( n
  48.         # 第 1 步:评估每只鸟,更新 pbest 和 gbest( r: \& i& @: X
  49.         for p in particles:
    8 F1 A+ P" I; h
  50.             val = func(p.pos)
    / B; M# V# N' [3 F1 z( I7 T% ^) ^: v5 @9 R
  51.             if val < p.best_val:$ Z# l% v7 S9 n$ c4 f. ~, y$ T
  52.                 p.best_val, p.best_pos = val, list(p.pos), v2 B8 C% I, Q5 H. g
  53.             if val < gbest_val:- e8 Z. T3 n/ n/ }; W) {6 v: C
  54.                 gbest_val, gbest = val, list(p.pos)
    8 S3 A5 {8 i6 ]! t) ]0 a; e$ N$ ^" c
  55.         history.append(gbest_val)% j# Z, [. x  w

  56. 8 `& U+ \; j( O+ s
  57.         # 第 2 步:更新速度和位置- q+ l$ o) M& g
  58.         for p in particles:
    9 F5 m6 g  E  R; c- C8 Y* ?2 v
  59.             p.update_velocity(gbest, w, c1, c2)- o' s0 z# n; V4 Y8 z  [
  60.             p.update_position(bounds)
    " l4 R& ?  H0 X
  61. 0 ~9 H  j5 Y5 }$ d$ [8 N3 S7 f
  62.         if verbose_every and (it + 1) % verbose_every == 0:
    " Z  I4 v1 ~' J3 b
  63.             print(f"    第 {it+1:3d} 代 | 全局最优值 = {gbest_val:.6f}")9 P% X  X/ \1 ^9 c3 g- D% Z- p
  64.     return gbest, gbest_val, history+ h9 T! L( S. U! d
  65. - M  E* X. Z$ E: P, ?
  66. if __name__ == "__main__":+ k6 S; @$ P, F7 B7 \# U) M
  67.     # 实验 1:单峰函数,看收敛速度
    3 g9 [5 ~* w+ b7 Y/ H, b$ O4 x( S
  68.     print("[实验 1] Sphere 函数(理论最优值 = 0)")9 ?7 J& @% A2 a4 R
  69.     best_pos, best_val, _ = pso(sphere, dim=2, bounds=[(-10, 10)]*2,1 d: r- _6 h& o2 D  z5 R( U# F
  70.                                 n_particles=30, max_iter=100)- y) U* i  {8 f. d% ]7 j) v  R
  71.     print(f"  >>> 最优位置: ({best_pos[0]:.4f}, {best_pos[1]:.4f})")
    ; p1 V( Q5 b% i
  72.     print(f"  >>> 最优值: {best_val:.8f}")
    ( ]9 ?. n4 W4 O' n8 y7 x/ }5 D
  73.   Z; @  d' {' S
  74.     # 实验 2:多峰函数,看跳出局部最优
    " Q" k5 G! F! ?4 |# _0 I
  75.     print("[实验 2] Rastrigin 函数(局部最优遍地都是)")- K$ D) O# R9 W( e) Z. h0 T
  76.     best_pos, best_val, _ = pso(rastrigin, dim=2,
    1 V) o1 c+ q" R
  77.                                 n_particles=50, max_iter=200)- M) J+ f' l! d5 R# y* f
  78.     print(f"  >>> 最优值: {best_val:.6f}")
    ) u( H& ^* W, c% W4 f' K
  79. 0 M9 @/ w( t$ H7 F; h/ l( K
  80.     # 实验 3:惯性权重对比(10 维)
    0 f6 L7 s5 _, O7 O1 F, u- I
  81.     print("[实验 3] 惯性权重 w 的影响(10 维 Rastrigin)")1 T+ T- |: V( p2 _# T+ o3 h. ]
  82.     for w in (0.2, 0.7, 1.2):0 N# |3 c% M" \! K* s4 @
  83.         _, val, hist = pso(rastrigin, dim=10, bounds=[(-5.12, 5.12)]*10,! e8 J0 ?7 g0 _# U
  84.                            n_particles=50, max_iter=200, w=w, verbose_every=0)  m8 J3 y3 f: @& O4 i9 y' X2 p
  85.         print(f"  w = {w:<4} | 最终最优值 = {val:10.5f}")
复制代码

三个实验分别说明:

实验 1:单峰函数太简单,50 只鸟迭代 50 代就精确命中原点,误差小于百万分之一。

实验 2:Rastrigin 函数像个布满小坑的月球表面,梯度下降几乎必卡坑里,PSO 靠"一群鸟分散搜索"硬是跳了出来。

实验 3最有意思——升到 10 维后参数的差别立刻显现:w=1.2 时惯性太大,鸟群一直"飘着"落不下来(101.6,基本没搜到);w=0.2 时收敛太快,早熟地卡在局部最优(24.9);w=0.7 恰到好处(7.0)。这就是参数敏感性的现场教学。

五、什么时候用 PSO,什么时候别用适合的场景[td]
场景
举例
函数不可导 / 不光滑目标函数是查表、仿真得出的,没有解析式
多峰、怕陷入局部最优神经网络调参、TSP 路径优化、portfolio 投资组合
混合整数 / 离散问题稍加改造即可处理 0-1 变量(粒子位置取整)
需要"能跑就行"的快速方案数模竞赛限时三天,PSO 半小时就能调通
要小心的地方

1. 不是全局最优保证。 PSO 是启发式算法,理论上可能错过全局最优。论文里别写"证明了最优解",要写"搜索到的近似最优解"。

2. 高维会退化。 维度上百时收敛变慢,可考虑增加粒子数或换差分进化(DE)。

3. 结果有随机性。 每次运行结果略有不同。写论文时要多次运行取平均/最优,并报告标准差——评委很看重这一点。

4. 约束处理要自己写。 常见做法是罚函数:越界就往目标函数上加一个很大的惩罚。

和其他算法的关系[td]
算法
思想
和 PSO 的区别
梯度下降沿坡往下走单点出发、需可导;PSO 群体出发、不需要导数
遗传算法 GA选择、交叉、变异有"淘汰"机制;PSO 不淘汰,所有粒子活到最后、共享信息
模拟退火 SA以一定概率接受坏解单点搜索;PSO 是群体协作
差分进化 DE向量差扰动与 PSO 各有胜负,高维时 DE 常更稳
六、写给数模竞赛的你

回到竞赛场景。PSO 在数模里的出场率非常高,典型的用法:

题型一:优化决策。"如何分配 X 使总成本最小/总收益最大",目标函数复杂、变量多、不可导——PSO 直接上。

题型二:模型调参。 先用回归/机器学习建了模型,再有一堆超参数要调。可以用 PSO 包在外面做参数寻优,论文里就是个漂亮的"双层优化"结构。

题型三:拟合非线性模型。 最小二乘拟合非线性曲线时,初值选不好就拟合歪。用 PSO 先粗搜一轮找初值,再交给 LM 算法精修——这是很扎实的组合拳写法。

论文里怎么写才加分: 不要只丢一个结果。写清楚三件事——① 粒子数、迭代数、参数 w/c₁/c₂ 怎么定的(最好说明试过几组);② 收敛曲线(画"迭代代数 vs 最优值"的图,评委一眼看到收敛行为);③ 多次运行的结果稳定性(跑 10 次报告均值和标准差)。做到这三点,PSO 就从"套模型"升级成了"用模型"。

写在最后

PSO 之所以流传三十年,恰恰因为它简单得"不像话"——两条公式,没有 leaders,没有淘汰,只有一群朴素的个体,各自带着一点点记忆和一点点从众,互相分享情报,就把一片茫茫的搜索空间梳了个遍。

有人说这是对"群体智慧"最好的计算演绎:没有一只鸟知道答案,但鸟群知道。

下次遇到解不出的优化题,不妨也撒一把粒子出去——记得先广搜,后精修。


如果这篇文章帮到了你,点个「在看」让更多备赛的朋友看到

0 X( I3 r' n9 b
( |1 w! e/ a  K3 j
' y  e1 N! g5 \$ G* O
: J1 F- S* w; b% A! \8 Z

' U- }& d; I: `5 T" ?! S. v  U
: t4 D0 l& B& v5 k




欢迎光临 数学建模社区-数学中国 (http://www.madio.net/) Powered by Discuz! X2.5