一群"鸟"帮你解数学题：聊聊粒子群算法

2744557306

算法笔记 · 粒子群优化 · 附完整可运行代码

先讲一个真实的故事。

1995 年，两位研究者在模拟鸟群觅食：一群鸟在一片区域里随机飞，谁也不知道食物在哪。但每只鸟都记得自己飞过的最好位置，也能看到整个鸟群目前找到的最好位置。于是每只鸟的飞行策略变得很简单——一部分凭自己的经验继续飞，一部分朝群里公认的好方向靠拢。

结果让人惊讶：不需要任何"领导"，不需要知道食物在哪，鸟群竟能自发地聚拢到食物周围。

这两位研究者一位是电子工程师 James Kennedy，一位是社会心理学家 Russell Eberhart。他们把这个模拟简化成几个公式，就成了今天要讲的主角——粒子群优化算法（Particle Swarm Optimization，PSO）。顺带一提，这个算法诞生 25 年后，他们拿到了 IEEE 的诺贝尔级别的荣誉——它至今仍是工程优化里最常用的算法之一。

如果你正在准备数学建模竞赛，这篇文章能帮你在"优化类"赛题里多一件趁手的兵器。

一、把优化问题想成"找食物"

先忘掉算法，想一个具体场景：

你要找一个函数的最小值，比如 $$f(x, y) = x² + y²$$，最小值显然在原点。但现实问题里，函数可能长得像一片丘陵——到处是小山包（局部最优），真正的谷底（全局最优）藏在某个角落。梯度下降这类方法从一点出发，很容易卡在最近的小山包里下不来。

PSO 的思路完全不同：与其派一个人去找，不如派一群鸟去找。

[td]

概念	在算法里是什么
一只鸟 / 粒子（Particle）	一个候选解（一组变量值）
位置（Position）	解本身，比如 (x, y) = (3.2, -1.5)
速度（Velocity）	下一步往哪个方向飞、飞多远
食物的位置	函数的最小值点
离食物多近	适应度：把位置代入函数算出的值
自己的经验	个体极值 pbest：我飞过的最好位置
群体的情报	全局极值 gbest：全群找到的最好位置

二、灵魂公式：只有两行

PSO 全部精髓浓缩在两条更新规则里。每一代（每一轮迭代），每只鸟这样飞：

: _: Q* O# |# i3 o0 e4 `' p$$v_{k+1} = w \cdot v_k + c_1 r_1 \cdot (pbest - x_k) + c_2 r_2 \cdot (gbest - x_k)$$
' q1 w; W6 b/ \9 h# W0 K
( u8 p4 c* R4 {/ z4 b$ Z3 l$$x_{k+1} = x_k + v_{k+1}$$

第一条是速度更新，即"下一刻往哪飞"。拆开看，一共三股力量在拉扯这只鸟：

[td]

部分	含义	生活翻译
w·vk	惯性：保留原来的飞行方向	"我正往这边飞呢，别让我急转弯"
c₁r₁·(pbest − x)	认知项：朝自己最好位置飞	"我以前在那儿吃过食，回去看看"
c₂r₂·(gbest − x)	社会项：朝全群最好位置飞	"老王说他找到吃的了，跟过去！"

第二条是位置更新，简单到不像话：新位置 = 旧位置 + 速度。就是"按刚才决定的方向飞过去"。

这里的 r₁、r₂ 是 0 到 1 之间的随机数——这点很关键。如果每次都精确地朝 pbest 和 gbest 飞，所有鸟很快会挤成一条线，搜索就死了。加上随机扰动，鸟群才能保持"散着搜索、又大致向好看的方向去"的状态。

一句话记住 PSO： 每只鸟被三股力拉着——惯性（接着飞）、自己的记忆（回自己找到过的好地方）、群体的情报（去大家公认的好地方）。飞到新位置后，更新记忆，再飞。如此反复，鸟群整体就向最优解聚拢。

三、三个参数怎么调[td]

参数	名字	常用值	调大调小会怎样
w	惯性权重	0.6 ~ 0.8	大→搜得广但收敛慢；小→收敛快但易陷局部最优
c₁	认知因子	1.5 ~ 2	大→各飞各的，多样性好
c₂	社会因子	1.5 ~ 2	大→一窝蜂跟风，收敛快但容易早熟

工程上还有个进阶技巧：惯性权重线性递减——从 0.9 慢慢降到 0.4。前期惯性大，鸟群撒开网全局搜索；后期惯性小，大家稳稳地精修局部。这被称为"先广搜、后精修"，是 PSO 最常用的改良。

四、上代码：70 行实现完整 PSO

下面这段代码零依赖，保存成 pso_demo.py 直接运行。我们拿两个经典函数开刀：Sphere（单峰，考收敛速度）和 Rastrigin（满地局部最优，考跳出陷阱的能力）。

1. # -*- coding: utf-8 -*-
   8 i! m. G  w5 k) |' K
2. """粒子群优化算法（PSO）完整演示，零依赖可直接运行"""9 y! ?( i/ C0 t1 K, e* C; `
   
3. import random
   0 l  i' O. I: g. ~% O2 C5 v, i  M1 r
4. import math5 I: K\" O* G2 B- D, V( s2 o/ U
   
5. - O: u3 ~7 _: B+ s$ M8 U  o
   
6. def sphere(x):$ b6 e/ G0 Z- S
   
7.     """Sphere 函数：f(0,0,...,0)=0，单峰"""
   \" x\" X7 j$ S0 w6 E' k/ a
8.     return sum(xi ** 2 for xi in x)
   . i: v* k4 \0 u  c9 [
9. 8 s! U, G9 U' U9 ~' R; C6 i- X
   
10. def rastrigin(x):2 W+ b( R, Z, K1 ~$ |
    
11.     """Rastrigin 函数：大量局部最优点，全局最优仍在原点"""
    ' h4 k* G4 c2 n+ \9 `, f! F2 }: \
12.     return sum(xi**2 - 10*math.cos(2*math.pi*xi) + 10 for xi in x)\" v' c. n+ J/ ]5 O
    
13. 4 o6 @8 F' ~9 M' R/ d( S: W
    
14. class Particle:
    - N4 V/ _3 s& m1 {) t. Q
15.     """一只『鸟』：有位置、速度，记得自己飞过的最好地方"""
    8 a$ p, y  G( M1 _0 _) X7 E9 q
16.     def __init__(self, dim, bounds):5 V1 p8 e4 }' U
    
17.         self.pos = [random.uniform(bounds[i][0], bounds[i][1]) for i in range(dim)]5 k: @$ F3 |# W7 t- K+ s$ R7 |# ~
    
18.         self.vel = [random.uniform(-1, 1) for _ in range(dim)]
    ) @$ T+ n  k$ l& v1 D3 V$ w5 }( R
19.         self.best_pos = list(self.pos)      # 个体极值 pbest
    3 f9 ?  S$ X- n5 W; G& s
20.         self.best_val = float("inf")
    ' Y\" r6 ]\" A, q% f
21. 
    8 R0 V: G. W7 h9 q0 [( R
22.     def update_velocity(self, gbest, w, c1, c2):. _& z3 p8 B; W- W
    
23.         # 速度更新：v = w*v + c1*r1*(pbest-x) + c2*r2*(gbest-x)5 T1 a9 I: ^) g' s! E* K4 o9 \7 f
    
24.         for i in range(len(self.vel)):
    % F# l/ A2 ^8 e; d, ^/ z- J
25.             r1, r2 = random.random(), random.random()
    # p8 W, l6 S% {\" ^
26.             cognitive = c1 * r1 * (self.best_pos[i] - self.pos[i])  # 自己的经验; L/ l! z% ]9 D0 P( r$ G
    
27.             social    = c2 * r2 * (gbest[i] - self.pos[i])          # 群体的情报
    $ w% ?8 e6 L5 H  R/ L. O
28.             self.vel[i] = w * self.vel[i] + cognitive + social2 i) J, \$ r. G' T4 N; U6 I\" t9 w! a
    
29. 
    0 l* \- n. F  O) i0 Y
30.     def update_position(self, bounds):; y' f' `( R; T3 p+ B! `/ Z4 D
    
31.         # 位置更新：x = x + v，并夹回边界
      P0 y& {, S3 t' v
32.         for i in range(len(self.pos)):4 j; O5 h2 Z5 d; ?
    
33.             self.pos[i] += self.vel[i]
    . ~* r- y$ g0 A+ k
34.             lo, hi = bounds[i]
    , ^; m\" V/ w! v; F  ^& d
35.             if self.pos[i] < lo:   self.pos[i] = lo
    3 V- N$ B+ f) A1 l: Y
36.             elif self.pos[i] > hi: self.pos[i] = hi
    4 {2 S9 d; Z7 @7 c
37. ! Z\" n$ D! s! g' R' S- U
    
38. def pso(func, dim=2, bounds=None, n_particles=30, max_iter=100,& U' ?4 ?% w; V% S0 F\" Z* w! N
    
39.         w=0.7, c1=1.5, c2=1.5, verbose_every=10):
    2 S# \9 B/ z$ h9 S$ r
40.     """标准 PSO 主流程"""
    ; J8 n% L6 z  K  F- Z0 {  Q5 ~. e
41.     if bounds is None:( o1 X, f* r; m7 r, p5 k! g
    
42.         bounds = [(-5.12, 5.12)] * dim
    7 R0 B- j9 f: O4 o
43.     particles = [Particle(dim, bounds) for _ in range(n_particles)]\" l! G9 m8 P+ {- D( R7 f9 ^
    
44.     gbest, gbest_val = list(particles[0].pos), float("inf")1 n& g) |' \2 E+ q7 l
    
45.     history = []- e\" S2 {, f! d6 s; W4 ~7 {1 d
    
46. 
    & J7 O$ n; S- W1 B\" e+ K3 |
47.     for it in range(max_iter):
    2 J$ ^3 P% h, m; v
48.         # 第 1 步：评估每只鸟，更新 pbest 和 gbest: X. N1 r  c, _' z/ u$ w
    
49.         for p in particles:
    9 [  ~6 J  I0 b6 N
50.             val = func(p.pos); [, g9 \( n9 _. ~; b  x  i
    
51.             if val < p.best_val:
    # F* y. K* D) v3 L+ x% Q8 j
52.                 p.best_val, p.best_pos = val, list(p.pos)
    . C* U- @! r/ W1 g8 Z$ |# r
53.             if val < gbest_val:$ ~* |8 p8 ]& s, U
    
54.                 gbest_val, gbest = val, list(p.pos)
    0 l. |: c# Z! O$ d  Z2 u
55.         history.append(gbest_val)/ D; V4 m4 c$ M3 ~
    
56. : K  {% @5 P3 v' E$ U
    
57.         # 第 2 步：更新速度和位置
    4 P7 l7 [( T# z3 C# m\" X& ^
58.         for p in particles:
    9 x6 R* M9 ~9 V4 E
59.             p.update_velocity(gbest, w, c1, c2)
    9 Z& R  {# W8 L& C' {2 b
60.             p.update_position(bounds)# X% i/ O+ [\" |0 p8 ^, y
    
61. 
    $ u+ F$ j* x/ }, ]3 u3 ^% C
62.         if verbose_every and (it + 1) % verbose_every == 0:  s% M, y8 ?5 V. J! T+ ?  \6 g- i8 P; J
    
63.             print(f"    第 {it+1:3d} 代 | 全局最优值 = {gbest_val:.6f}")
    7 g  h4 \8 W  k/ p8 f\" A0 z& e
64.     return gbest, gbest_val, history
    3 p' I* W% D. f  c( J4 O$ M; k
65. ( n* k( J% h& q( e/ w
    
66. if __name__ == "__main__":
    : N/ T: Z/ l; o9 M3 z
67.     # 实验 1：单峰函数，看收敛速度
    4 S, P: ]+ R( |; A7 p# Q
68.     print("[实验 1] Sphere 函数（理论最优值 = 0）")
    6 o2 h# M0 `+ {; K6 g# F
69.     best_pos, best_val, _ = pso(sphere, dim=2, bounds=[(-10, 10)]*2,
    * O& U6 @. P$ ~& |$ G
70.                                 n_particles=30, max_iter=100)
    6 E/ M6 L1 i/ ~\" g6 u
71.     print(f"  >>> 最优位置: ({best_pos[0]:.4f}, {best_pos[1]:.4f})")
    7 f# v' R# p9 {6 n! w6 F) N5 Q6 k
72.     print(f"  >>> 最优值: {best_val:.8f}")4 y6 D: i6 y\" Q) A: G\" B/ w
    
73. 
    4 N  |2 {\" D  E% r: ?! s' l1 |2 h
74.     # 实验 2：多峰函数，看跳出局部最优
    & k! _* s+ \, v8 v, f: P
75.     print("[实验 2] Rastrigin 函数（局部最优遍地都是）")
    3 w5 E: D! r2 {! Y
76.     best_pos, best_val, _ = pso(rastrigin, dim=2,
      G+ p8 G\" U: Y
77.                                 n_particles=50, max_iter=200)* L5 }& V% t/ d2 E
    
78.     print(f"  >>> 最优值: {best_val:.6f}")6 x% H) k* L* \\" q
    
79. & k2 P) |/ f/ l8 o
    
80.     # 实验 3：惯性权重对比（10 维）% v) n5 o3 A- o( ~  D1 J/ f
    
81.     print("[实验 3] 惯性权重 w 的影响（10 维 Rastrigin）")
    / d& l8 v' }8 h( U3 C' y
82.     for w in (0.2, 0.7, 1.2):
    8 g% v7 y, Y8 |( h0 U9 ?: d. r
83.         _, val, hist = pso(rastrigin, dim=10, bounds=[(-5.12, 5.12)]*10,
    9 u; A0 J9 d+ _0 `% Z! n
84.                            n_particles=50, max_iter=200, w=w, verbose_every=0)
    # Y5 P6 m& M/ H/ E+ ~
85.         print(f"  w = {w:<4} | 最终最优值 = {val:10.5f}")

复制代码

三个实验分别说明：

实验 1：单峰函数太简单，50 只鸟迭代 50 代就精确命中原点，误差小于百万分之一。

实验 2：Rastrigin 函数像个布满小坑的月球表面，梯度下降几乎必卡坑里，PSO 靠"一群鸟分散搜索"硬是跳了出来。

实验 3最有意思——升到 10 维后参数的差别立刻显现：w=1.2 时惯性太大，鸟群一直"飘着"落不下来（101.6，基本没搜到）；w=0.2 时收敛太快，早熟地卡在局部最优（24.9）；w=0.7 恰到好处（7.0）。这就是参数敏感性的现场教学。

五、什么时候用 PSO，什么时候别用适合的场景[td]

场景	举例
函数不可导 / 不光滑	目标函数是查表、仿真得出的，没有解析式
多峰、怕陷入局部最优	神经网络调参、TSP 路径优化、portfolio 投资组合
混合整数 / 离散问题	稍加改造即可处理 0-1 变量（粒子位置取整）
需要"能跑就行"的快速方案	数模竞赛限时三天，PSO 半小时就能调通

要小心的地方

1. 不是全局最优保证。 PSO 是启发式算法，理论上可能错过全局最优。论文里别写"证明了最优解"，要写"搜索到的近似最优解"。

2. 高维会退化。 维度上百时收敛变慢，可考虑增加粒子数或换差分进化（DE）。

3. 结果有随机性。 每次运行结果略有不同。写论文时要多次运行取平均/最优，并报告标准差——评委很看重这一点。

4. 约束处理要自己写。 常见做法是罚函数：越界就往目标函数上加一个很大的惩罚。

和其他算法的关系[td]

算法	思想	和 PSO 的区别
梯度下降	沿坡往下走	单点出发、需可导；PSO 群体出发、不需要导数
遗传算法 GA	选择、交叉、变异	有"淘汰"机制；PSO 不淘汰，所有粒子活到最后、共享信息
模拟退火 SA	以一定概率接受坏解	单点搜索；PSO 是群体协作
差分进化 DE	向量差扰动	与 PSO 各有胜负，高维时 DE 常更稳

六、写给数模竞赛的你

回到竞赛场景。PSO 在数模里的出场率非常高，典型的用法：

题型一：优化决策。"如何分配 X 使总成本最小/总收益最大"，目标函数复杂、变量多、不可导——PSO 直接上。

题型二：模型调参。 先用回归/机器学习建了模型，再有一堆超参数要调。可以用 PSO 包在外面做参数寻优，论文里就是个漂亮的"双层优化"结构。

题型三：拟合非线性模型。 最小二乘拟合非线性曲线时，初值选不好就拟合歪。用 PSO 先粗搜一轮找初值，再交给 LM 算法精修——这是很扎实的组合拳写法。

论文里怎么写才加分： 不要只丢一个结果。写清楚三件事——① 粒子数、迭代数、参数 w/c₁/c₂ 怎么定的（最好说明试过几组）；② 收敛曲线（画"迭代代数 vs 最优值"的图，评委一眼看到收敛行为）；③ 多次运行的结果稳定性（跑 10 次报告均值和标准差）。做到这三点，PSO 就从"套模型"升级成了"用模型"。

写在最后

PSO 之所以流传三十年，恰恰因为它简单得"不像话"——两条公式，没有 leaders，没有淘汰，只有一群朴素的个体，各自带着一点点记忆和一点点从众，互相分享情报，就把一片茫茫的搜索空间梳了个遍。

有人说这是对"群体智慧"最好的计算演绎：没有一只鸟知道答案，但鸟群知道。

下次遇到解不出的优化题，不妨也撒一把粒子出去——记得先广搜，后精修。

---

如果这篇文章帮到了你，点个「在看」让更多备赛的朋友看到

5 o! ~% D9 ~# G  ^- @% G

6 {0 ~/ O* a1 y1 s3 b8 O- s/ ^
( f5 U; B) ~% C7 P
- ]1 G* h% U( U" B% _" d  }+ @