: b+ j5 Q- d7 T1.预测 ) b8 ^0 V/ I- N0 u% ` 1 }: B" i! Q3 E& F, p' t! O 预测,顾名思义,即根据先用数据规律推算接下来的数据。而预测按照算法可以分为四大类,一为回归分析,二为概率估计,三为时间序列,四为机器学习。9 R7 [& C# {/ D+ H7 e1 C. e9 E
" J5 K1 I+ j4 A1 n& t, b+ j9 B
(1)回归分析 ) V$ n5 I% y+ Z1 P }, X ! m8 e3 g7 B' E 对于回归分析,该类算法适用于求解单一输出的问题,在某种程度上可以叫做函数拟合,即利用一种函数去逼近原有数据 。我们在高中阶段学习的线性回归就属于一种预测方法,下面给出几种函数类型: ) W) V! J- o; w; t% z) _6 o( T, z* L( Q9 s8 S6 ?- ~: O0 X
多项式拟合: \2 V* O' M, e, O * K, L6 u% b9 G 非线性拟合: " d0 L3 e7 y* C5 s3 V0 Z1 f- l5 r/ ` ( b$ `. d. r) e3 m5 l/ V 多元拟合: - P8 X5 N0 H$ e4 D2 p# Z- e0 F2 X2 V ^, I2 K: U$ N! J( p
如下图所示,该图像是利用了非线性函数对原有数据进行了逼近,有了函数自然也就可以根据输入计算出接下来的数据,所以回归分析也只适用于单输出问题。而回归分析的关键问题就是对某一函数模型的参数进行求解,matlab中有专门的拟合工具箱polyfit和lsqcurvefit:, c: L1 r) r3 P
---------------0 {7 w! `* d& k$ _& k+ J7 M
5 h7 ]/ {2 y4 @* [7 S3 W, _. v, a2 `/ Z
这里给出matlab两种基础的回归分析代码: ; a! Q# r, d m2 @- I/ u( ? \- K6 g3 l/ }2 p) t6 C: S6 N9 v8 v! M3 K( K4 C4 C
clc; ; r S; l. {8 }2 I! b. rclear;6 m1 r4 i+ x! ~! o- l: J
close all;' U# O: i0 g! ?
%% 线性最小二乘拟合 * X$ n/ U: n% M) ?% m' dx = 0 : 0.1 : 1;%输入1 @1 _! ~8 w5 v6 P' ?. f: m# a
y = [-0.447 1.978 3.28 6.16 7.08 7.34 7.66 9.56 9.48 9.30 11.2];%输出 % F8 d3 n4 T5 J9 L0 LA = polyfit(x, y, 2);%设定多项式最高次为2,且输入输出长度要一致,并输出多项式系数A& b3 Y6 ^- C( H' \5 B% g
z = polyval(A,x);%将多项式系数导入,即得到函数,然后输入数据x,得到输出数据z3 l% m. _2 O# I# j7 H! F
figure(1): `0 {! v; k: {9 J
plot(x, y, 'k+', x, z, 'r') %将原数据以“黑色十字”散点绘出,然后将函数以红色曲线绘出. G8 f1 a% _* E+ N* a) l
title('线性最小二乘拟合'); 0 `! o$ d( Q5 p9 ^3 u N: @+ ?6 P' p' h& P& Z, T: a( L7 {
%% 非线性最小二乘回归8 ?; F% ^8 J8 e6 l
f = inline('a(1)*x+a(2)*x.^2.*exp(-a(3)*x)+a(4)','a','x');%定义一个非线性函数,变量为系数a和自变量x : E9 P9 Q: Q% G8 o- fa = lsqcurvefit(f, [1;2;2;2], x, y);%设定系数a的初值为1 2 2 2,然后开始求解;' r1 H2 L% y+ U( I. ~( Z9 b
figure(2)$ d" k) ~$ i+ C. @4 {& F! _
plot(x, y, 'k+', x, f(a,x), 'r') %将原数据以“黑色十字”散点绘出,然后将函数以红色曲线绘出 $ Z; M; R3 G4 u8 R3 ]% x' Etitle('非线性最小二乘拟合'); , i: F, ]5 P" J, _! P* T$ a4 V" A $ f4 _6 o# B, w' w6 G. B" v9 U: b( b, M+ ^2 O$ j/ @
效果如下: ' ^" W7 o- ~& A& R- E ^2 ~$ o5 V; ^! c. I' K (2)概率估计# g" n! ~, L8 c1 I; s, |, u1 Y
6 u5 E0 Q* r5 U5 H( I* x 而对于概率估计,其中的代表是马尔科夫链算法,即先给数据划分状态,然后将数据的分布规律用状态转移来解释。最后对于当时数据的状态,利用根据状态间的转移概率可以求得未来的状态概率分布,自然也能求得下一状态的预测值。 & K. h7 ?) r" O$ s1 `* P$ Y8 N ! a7 X. e" {4 `& D* v4 A 比方说,我只去A,B,C,D四个食堂吃饭,现在告诉你我吃饭的记录,现在就需要计算我在这四个食堂中的转移概率,如我去食堂A吃过后再去四个食堂吃饭的概率是多少?通过这些转移概率不断推算我下一个要去的食堂,再根据四个转移概率得到最大可能去的食堂。但是这只是离散问题的预测,对于连续问题,自然也就需要将连续数据划分为若干个离散的状态,在使用此方法。 - m# {2 o) l! P! V, \( K & e8 ?9 G5 G7 z {4 [ 此方法对于初学者来说掌握会比较困难,不过如果能成功使用会为论文添色不少,有兴趣的同学可以自行查找资料了解。(《数学建模算法与应用》一书上有讲解) ) {1 `2 v. X- [2 i' ~; g# I6 V
(3)时间序列; i: _% L5 a) z, n
9 N; G# a0 C9 ?& \" o. X" i- I1 f 第三类称其为时间序列,因为输入是按顺序的离散值,大多数情况下就是时间,针对此类问题,由于输入以稳定步长增长的,所以不用考虑输入,直接研究输出的变化规律,这一点类似于高中学的数列,比方说有名的斐波那契数组:1,1,2,3,5...,它的数据特征是f(n+2)=f(n)+f(n+1),现在我们要求后面的数就直接利用该数据特征就行了,当然也可以求出其通项公式,有兴趣的同学可以求着试试。 6 _1 Q- g2 s$ a2 n, _ + `) V u# ?$ S3 E 而时间序列方面的算法其实就是猜测数据前后存在着什么关系,比如说:一次移动平均算法就是猜测每一个数据 与最近的部分数据的均值存在着某种关系,指数平滑法就是猜测每个数据都跟之前的历史数据的加权平均存在着某种关系。这些算法都可以算作是时间序列算法,不过以上算法都是对数据特征简单的猜测,而对于更复杂的数据特征则可能会用到微分方程,利用微分方程,即可以直接预测,还能用于灰色系统,从而将无规则数据转化为有规律的生成序列。0 R" N- V5 A' d0 L' p/ B/ v
3 p' x6 y) J, _: V: |7 Q" @
(4)机器学习 5 ]* O' R7 Z' `) U. S2 d4 ^ Q! w8 |* v( c) ~& w% \1 T" M$ {
最后一个就是机器学习,即我们只需要搭好框架,数据特征则会由其自己挖掘,比较有名的有:支持向量机(SVM)、决策树、神经网络(深度学习)。这种算法的最终目的是模拟人脑的结构,它的好处就是在搭建好网络结构之后,通过对已有数据的学习,网络会自行提取数据特征,然后只要我们输入一个数据,网络将自行计算,然后输出它的预测值。这种方法的优点是方便,无需考虑数据规律和数据维度,而缺点则是要求数据量要大,少量样本的训练效果一般不具有适用性。' D- w; s, m! l1 [9 b6 f
6 m5 F" w8 m# S' T" C(5)模型检验 , a Z, j$ Y/ J- @ ! z$ l- v" D, T( P5 }" s3 R 预测问题中尤其还要注意的是对结果的检验,通常使用残差和后验误差等作为概率统计的检验,也可以用均方误差MSE检验。 0 K) S) R+ i9 R5 N1 p 5 m: S0 N9 _& r. k# d+ g 残差值反映了预测值和原始数据的相对差距: : v9 @# [: r4 z8 ] 1 K N3 Y C J# L5 [ ! U( e7 D3 J3 H) E0 @% N. d) p Q8 j& R
后验误差反映模型的精度:) V# J: b+ b: l
- L8 H- h- q) j
3 C1 X( w7 R' e) |
' O" F+ T7 z) f% \! i
* Z6 |( }" u1 |" N1 }. ^6 y3 d
: |( L, \) N% z0 M' C; L 然后依据下表判断模型精度:2 Q, k; F7 M: K0 I) T& w
6 F' `5 p. } |% m; {7 I& Q* U/ b. n3 A% ?" X
1 c6 W4 ], f5 A1 V
均方误差则是一个简单的误差效果: # O+ p5 `- Z0 r: k+ j 5 t {- W1 K5 u8 t% _( X: s, _% M) Z
--------------------- 2 F' u1 x& r) m! C- _* A $ B: c( n* l' D5 k! I ) b. x' \* p6 B3 |" N4 q7 c) ]7 b* ]0 H. U