! B2 t8 U( W) F& F4 d g+ f& L) w( Z6 V- Z
非线性规划模型7 H- Q& V8 ~; d: o* r5 D: y
应用:对于有非线性限制的问题求最优解(约束函数或者目标函数含有非线性关系)。 : H( h5 r7 k4 J r% }0 ~3 t6 k8 U - {9 C z8 @8 |- B , E8 ^$ z- u; Y/ J0 y原理:解决非线性规划模型,这种模型没有通用的解决方案,各个方法都有自己适用的范围。最优解可能在可行域的任意一点找到。通常非线性规划模型可以概括为: 8 h3 p1 ?! g5 Y; f; W. g5 m& |* P6 C2 N+ W- `: N' g
, D- `* K; f/ n0 G: b4 |
其含义为:优化目标为f(x),受限于一个等式h(x)与一个不等式g(x)。& P- X( \% ]: t1 W* c
1 _' p$ \. \2 q | 2 t8 [& r8 P5 `4 y4 b' p6 {基本步骤: : J2 r2 D* u0 f9 K) X. Q1、同线性规划,找出决策变量;建立目标函数;寻找约束条件。 $ q3 \7 A; Q+ S: e1 _$ b2、求解过程中,选定初始点x,构建点x在趋于最优解的搜索方向,以该搜索方向为基础,设定搜索步长,找到下一个迭代点。 , _4 a& E3 L2 t3、以新迭代点为初始点,重复进行2步骤。 " T& O. D, R% b. ~' W0 @5 H9 t! t- d, f; z' B+ N. ^8 w
3 u1 R. c1 ^, \/ U2 G- T
文档资料(比较多,稍微看看就好):非线性规划9 ^- x! ^' l8 N9 i7 l- E
$ }' G- }0 U6 @* \. X4 a 6 {) a. x0 Q7 K: V3 |8 NPCA主成分分析 1 }$ ?( j! r1 i, {应用:降维。 ' f. `, ]3 `. G, i$ w3 X) }+ T+ x2 F( Q+ r5 l; ]* B9 d
# Y. N' A! Q, p( q9 ]. c4 V2 M原理:在损失较少信息的基础上实现降维。周志华西瓜书上提到的最近重构性和最大可分性,实际上是关于协方差与方差的问题。协方差代表维度之间的相关性,方差可以表示维度可以保留的信息。故PCA降维的优化目标为:在N维中选择R维作为“主成分”,这R维之间两两之间协方差尽量小,方差尽量大。& @# O- T% @. K. n4 N& _" q- h