数据变换方法: 初值化、 均值化、百分比/倍数变换、归一化、极差最大值化、区间值...

浅夏110

特征归一化，又叫 特征缩放，Feature Normalization，Feature Scaling。各特征由于数值大小范围不一致，通过缩放特征的取值范围，可以消除量纲，使特征具有可比性。只有各特征之间的大小范围一致，才能使用距离度量等算法，加速梯度下降算法的收敛；在SVM算法中，一致化的特征能加速寻找支持向量的时间；不同的机器学习算法，能接受的输入数值范围不一样。sklearn中最常用的特征归一化方法是MinMaxScaler和StandardScaler。
7 v3 p7 q+ Y& i* X; O! j- K8 T
6 ]/ ?" P5 j* q5 v% X当我们需要将特征值都归一化为某个范围[a,b]时，选 MinMaxScaler
8 n0 }  F3 A* ?1 V当我们需要归一化后的特征值均值为0，标准差为1，选 StandardScaler
数据变换的目的：
  对收集来的原始数据必须进行数据变换和处理，主要是为了消除量纲，使其具有可比性。
0 f- S, ~2 D0 i1 d" u
. y; E$ Q' J- r- V5 G3 d  N! o8 T 定义 ： 设有n个数据的序列  ，则称映射
9 U  N# X% c& d' B6 _
- W9 A# @* A% h5 ^3 X                                       

* i' p8 _1 Z$ h. u# d          为序列 x到序列 y 的数据变换。
" E. b, m. ?  e2 x
3 k& @+ h8 I4 l# k: j数据变换的七种常见方式
此处是对同一维度上的各个数据进行变换，如果数据有多个维度/属性，那就拆开来一个属性属性地变换，写成矩阵形式时，它也是分别对各维度进行操作。
( D* r; z5 `6 L! B4 g2 \) _
! _! L0 T0 x' z1 o初值化变换
) }( i' x4 c2 B  v3 s( ^
8 |* z  Q0 H3 `& w( e0 N4 D! ~
& {% m: S) K7 T8 H3 F 也就是要对每一个数据，都除以第一个数据。
, Y# y" L3 B* v0 f( g! N' e3 m
, E6 }  J* v$ B+ N8 `$ j均值化变换
7 d. G3 g: V( D1 D3 J' i

             对每一个数据，都除以均值。

百分比变换
; }- ^& }9 y4 }4 T' N" o! `* J7 j
) e, T9 R1 [7 A( v9 v/ c
分母为x的该列属性中，值最大的那一个，使得变换后的值的绝对值，在[0,1]之间。
$ E# E$ a, L2 B7 m
8 r+ w! k1 P3 G8 N$ P' p倍数变换
2 @: s0 `0 y6 q) M   

归一化变换
( g+ H* a2 L8 r* k( h
# `: s' A' Y; U- a
其中   为大于零的某个值，称  是归一化变换。
0 p- [: F; e- T  S5 Q
6 d6 y" ]+ D2 z
极差最大值化变换


* ~; f/ \& A( r

7 t, z! O1 L" w7 N" l区间值化变换

8 u7 ]! ?8 A! J- \$ p, D
) ]- [) r' z+ G  a$ e, |3 D* I: `                  ,
- [3 j( Q! G( Y* y
1. matlab 的mapminmax归一化函数
函数用法：
; Y. ~8 R" i7 ^5 `/ { [Xn,Xps]=mapminmax(X,min,max)

说明：（1）该函数将X按行归一化，即计算某元素的归一化值时，最大最小值时该元素所处行的最大最小值；因此若只有一组观测时，X需是1*N的行向量。

　　　（2）min,max规定X的归一化范围，根据需要自行设置

　　　（3）ps是结构变量记录了归一化时的最大值最小值等参数，后续可重复调用　　　　　
: y3 V. _4 H3 u' b+ D
( H2 }  B' {4 f9 O6 W2 u  |- y$ p. }　调用方法：

. s) G3 J; m- K) wX1=mapminmax('apply', X_new,Xps);%利用先前的结构Xps进行相同的归一化
+ a- y+ f" i# E! }. {
X2=mapminmax('reverse',Xn, Xps);%反归一化
1 T7 ^5 G- |( b, o  h9 M8 ~
x=[1,-1,2;　　　2,0,0;　　　0,1,-1]
; F$ V/ ?: h( b0 \1 a8 |6 c[x1,Xps]=mapminmax(x,0,1)

* S+ @0 U! D4 ?
8 [% B$ ~1 e' R
: r: s2 q# c% S* [7 P对于python中的axis=0 和axis=1的问题
如df.mean其实是在每一行上取所有列的均值，而不是保留每一列的均值。也许简单的来记就是axis=0代表往跨行（down)，而axis=1代表跨列（across)，作为方法动作的副词（译者注）
% @3 g7 T; f/ G- C0 C换句话说:
. n- S7 V/ W. L0 P  `$ V
8 V7 `" }& R. ]% ^/ Q使用0值表示沿着每一列或行标签\索引值向下执行方法
使用1值表示沿着每一行或者列标签模向执行对应的方法



python的sklearn中 scale函数
8 X+ g4 L$ c0 g+ N7 W1 标准化，均值去除和按方差比例缩放
- W) l% b1 W$ j) v6 U! Q2 i              （Standardization, or mean removal and variance scaling）

　　数据集的标准化：当个体特征太过或明显不遵从高斯正态分布时，标准化表现的效果较差。实际操作中，经常忽略特征数据的分布形状，移除每个特征均值，划分离散特征的标准差，从而等级化，进而实现数据中心化。

  B" T' U  V& Y" ~from sklearn import preprocessing
import numpy as np  
X = np.array([[1., -1., 2.], [2., 0., 0.], [0., 1., -1.]])  
- t* B: `3 o$ G4 aX_scaled = preprocessing.scale(X)
+ E7 P  m, V  Y) o1 v; p
#output :X_scaled = [[ 0.         -1.22474487  1.33630621]
                                 [ 1.22474487  0.         -0.26726124]
5 ?1 y1 y; F+ d. o( O$ |7 _                                  [-1.22474487  1.22474487 -1.06904497]]
＃scaled之后的数据列为零均值，单位方差
X_scaled.mean(axis=0)  # column mean: array([ 0.,  0.,  0.])  
X_scaled.std(axis=0)  #column standard deviation: array([ 1.,  1.,  1.])

. u. N! B0 C& Q& J0 W% r4 v% k4 I# e
1 \) G- m6 h( d. [# Q% w: g
StandardScaler
Standardization即标准化，StandardScaler的归一化方式是用每个特征减去列均值，再除以列标准差。归一化后，矩阵每列的均值为0，标准差为1，形如标准正态分布（高斯分布）。 通过计算训练集的平均值和标准差，以便测试数据集使用相同的变换。（在numpy中，有std()函数用于计算标准差）
1 X/ r! V2 W; o; d# Y
from sklearn.preprocessing import StandardScaler
4 w6 U2 L3 H. w; U  _, G* s8 yx=[[10001,2],[16020,4],[12008,6],[13131,8]]
X_scaler = StandardScaler()
, L# F0 d3 I- ~7 g0 ~$ wX_train = X_scaler.fit_transform(x)
X_train
9 l" H1 y7 P2 J4 {#结果如下
: d6 m) r. G0 rarray([[-1.2817325 , -1.34164079],
       [ 1.48440157, -0.4472136 ],
# g6 [. Z" X  W* e1 n       [-0.35938143,  0.4472136 ],
       [ 0.15671236,  1.34164079]])
# S5 u( d# U- x7 i9 |
; R, B& S# V4 |9 g8 d/ H& ~8 h$ U
) ^; M- A  u7 b! I; x* T

注 ：

• 若设置with_mean=False 或者 with_std=False，则不做centering 或者scaling处理。
• scale和StandardScaler可以用于回归模型中的目标值处理。
  

from sklearn.preprocessing import StandardScaler
' i: U) u$ [" T# Ux=[[10001,2],[16020,4],[12008,6],[13131,8]]
X_scaler = StandardScaler()
X_train = X_scaler.fit_transform(x)
; T: Z# L5 L; e1 s' ?X_train
/ K( R; N2 O$ N1 o4 H( ~# n5 \#结果如下
" p# M. L4 O' u  v3 _array([[-1.2817325 , -1.34164079],
       [ 1.48440157, -0.4472136 ],
& F2 @$ i1 z, o8 d       [-0.35938143,  0.4472136 ],
       [ 0.15671236,  1.34164079]])
( p3 W& d1 L8 M" `" m. C) |
; L3 J/ n2 a7 q/ L/ @# Hscaler = preprocessing.StandardScaler().fit(X) #out: StandardScaler(copy=True, with_mean=True, with_std=True)
6 L2 ^! _" f6 Y+ z* ^scaler.mean_  #out: array([ 1.,  0. ,  0.33333333])  
scaler.std_ #out: array([ 0.81649658,  0.81649658,  1.24721913])
; T6 h" u/ _/ W9 r# m2 V- b#测试将该scaler用于输入数据，变换之后得到的结果同上
! [1 d- G, Q) i( Lscaler.transform(X)
/ i/ \6 f9 d6 Q" t: s#out:
  {4 ~& T, p1 i  J2 y& v5 d' Tarray([[ 0., -1.22474487,  1.33630621],
       [ 1.22474487, 0. , -0.26726124],
, p. j$ m- Q! \. I8 H, a$ m3 I       [-1.22474487,1.22474487, -1.06904497]])  
scaler.transform([[-1., 1., 0.]])  #scale the new data
9 k) v% i/ V4 P, c2 ]# o# out: array([[-2.44948974,  1.22474487, -0.26726124]])

  W8 F: a2 R+ r: j5 M! d# ^2 将数据特征缩放至某一范围(scalingfeatures to a range)
8 w% i0 B( V; m; S
+ |5 }6 \- ~3 [! c, O
2.1 MinMaxScaler (最小最大值标准化)
它默认将每种特征的值都归一化到[0，1]之间，归一化后的数值大小范围是可调的（根据MinMaxScaler的参数feature_range调整）。  

from sklearn.preprocessing import MinMaxScaler
x=[[10001,2],[16020,4],[12008,6],[13131,8]]
min_max_scaler = MinMaxScaler()
X_train_minmax = min_max_scaler.fit_transform(x) #归一化后的结果，
: T9 A6 ~6 ^. y; n2 M& b/ ~
" }' Q' Q) J# fmin_max_scaler = MinMaxScaler(feature_range=(-1,1))
" C- j& u0 t! T# m- fX_train_minmax = min_max_scaler.fit_transform(x) #归一化到(-1,1)上的结果

MinMaxScaler的实现
& I1 G+ E" S3 w$ E8 N( HX_std = (X - X.min(axis=0)) / (X.max(axis=0) - X.min(axis=0))
X_scaled = X_std / (max - min) + min

这是 向量化的表达方式，说明X是矩阵，其中

X_std：将X归一化到[0，1]之间
X.min(axis=0)表示列最小值
max，min表示MinMaxScaler的参数feature_range参数。即最终结果的大小范围
0 j9 a& M) ]' r4 G
, u7 S& X" ?+ l  Z
. y: ^8 t  @' U/ W2.2 MaxAbsScaler（绝对值最大标准化）
         与上述标准化方法相似，但是它通过除以最大值将训练集缩放至[-1,1]。这意味着数据已经以０为中心或者是含有非常非常多０的稀疏数据。
; y" P' h9 y$ |, {' h9 a, r% Q
) f* C( K+ ]# \$ p  U3 y: a) N+ vX_train = np.array([[ 1., -1.,  2.],
                     [ 2.,  0.,  0.],
                    [ 0.,  1., -1.]])
: h  g' C, v% H5 _5 Nmax_abs_scaler = preprocessing.MaxAbsScaler()
X_train_maxabs = max_abs_scaler.fit_transform(X_train)
# doctest +NORMALIZE_WHITESPACE^, out: array([[ 0.5, -1.,  1. ], [ 1. , 0. ,  0. ],       [ 0. ,  1. , -0.5]])
X_test = np.array([[ -3., -1.,  4.]])
X_test_maxabs = max_abs_scaler.transform(X_test) #out: array([[-1.5, -1. ,  2. ]])
+ L+ d2 k! D5 o# n# X( M/ zmax_abs_scaler.scale_  #out: array([ 2.,  1.,  2.])
) T1 w6 `6 y8 ^




! u! s# m3 v' [; t

' M' o% N- Y! h0 W1 Q+ O
+ m  i/ T' X: N$ ?4 H
' N6 E, |7 w& q2 S: c7 U. S
————————————————
版权声明：本文为CSDN博主「wamg潇潇」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
/ X0 Z9 I4 {1 ^+ `8 ]! l, z原文链接：https://blog.csdn.net/qq_29831163/article/details/89420223
% Z7 Q4 Y/ Z# ~5 i6 U7 f7 i