QQ登录

只需要一步,快速开始

 注册地址  找回密码
查看: 3790|回复: 8
打印 上一主题 下一主题

正态分布的前世今生

[复制链接]
字体大小: 正常 放大

12

主题

26

听众

601

积分

升级  0.25%

  • TA的每日心情
    开心
    2013-4-6 00:16
  • 签到天数: 35 天

    [LV.5]常住居民I

    自我介绍
    家在山东鲁西北,身在津门;恰同学少年之时,热血激奋;孩儿立志出乡关,热血荐轩辕;愿学成经邦济世,振我同胞家园!

    群组2012第二期MCM/ICM优秀

    群组第四届数学中国美赛实

    群组2012第三期美赛培训

    跳转到指定楼层
    1#
    发表于 2012-11-15 13:42 |只看该作者 |倒序浏览
    |招呼Ta 关注Ta |邮箱已经成功绑定
    神说,要有正态分布,就有了正态分布。        5 ~9 b/ ?9 ~( |1 k* F
            神看正态分布是好的,就让随机误差就服从了正态分布。   2 f. L7 T1 k9 _; Z& }+ O+ e
                创世纪-数理统计   
    $ w# ^- J$ t% p. T3 x            一、正态分布     x2 T2 {: k( y
        学过基础统计学的同学大都对正态分布非常熟悉。这个钟型的分布曲线不但形状优雅,其密度函数写成数学表达式
    ( E' M& f1 K6 D               
    9 b4 @# y0 A2 I2 m& g9 E* ]: m也非常具有数学的美感。其标准化后的概率密度函数
    7 L, t6 \1 L, Y$ P' d                + d' T: P* o) @( h% ?8 F7 S4 n# |3 ?
    更加的简洁漂亮,两个最重要的数学常量  \pi, e都出现在了公式之中。在我个人的审美之中,它也属于 top-N 的最美丽的数学公式之一,如果有人问我数理统计领域哪个公式最能让人感觉到上帝的存在,那我一定投正态分布的票。因为这个分布戴着神秘的面纱,在自然界中无处不在,让你在纷繁芜杂的数据背后看到隐隐的秩序。
      }' i, w" ^9 ~. Q1 `1 y            
      Q; W2 O# w8 Y# ~    正态分布又通常被称为高斯分布,在科学领域,冠名权那是一个很高
    6 ^5 F' G% B7 ~) X( S+ N" U- L9 }的荣誉。去过德国的兄弟们还会发现,德国的钢镚和10马克的纸币上都留有高斯的头像和正态密度曲线。正态分布被冠名高斯分布,我们也容易认为是高斯发现了正态分布,其实不然,不过高斯对于正态分布的历史地位的确立是起到了决定性的作用。
    6 D  r! t% ~' j! E6 s        3 c- \/ @& n9 H7 _, _: }: P1 S
                " t/ \& c1 R. e. @8 n: l
        正态曲线虽然看上去很美,却不是一拍脑袋就能想到的。我在本科学习数理统计的时候,课本一上来介绍正态分布就给出密度分布函数,却从来不说明这个分布函数是通过什么原理推导出来的。所以我一直搞不明白数学家当年是怎么找到这个概率分布曲线的,又是怎么发现误差服从这个奇妙的分布的。直到我读研究生的时候我的导师给我介绍了陈希儒的《数理统计简史》这本书,看了之后才了解了正态分布曲线从发现到被人们重视进而广泛应用,也是经过了几百年的历史。! C- A7 o; |7 b* \
        正态分布的这段历史是很精彩的,我们通过讲几个故事来揭开她的神秘面纱。: P- o# U& z+ k8 S3 Q/ p
                二、邂逅,正态曲线的首次发现
    1 W/ |  G- d+ I: }        第一个故事和概率论的发展密切相关,主角是棣莫弗(De Moivre) 和拉普拉斯(Laplace)。/ v% g7 A4 y, Z+ c: [+ n, m
        拉普拉斯是个大科学家,被称为法国的牛顿;棣莫弗名气可能不算很大,不过大家应该都熟悉这个名字,因为我们在高中数学学复数的时候我们都学过棣莫弗定理(cos\theta + i sin\theta)^n = cos(n\theta) + i sin(n\theta)。# M( W$ B$ ]8 c# T* j
        古典概率论发源于赌博,惠更斯、帕斯卡、费马、贝努力都是古典概率的奠基人,他们那会研究的概率问题大都来自赌桌上,最早的概率论问题是赌徒梅累在1654年向帕斯卡提出的如何分赌金的问题。统计学中的总体均值之所以被称为期望(Expectation), 就是源自惠更斯、帕斯卡这些人研究平均情况下一个赌徒在赌桌上可以期望自己赢得多少钱。4 }( U) \+ @0 T; [$ R( H5 b
        有一天一个哥们,也许是个赌徒,向棣莫弗提了一个和赌博相关
    3 H  f  v: m* R. J% |的一个问题:A,B 两人在赌场里赌博,A,B各自的获胜概率是p, q=1-p,赌 n 局,若 A 赢的局数 X > np, 则 A 付给赌场 X-np元,否则B 付给赌场 np-X元。 问赌场挣钱的期望值是多少。4 p9 R& B7 I3 Z, e. ~
        问题并不复杂, 本质上是一个二项分布,最后求出的理论结果是9 g7 a; y+ L5 ~% y2 h
                   
    % H8 o1 B, l4 |  O$ A4 b其中  b(n,p,i) = \binom{n}{i}p^iq^{n-i}是常见的二项概率。 但是对具体的 n, 要把这个理论结果实际计算出数值结果可不容易, 因为其中的二项公式中有组合数.这就驱动 De Moivre寻找近似计算的方法计算。
    2 W6 A/ S$ _$ u# }& l: ]    与此相关联的另一个问题,是遵从二项分布的随机变量  X \sim B(n,p), 求X 落在二项分布中心点一定范围的概率  P_d = P(|X - np| \le d)     ! ~5 f* ~8 M9 J  C" q1 P' l% V8 t: x
        对于 p=1/2 的情形, 棣莫弗 做了一些计算并得到了一些近似结果,但是还不够漂亮,幸运的是 棣莫弗 和 Stirling 处在同一个时代, 而且二人之间有联系,Stirling 公式是在数学分析中必学的一个重要公式! ^1 w( l6 L+ a
                   ! U. ?" B( r" Q! Z" H
        1733 年,棣莫弗很快利用 Stirling 公式计算取得了重要的进展。考虑 n 是偶数的情形,令二项概率, N  a" h  N* T5 X% G
                    ) S* N4 l* o5 C) N* r  w/ x/ x3 ~
    通过 Stirling 公式做一些简单的计算容易得到,
    # W9 b* D  v, Q) ?# K                    
      j% [& {% M; S1 |# q" }- ?+ P           4 O# P) [/ t: O: a
        于是有
    9 n- O6 |9 b8 R& Q9 R6 }& [: X- s0 y           
    0 W2 A7 X0 |/ G9 R- b8 S' A3 D7 Q    使用上式的结果,并在二项概率累加求和的过程中近似的使用定积分代替求和,很容易就能得到$ T$ q3 I7 c" d
                   , M+ t& i9 v+ c6 _/ \1 U
        看,正态分布的密度函数的形式在积分公式中出现了!这也就是我们在数理统计课本上学到的二项分布的极限分布是正态分布。1 k% U, W/ d( g, a" E
        以上只是讨论了 p=1/2的情形, 棣莫弗也对 p \ne 1/2做了一些计算,后来拉普拉斯对 p \ne 1/2的情况做了更多的分析,并把二项分布的正态近似推广到了任意 p的情况。 这是第一次正态密度函数被数学家勾画出来,而且是以二项分布的极限分布的情形被推导出来的。 熟悉基础概率统计的同学们都知道这个结果其实叫棣莫弗-拉普拉斯中心极限定理。
    . k; B( H+ y7 G4 |' s; ~2 {7 M            [De Moivre-Laplace 中心极限定理]        
    9 l! r& i/ X4 [  n, ?' x设随机变量 X_n (n=1,2,\cdots)服从参数为 p的二项分布,则对任意的 x, 恒有' [; c' G) s7 C- Q. z
               
    ' J# J+ [5 s1 {$ D3 j: J9 N    我在大学学习数理统计的时候,学习的过程都是先学习了正态分布,然后才学习中心极限定理。而学习到正态分布的时候,直接就描述了其概率密度的数学形式,虽然数学上很漂亮,但是当时很困惑数学家们是如何凭空就找到这个分布的。然而读了陈希孺的《数理统计学简史》之后,才发现正态分布的密度形式首次发现是在棣莫弗-拉普拉斯的中心极限定理中。数学家研究数学问题的进程很少是按照我们数学课本的安排顺序推进的,现代的数学课本都是按照数学内在的逻辑进行组织编排的,虽然逻辑结构上严谨优美,却把数学问题研究的历史痕迹抹得一干二净,我们难以在数学课本上看到数学家对数学问题是如何研究推进的。DNA 双螺旋结构的发现者之一 Waston 在他的名著《DNA 双螺旋》序言中说:“科学的发现很少会像门外汉所想象的一样,按照直接了当合乎逻辑的方式进行的。”
    & M8 D( J5 S# j4 K7 \' r/ E    棣莫弗 出他的发现后40年(大约是 1770), 拉普拉斯建立了中心极限定理较一般的形式,中心极限定理后续又被其它数学家们推广到了其它任意分布的情形,而不限于二项分布。后续的统计学家发现,一系列的重要统计量,在样本量 N 趋于无穷的时候, 其极限分布都有正态的形式, 这构成了数理统计学中大样本理论的基础。# [. S/ o! [. S' w. V2 f' j
        棣莫弗在二项分布的计算中瞥见了正态曲线的模样,不过他并没有能展现这个曲线的美妙之处。棣莫弗的这个工作当时并没有引起人们足够的重视,原因在于棣莫弗 不是个统计学家,从未从统计学的角度去考虑其工作的意义。 正态分布(当时也没有被命名为正态分布) 在当时也只是以极限分布的形式出现,并没有在统计学,尤其是误差分析中发挥作用。这也就是正态分布最终没有被冠名 棣莫弗分布的重要原因。 那Gauss 做了啥工作导致统计学家把正态分布的这顶桂冠戴在了他的头上呢?这先得从最小二乘法的发展说起。下回分解:-)
    8 X- p$ B) M  `/ `6 v: H
    zan
    转播转播0 分享淘帖0 分享分享0 收藏收藏1 支持支持0 反对反对0 微信微信
    wshyadd        

    0

    主题

    6

    听众

    528

    积分

    升级  76%

  • TA的每日心情
    奋斗
    2017-9-27 10:22
  • 签到天数: 111 天

    [LV.6]常住居民II

    自我介绍
    目前在上学中

    群组2012第二期MCM/ICM优秀

    群组2012第三期美赛培训

    群组英语科技论文写作实训

    群组科技写作基础培训

    群组物联网工程师培训

    写的很好哈,我有个问题想问一下,请问正态分布和柯西分布有什么关系吗?为什么他们曲线的形状这么相像
    回复

    使用道具 举报

    winxblast        

    0

    主题

    6

    听众

    36

    积分

    升级  32.63%

  • TA的每日心情
    奋斗
    2013-2-5 02:06
  • 签到天数: 8 天

    [LV.3]偶尔看看II

    自我介绍
    回复

    使用道具 举报

    4#
    无效楼层,该帖已经被删除
    maybelu9        

    0

    主题

    8

    听众

    139

    积分

    升级  19.5%

  • TA的每日心情
    擦汗
    2014-2-6 11:02
  • 签到天数: 39 天

    [LV.5]常住居民I

    回复

    使用道具 举报

    3

    主题

    8

    听众

    144

    积分

    升级  22%

  • TA的每日心情
    奋斗
    2014-3-11 16:57
  • 签到天数: 32 天

    [LV.5]常住居民I

    自我介绍
    临近毕业,sas学习中

    群组第一期sas基础实训课堂

    回复

    使用道具 举报

    1

    主题

    9

    听众

    1747

    积分

  • TA的每日心情
    开心
    2016-7-26 21:58
  • 签到天数: 182 天

    [LV.7]常住居民III

    社区QQ达人

    群组2014年美赛冲刺培训

    群组数学建模培训课堂1

    群组物联网工程师培训

    群组2014年网络挑战赛交流

    回复

    使用道具 举报

    0

    主题

    12

    听众

    534

    积分

    升级  78%

  • TA的每日心情
    奋斗
    2015-4-18 18:22
  • 签到天数: 163 天

    [LV.7]常住居民III

    自我介绍
    数学水平停留在高中水平了。
    回复

    使用道具 举报

    0

    主题

    12

    听众

    534

    积分

    升级  78%

  • TA的每日心情
    奋斗
    2015-4-18 18:22
  • 签到天数: 163 天

    [LV.7]常住居民III

    自我介绍
    数学水平停留在高中水平了。
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 注册地址

    qq
    收缩
    • 电话咨询

    • 04714969085
    fastpost

    关于我们| 联系我们| 诚征英才| 对外合作| 产品服务| QQ

    手机版|Archiver| |繁體中文 手机客户端  

    蒙公网安备 15010502000194号

    Powered by Discuz! X2.5   © 2001-2013 数学建模网-数学中国 ( 蒙ICP备14002410号-3 蒙BBS备-0002号 )     论坛法律顾问:王兆丰

    GMT+8, 2025-8-3 07:34 , Processed in 0.698979 second(s), 95 queries .

    回顶部