- 在线时间
- 194 小时
- 最后登录
- 2021-5-11
- 注册时间
- 2012-3-24
- 听众数
- 18
- 收听数
- 5
- 能力
- 1 分
- 体力
- 1998 点
- 威望
- 1 点
- 阅读权限
- 60
- 积分
- 880
- 相册
- 2
- 日志
- 16
- 记录
- 7
- 帖子
- 465
- 主题
- 47
- 精华
- 0
- 分享
- 0
- 好友
- 83

白凤
TA的每日心情 | 慵懒 2018-4-6 14:09 |
|---|
签到天数: 201 天 [LV.7]常住居民III
- 自我介绍
- 数学爱好者
群组: Matlab讨论组 群组: Linux推广 群组: 第三届数模基础实训 群组: 2013年数学建模国赛备 群组: 数学建摸协会 |
神经网络工具箱nntool的使用方法
/ M* y; x* ], a8 L. o/ f这是根据我个人经验整理出来的关于如何使用nntool神经网络工具箱进行“数据训练”的方法:
/ ~& b3 Z8 |( ^! M3 ~3 i! y& B1 ]
1. 在命令窗口键入nntool命令打开神经网络工具箱;0 S9 o1 n1 Q* j: y7 T
' Z( H* K& w+ ^& X
2. 点击Import按钮两次,分别把输入向量和目标输出加入到对应的窗口([Inputs]和[Targets])中,有两种可供选择的加入对象(点击Import后可以看见),一种是把当前工作区中的某个矩阵加入,另一种是通过.mat文件读入;2 G: b- I$ X* T4 i
" B4 X( e ?- f3 O1 w3. 点击[New Network]按钮,填入各参数:(以最常用的带一个隐层的3层神经网络为例说明,下面没有列出的参数表示使用默认值就可以了,例如Network Type为默认的BP神经网络);$ \) h& v' W! g
% p7 I/ b. b" n: T6 f8 @5 M1) Input Range――这个通过点击Get From Input下拉框选择你加入的输入向量便可自动完成。
: v! O( L& m' W! q
8 Y8 U% s6 Y2 e7 f' c2) Training Function——最好使用TRAINSCG,即共轭梯度法,其好处是当训练不收敛时,它会自动停止训练,而且耗时较其他算法(TRAINLM, TRAINGD)少,也就是收敛很快(如果收敛的话),而且Train Parameters输入不多,也不用太多的技巧调整,一般指定迭代次数、结果显示频率和目标误差就可以了(详见下文)。3 N* Q9 e$ [! T0 {$ X
" _) v$ s: u& k1 G1 N
3) Layer 1 Number of Neurons——隐层的神经元个数,这是需要经验慢慢尝试并调整的,大致上由输入向量的维数、样本的数量和输出层(Layer2)的神经元个数决定。
4 D# m9 Z! }& m7 Q. H a1 M1 T5 W. ~5 A$ M+ U# `+ X/ m+ \
4) Layer 1 Transfer Function——一般用TANSIG(当然也可以LOGSIG),即表示隐层输出是[-1,1]之间的实数,与LOGSIG相比范围更大。0 u$ S x! z- P. n/ Y' U9 A; w. q
6 |" Z4 u) D- _: v
5) Layer 2 Number of Neurons——输出层的神经元个数,对于两类问题,个数为1,取值分别为0和1,对于多类问题,个数为10,取值为等。/ x0 Y! I5 f$ J# D1 w0 s
9 h7 N6 ~6 s9 R5 t. k6) Layer 2 Transfer Function——如果是模式识别的两类(或者多类)问题,一般用LOGSIG,即表示输出层的输出是[0,1]之间的实数。
" [- O$ N. `7 B+ y* ?
" f6 w3 m" {5 x2 a9 t! S5 m所有参数输入后,可以先用View按钮预览一下,没有问题的话就可以Create了。另外,网络创建完毕后,如果需要手动设置权重的初始值,按View按钮后有个Initialize选项卡,在那里可以设定。当然了,可以不自行设定,这时候matlab执行默认的程序进行权重的初始化(没有具体研究过,可能是随机设定)。8 @" s/ e( J* X H+ r" T
6 W+ V3 a1 Y. W/ Z# I4. 点击Train按钮,到达Training Info选项卡,在输入向量[Inputs]和目标输入向量[Targets]下拉框中选择你要训练的向量(即第二步加入的对象),然后到达Train Parameters选项卡,填入适当的迭代次数[epochs](一般先设置一个较小的数如200,然后观察收敛结果,如果结果窗口的收敛曲线衰减较快,则表示之前的参数比较有效,因此可填入2000或更大的数目使得网络收敛,否则修改之前的参数)、结果显示频率[show](例如要每隔500次迭代显示结果窗口,则填500)和目标误差[goal](这个与第2步中的“Performance Function”有关,如果使用默认的MSE,则一般满足“goal*样本数量<0.5”就可以了),就可以开始训练了(按钮[Train Network]),如果结果收敛(训练误差不大于目标误差,即蓝色线到达黑色线位置)就OK了。: Z0 ~! a8 B. z3 S$ O' b
6 m( J, k) l/ g0 {0 C6 O% S- J
----------------------------------------------------------------------------------------------------------------------------------------------" r2 i- n% a4 M3 r
后话:上面只介绍了“数据训练”的方法,至于“数据测试”,则点击Simulate按钮就可以了(或者用C++写,也不难,且网上有现成的BP神经网络的程序),这个相对简单,不说了。下面关于特征向量的维数问题和BP网络的个数问题谈谈我的经验。
. E5 g% x _" H4 H' q t! ?) c$ v8 ]* H7 h; d/ e' n# R' @
如果是两类问题,则特征向量维数可以比较小,例如识别4和9时,特征维数(曲率特征)为8便可;但当识别多类问题时(下面以十类为例),则特征维数太少是不足以把各类问题分开的(即使使用十个网络,每个网络为一个两类问题)。如果只设计一个网络,要同时识别10个类,则此时样本数量要足够多。另外,应尽量避免使用十个网络进行分类(注意,这与多级分类问题不一样,多级分类问题可以分为几个两类问题有效处理,而对于十个数字来说是同级多类问题),因为此时会把类间相互约束的信息丢失,造成即使对训练样本收敛(而且往往收敛速度很快)但对测试样本分类不好的情况出现,也就是分类器的推广能力差。 |
|