QQ登录

只需要一步,快速开始

 注册地址  找回密码
查看: 2636|回复: 0
打印 上一主题 下一主题

MSE(均方误差)梯度下降算法

[复制链接]
字体大小: 正常 放大

1186

主题

4

听众

2923

积分

该用户从未签到

跳转到指定楼层
1#
发表于 2024-6-13 09:56 |只看该作者 |倒序浏览
|招呼Ta 关注Ta
本文提供的代码实现了MSE(均方误差)梯度下降算法,也被称为Widrow-Hoff规则。以下是代码的大致解释:8 Z* o$ j+ q  b6 C: e, h
" N; q% H, t. I" r- \& N
1. 初始设置N为100,生成两类随机样本数据,并绘制初始样本分布图。
4 P' t4 S' p( Q7 X% e+ R! d) n  g6 ]) Q7 H. l; Q6 u# O
2. 将训练样本X复制给增广样本向量Y,并添加一列全为1的偏置列。然后将第二类样本取负值,从而规范化数据。8 B# c  Q- Q, Q" I/ q1 A

4 J# a- ]+ D2 ~/ u3. 初始化权向量W0和W为[0 0 0]和[1 1 1]。设置学习率p为1.0,迭代次数k为1,阈值b为0.5,计算W1为W-W0,设置flag为1。! T8 i7 J5 x4 I7 Y; e" @0 Y# h) t
! d8 o7 ]0 U) v
4. 在迭代中,如果标志flag为1且W1的范数大于10^(-3),则执行以下操作:
4 ?+ ]8 s$ I1 c   a. 对于每个样本i,如果W0与Y(i,的内积小于阈值b,则更新权重W以使其逼近Y(i,并计算新的W1。" j2 @( ?3 S: q9 I; d' o
   b. 更新W0为新的W,增加迭代次数k,并将flag设为1。, C% t4 c2 q3 _
+ @7 M% ]  z6 C+ h' c+ @
5. 随机生成一个待判断样本x,并将其转化为增广样本。根据计算得到的权重W和阈值b来判断待判样本属于哪一类,并在图中用标记表示。
" E  c9 l* r% u5 `& L/ ^; R2 j6 r4 n
6. 根据更新后的权重W,计算并绘制判别直线。
  P, M2 y9 C0 p6 |5 h4 c9 D
9 B6 {- c0 K: `, E$ f总的来说,该代码实现了一个简单的二分类任务,使用MSE梯度下降算法(Widrow-Hoff规则)来训练模型,然后根据训练后的模型对新样本进行分类,并在图中展示分类结果和判别直线。
$ _$ I- w6 Z! r/ I: a! m+ j3 X5 r- M3 N

* [: s" r- F4 q6 _$ [8 Z" O3 T8 Z

Widrow_Hoff.m

1.33 KB, 下载次数: 0, 下载积分: 体力 -2 点

售价: 2 点体力  [记录]  [购买]

zan
转播转播0 分享淘帖0 分享分享0 收藏收藏0 支持支持0 反对反对0 微信微信
您需要登录后才可以回帖 登录 | 注册地址

qq
收缩
  • 电话咨询

  • 04714969085
fastpost

关于我们| 联系我们| 诚征英才| 对外合作| 产品服务| QQ

手机版|Archiver| |繁體中文 手机客户端  

蒙公网安备 15010502000194号

Powered by Discuz! X2.5   © 2001-2013 数学建模网-数学中国 ( 蒙ICP备14002410号-3 蒙BBS备-0002号 )     论坛法律顾问:王兆丰

GMT+8, 2026-4-21 04:37 , Processed in 0.396793 second(s), 55 queries .

回顶部