QQ登录

只需要一步,快速开始

 注册地址  找回密码
查看: 2710|回复: 0
打印 上一主题 下一主题

MSE(均方误差)梯度下降算法

[复制链接]
字体大小: 正常 放大

1189

主题

4

听众

2934

积分

该用户从未签到

跳转到指定楼层
1#
发表于 2024-6-13 09:56 |只看该作者 |倒序浏览
|招呼Ta 关注Ta
本文提供的代码实现了MSE(均方误差)梯度下降算法,也被称为Widrow-Hoff规则。以下是代码的大致解释:% q, Y4 {/ J0 E
4 c# G: J- K; d* L
1. 初始设置N为100,生成两类随机样本数据,并绘制初始样本分布图。: G# g: E& E) C: R0 b! P

6 A- D: Y! K: j0 Q: c% \2. 将训练样本X复制给增广样本向量Y,并添加一列全为1的偏置列。然后将第二类样本取负值,从而规范化数据。: Z+ N$ P& D( [
. g( x2 J7 S8 K1 K" m# S
3. 初始化权向量W0和W为[0 0 0]和[1 1 1]。设置学习率p为1.0,迭代次数k为1,阈值b为0.5,计算W1为W-W0,设置flag为1。
& t  Q+ D- {4 C( `5 K' |$ t
2 K4 Y5 q+ L3 c9 h, ]8 @4 {4. 在迭代中,如果标志flag为1且W1的范数大于10^(-3),则执行以下操作:
% H& A7 R3 E3 S, t5 |   a. 对于每个样本i,如果W0与Y(i,的内积小于阈值b,则更新权重W以使其逼近Y(i,并计算新的W1。
% \6 X$ S5 h5 f, }: J) z   b. 更新W0为新的W,增加迭代次数k,并将flag设为1。
/ U: j7 X! ?9 Z$ O0 c+ F5 i0 u1 G: n) e7 n! _
5. 随机生成一个待判断样本x,并将其转化为增广样本。根据计算得到的权重W和阈值b来判断待判样本属于哪一类,并在图中用标记表示。9 @7 t8 m8 O  O5 }+ y
4 i$ h& d( ^: O
6. 根据更新后的权重W,计算并绘制判别直线。) {+ ]  M, F1 S+ u& i# ]# b
4 z) X. Y( p+ T& T
总的来说,该代码实现了一个简单的二分类任务,使用MSE梯度下降算法(Widrow-Hoff规则)来训练模型,然后根据训练后的模型对新样本进行分类,并在图中展示分类结果和判别直线。5 }  \, J* z* A$ p' K0 e5 p
  \9 A3 D& x. I9 O5 `

* `( ?' y% f& _; C" e* x
" l$ M% S" S; V: O

Widrow_Hoff.m

1.33 KB, 下载次数: 0, 下载积分: 体力 -2 点

售价: 2 点体力  [记录]  [购买]

zan
转播转播0 分享淘帖0 分享分享0 收藏收藏0 支持支持0 反对反对0 微信微信
您需要登录后才可以回帖 登录 | 注册地址

qq
收缩
  • 电话咨询

  • 04714969085
fastpost

关于我们| 联系我们| 诚征英才| 对外合作| 产品服务| QQ

手机版|Archiver| |繁體中文 手机客户端  

蒙公网安备 15010502000194号

Powered by Discuz! X2.5   © 2001-2013 数学建模网-数学中国 ( 蒙ICP备14002410号-3 蒙BBS备-0002号 )     论坛法律顾问:王兆丰

GMT+8, 2026-8-5 02:56 , Processed in 0.536812 second(s), 55 queries .

回顶部