有监督学习

风靡全球

有监督学习

对于有监督学习,网络训练往往要基于一定数量的训练样本。训练样本通常由输入矢量和目标矢量组成。在学习和训练过程中,网络根据实际输出与期望输出的比较,进行连接权值和闭值的调节。通常将期望输出称为教师信号,它是学习的标准。最典型的有监督学习算法是算法,即误差反向传播算法。

无监督学习

对于无监督学习,则无教师信号提供给网络,网络能根据其特有的结构和学习规则,进行权值和阂值的调整。此时,网络的学习评价标准隐含于其内部。

神经网络的学习规则

对于不同的神经网络结构和模型,在网络学习过程中,有不同的学习规则,通过这些学习规则来调整神经元之间的连接权重,实现神经网络的学习。

Hebb规则

Hebb它是根据生理学中的条件反射机理,于年提出的神经元连接强度变化的规则。其内容为如果两个神经元同时兴奋即同时被激活,则它们之间的突触连接加强,否则被减弱。常用于自联想网络,如Hebb网络。

Delta规则

这种规则根据输出节点的外部反馈来改变权系数。在方法上它和梯度下降法等效,按局部改善最大的方向一步步进行优化,从而最终找到全局优化值。感知器学习就是采用这种纠错学习规则,例如算法。

相近学习规则

这个规则根据神经元之间的输出决定权值的调整,如果两个神经元的输出比较相似,则连接它们的权值调整大,反之调整小。这种规则多用于竞争型神经网络的学习中。

; o4 p& ?, m4 F' c0 }) F- a/ H' ?