全部版块 我的主页
论坛 数据科学与人工智能 数据分析与数据科学 数据分析与数据挖掘
760 0
2020-11-24
神经网络中的学习规则
神经网络中的学习规则是什么?
学习规则或 学习过程 是一种方法或数学逻辑。它提高了人工神经网络的性能,并在网络上应用了该规则。因此,当网络在特定数据环境中进行仿真时,学习规则将更新网络的权重和偏差级别。
应用学习规则是一个反复的过程。它有助于神经网络从现有条件中学习并改善其性能。
让我们看看神经网络中的不同学习规则:
Hebbian学习规则– 它确定如何修改网络节点的权重。
感知器学习规则– 网络通过为每个权重分配一个随机值来开始其学习。
增量学习规则– 节点的权重的修改等于误差与输入的乘积。
关联学习规则– 关联规则是监督学习。
脱星学习规则– 当它假定网络中的节点或神经元排列在一层中时,可以使用它。
1. Hebbian学习规则
该 赫宾规则 是第一个学习规则。1949年,  Donald Hebb 将其开发为无监督神经网络的学习算法。我们可以使用它来确定如何提高网络节点的权重。
在 赫布学习规则 假设-如果两个相邻的神经元被激活,并在同一时间关闭。然后,连接这些神经元的重量应增加。对于处于相反相位的神经元,它们之间的权重应减小。如果没有信号相关,则权重不应改变。
当两个节点的输入为正或负时,则节点之间将存在很强的正权重。如果一个节点的输入为正,而另一个的输入为负,则节点之间存在很大的负权重。
首先,将所有权重的值设置为零。此学习规则可用于软激活功能和硬激活功能。由于学习过程中未使用所需的神经元反应,因此这是无监督的学习规则。权重的绝对值通常与学习时间成正比,这是不希望的。
Hebbian学习规则描述公式如下:
2.感知器学习规则
如您所知,神经网络中的每个连接都具有关联的权重,权重在学习过程中会发生变化。根据监督学习的示例,网络通过为每个权重分配一个随机值来开始其学习。
根据一组记录,计算输出值,我们可以知道这些记录的预期输出值。这是指示整个定义的学习样本。结果,它称为学习样本。
然后,网络将计算出的输出值与期望值进行比较。接下来,计算误差函数ε,该函数 可以是学习样本中每个个体发生的误差的平方和。
计算如下:
对学习集合的个体进行第一次求和,对输出单位进行第二次求和。Eij和Oij是第i个个体的第j个单位的期望值和获得值。
然后,网络会调整不同单位的权重,每次检查以查看误差函数是增加还是减少。如常规回归中那样,这是解决最小二乘问题的问题。
由于根据用户分配节点的权重,因此它是监督学习的一个示例。
题库
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

相关推荐
栏目导航
热门文章
推荐文章

说点什么

分享

扫码加好友,拉您进群
各岗位、行业、专业交流群