bp神经网络误差反向传播 神经网络反向传播算法本质是在解决什么问题?是怎样的?
神经网络反向传播算法本质是在解决什么问题?是怎样的?
反向传播算法是一个深入的神经网络学习过程,最终误差值根据梯度和误差传播原理返回到数据输入方向,用来修改每层神经元的权值或卷积核参数,以达到减小正误差的目的,当经过一轮反向传播后,正误差很小,达到可接受的水平时,神经网络才稳定训练。
如何理解反向传播算法?
类比类似于几个人站成一排,第一个人看一幅画(输入数据),描述给第二个人(隐藏层)等等,说到最后一个人(输出),画就看不见了。反向传播是把画展示给最后一个人(计算误差),然后最后一个人会告诉前一个人在下一个描述中要注意什么(重量校正)。
机器学习究竟在学习什么?
标准定义:对于任务及其性能过程的度量方法,给出了具体的算法。利用经验数据不断改进任务执行过程的方法称为机器学习。
简单定义:
举个简单的例子:出租车司机开车送你从上海到北京。在这里,“任务”是从上海到北京,“表现过程”是从上海到北京的不同道路,“经验数据”是每一条可以走的道路。在此基础上,设计了一种算法,利用实证数据建立“上海哪条路走”模型,提高北京的速度效应。
为了通过使用经验数据改进性能过程,最流行的方法是“误差反向传播”。该方法的核心思想是:让机器自由试错,然后根据试错结果与样本真实结果之间的误差调整试错策略。对误差较小的尝试进行奖励,对误差较大的尝试进行惩罚,然后在一个周期内进行试验,直到所有样本的学习结果达到我们定义的最佳性能。
通过“误差反向传播”算法,机器将探索越来越多的上海到北京的道路,并以越来越快的速度找到最佳道路,这与老司机在多次驾驶后得到最佳选择基本相同。
人与机器之间的差距也将反映在这里。当从上海到北京有很多路的时候,人们不可能总是像机器那样探索道路。对于机器的数据处理能力来说,这样的数据量可能是几分钟内的最佳选择
当然,人们可以找到一种新的方法。新手可以一路询问老司机,而不是一路反复探索。
bp神经网络误差反向传播 误差反向传播算法的基本思想 反向传播算法过程
版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。