神经网络层数怎么确定 深度学习和普通的机器学习有什么区别?
深度学习和普通的机器学习有什么区别?
一张图片显示了这种关系。机器学习是人工智能的重要领域之一,而深度学习是机器学习的一个分支。深度学习之所以近年来流行起来,是因为它突破了传统机器学习无法解决的一些问题。
机器学习的意义在于代替人工完成重复性工作,识别出统一的规则(模式)。但是对于传统的机器学习来说,特征提取的难度不小(特征可以是像素、位置、方向等)。特征的准确性将在很大程度上决定大多数机器学习算法的性能。为了使特征准确,在特征工程部分需要大量的人力来调整和改进特征。完成这一系列工作的前提是,数据集中所包含的信息量是充分的,并且易于识别。如果不满足这一前提,传统的机器学习算法将在信息的杂乱中失去其性能。深度学习的应用正是基于这个问题。它的深层神经网络使它能够在杂波中学习,自动发现与任务相关的特征(可以看作是自发学习的特征工程),并提取高级特征,从而大大减少了特征工程部分任务所花费的时间。
另一个明显的区别是他们对数据集大小的偏好。传统的机器学习在处理规则完备的小规模数据时表现出良好的性能,而深度学习则表现不好。随着数据集规模的不断扩大,深度学习的效果会逐渐显现出来,并变得越来越好。对比如下图所示。
神经网络的每一层网络,有什么实际的意义吗?
这个问题涉及到神经网络的可解释性。经过训练,每一层神经网络都有其实际意义,但这一意义通常很难被人类简单地理解。人类可以尝试对经过训练的神经网络进行重复计算,但这种计算的意义还不够明确,因此一般认为神经网络的“解释性”不强。
一般来说,浅层神经元提取一些低级特征,而深层神经元提取一些高级特征。在许多问题中,我们可以设计一些方法来可视化从每个隐藏层中提取的特征,但是这种方法不能很好地解释所有的问题,所以很多人把神经网络看作一个“黑匣子”。
在某些特定问题中,模型可能具有良好的可解释性。以卷积神经网络(CNN)为例,提出了一种逐层提取特征的方法。如下图所示,底层网络提取图像的边缘、纹理等特征。随着层次的提高,网络逐渐提取出更高层次、更全面的特征。然而,这并不是说CNN的解释能力是完美的。只能说,CNN比一般的神经网络具有相对更好的解释能力,但我们仍然很难真正厘清每一层网络的实际意义。
在深度学习被提出之前,当时机器学习领域最流行、最成功的方法是随机林,随机林中的每一棵决策树都有非常好的解释性——深度学习抛弃了这种解释性,从模型的最终性能来看,它也有一个更好的表现比各种随机森林。从这个例子中,我们还可以感觉到模型的可解释性和模型的性能之间存在着非常复杂的关系。当您的模型非常简单时,模型的可解释性越强,模型的性能越好;但一旦模型变得复杂,模型的可解释性和模型的性能之间可能会出现矛盾。
神经网络层数怎么确定 神经网络层数对结果的影响 神经网络分为几层
版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。