过拟合和欠拟合的解决方法 以神经网络为核心的智能算法是否可以预测股票价格?
以神经网络为核心的智能算法是否可以预测股票价格?
如何创建一个优秀的神经网络模型?
例如,要预测一个人是男人还是女人,有两组因素可供选择:a.头发颜色、皮肤颜色、双眼皮与否;B.他是否有胡须、是否有亚当苹果和他的体重。
因此,为了建立一个优秀的神经网络模型,我们必须选择具有高度相关性的因素。
同样的因素,在不同的神经网络结构中,预测结果会有很大的不同。
如果结构太简单,会出现“欠拟合”,即应该分析的不分析;如果结构太复杂,会出现“过拟合”,即不应该分析的不分析。只有正确的网络结构才能分析出预期的结果。
例如:
一个住在偏远村庄a的学生被城市B中学录取。他是村里历史上唯一被B中学录取的人。高考后,他被清华大学录取。
如果已经安装了模型,将考虑100%的“住a村”和“读B高中”的人可以被清华大学录取。这是真的,但显然不是我们想要的结论。
直接图表:
沃伦·巴菲特(Warren Buffett)是公认的投资大师,在过去20年中实现了20%的平均回报率;詹姆斯·西蒙斯(James Simmons)使用他的量化模型,从1989年到2009年实现了约35%的平均回报率。
深度神经网络是否夸张地过拟合了?
这不可能是一样的。
1. 过度装配可分为许多情况。一是现在的情况太多了。这种神经网络能对许多情况给出正确的答案。即使它是过度安装,你也无法证明它。此外,即使它能工作和排气,也没有坏处。
2. 是否过拟合与我们的神经网络模型和训练集有关。当二者的组合过拟合时,它在训练集上运行良好,在验证集上也会出现问题。现在有一些方法可以对训练集的数据进行预处理、多次输入和多次训练。
3. 目前,过度拟合的问题是不可避免的。培训本身就是一种适应过程。如果未来在数学原理或应用这方面有质的突破,可能有解决的机会。
可以通过直接减少hidden layer、hidden unit而不是加正则化来解决神经网络过拟合吗?
简单的答案是肯定的。复杂的答案是不确定的(见下文)。
这个概念。
(图片作者:chabacano,许可证:CC by sa 4.0)
从图像中可以明显看出,过度拟合的曲线过于曲折(复杂),对现有数据拟合得非常好,但它不能很好地描述数据的规律,因此面对新数据,我们不得不停下来。
从上面我们得到一个直觉,过度拟合的模型往往比正确的模型更复杂。
。您所说的“直接减少隐藏层和隐藏单元的数量”使网络更薄、更窄正是简化模型的方法。这个想法没有问题。
但是,我们可能必须尝试找出它是否有效。因为,一般来说,更复杂的网络可能更有表现力。
一般来说,神经网络仍然是一个黑匣子。有时,正则化的效果更好,有时则不然。一些问题可能是复杂的网络工作得很好,另一些问题可能是深度和狭窄的网络工作得很好,另一些问题可能是薄而宽的网络工作得很好,或者一些问题可能是简单的网络工作得很好。
具体来说,为了解决过拟合问题,除了简化模型(即您称之为“直接减少隐藏层、隐藏层、隐藏层”)外,还存在漏项(在某种意义上,我们可以看到模型的某些部分由于简化模型的绕道而无法工作),以及人为增加稀疏性限制(稀疏性和简化之间存在模糊关系)或尽快停止训练。
神经网络能不能完全拟合简单函数呢?
答案是,理论上,这取决于运气。
在很大的概率中,训练的结果是达到局部最优。如果你幸运的话,就有可能达到全局最优。因此,在实际应用中,神经网络完全拟合函数存在误差。
当然,神经网络的最佳用途不是拟合函数。我们之所以使用神经网络,是因为我们需要它的泛化能力,即对于未知的特征可以得到很好的分类或回归结果。拟合函数只使用它的记忆能力。
请教大牛神经网络的过拟合问题?
你的问题很模糊。你想知道神经网络的过拟合是什么样的吗?为什么会有过拟合。对于第一个问题,神经网络的过拟合类似于支持向量机、高斯混合模型等建模方法的过拟合,说明训练数据集的建模效果很好,而测试数据集的建模效果很差,由于强学习能力是预测模型中的噪声会湮灭有用信息,导致泛化能力差。对于第二个问题,产生上述现象的主要原因是隐层节点过多(隐层节点越多,学习能力越强),这使得预测模型在训练过程中挖掘训练数据集中的噪声,即噪声会湮灭有用信息。因此,在使用神经网络建模时,必须处理模型过拟合的问题。一方面,我们可以增加样本数据集,另一方面,我们可以使用交叉验证来选择适当数量的隐层节点,在精度和泛化能力之间做出权衡。最常用的方法是加入正则化项,在一定程度上可以防止模型过拟合的问题。(机器学习算法和python学习)
版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。