过拟合和欠拟合的解决方法 机器学习需要哪些数学基础?
机器学习需要哪些数学基础?
主要是线性代数和概率论。
现在最流行的机器学习模型,神经网络基本上有很多向量、矩阵、张量。从激活函数到损失函数,从反向传播到梯度下降,都是对这些向量、矩阵和张量的运算和操作。
其他“传统”机器学习算法也使用大量线性代数。例如,线性回归与线性代数密切相关。
从线性代数的观点来看,主成分分析是对协方差矩阵进行对角化。
尤其是当你读论文或想更深入的时候,概率论的知识是非常有用的。
它包括边缘概率、链式规则、期望、贝叶斯推理、最大似然、最大后验概率、自信息、香农熵、KL散度等。
神经网络非常讲究“可微性”,因为可微模型可以用梯度下降法优化。梯度下降和导数是分不开的。所以多元微积分也需要。另外,由于机器学习是以统计方法为基础的,因此统计知识是必不可少的。但是,大多数理工科专业学生都应该学过这两部分内容,所以这可能不属于需要补充的内容。
数据拟合是什么意思?
数据拟合又称曲线拟合,俗称拉曲线,是通过数学方法将现有数据表达成数字公式的一种方法。科学和工程问题可以通过采样和实验等方法获得大量离散数据。根据这些数据,我们往往希望得到一个连续函数(即曲线)或更密集的离散方程,这与已知的数据是一致的。这个过程叫做拟合。
过拟合和欠拟合的解决方法 避免欠拟合和过拟合的方法 过拟合与欠拟合简要总结
版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。