正则化的通俗解释 正则化的方法是什么?
正则化的方法是什么?
定义:正则化是指在线性代数理论中,不适定问题通常由一组线性代数方程组来定义,这些方程组通常来源于具有大量条件的不适定反问题。条件数过大意味着舍入误差或其他误差会严重影响问题的结果。另外,我们给出了一个解释性的定义:对于线性方程AX=B,当解X不存在或不唯一时,就是所谓的不适定问题。但是在很多情况下,我们需要解决不适定问题,那么怎么办呢?对于解不存在的情况,通过增加一些条件来寻找近似解;对于解不唯一的情况,通过增加一些限制来缩小解的范围。这种通过增加条件或限制来解决病态问题的方法称为正则化方法。正则化就是正则化,就是正则化和调整。通过一些调整或其他方法,病态问题也可以得到唯一的解决方案。在这个平差过程中,采用的技术是正则化技术,采用的方法是正则化方法。求解线性方程组的标准方法是最小二乘法,即求解最小值,对于病态的线性方程组,Tikhonov提出的方法称为Tikhonov矩阵
简而言之,机器学习就是根据样本数据训练模型,然后用这个模型计算出测试数据的输出值。由于样本数据存在一定的误差,训练后的模型容易出现“过拟合”(即模型与样本数据几乎匹配,但不是实际模型)。正则化是为了解决“过拟合”问题,使模型更接近实际情况,防止被错误的样本数据“偏误”。
在上图中,图1拟合不足(通常是因为样本数据太少),图2拟合过度。该模型虽然与样本数据完全吻合,但过于复杂和陌生,明显脱离实际。图3是添加正则化后接近真实模型的结果。
机器学习中常常提到的正则化到底是什么意思?
[AI疯狂高级正则化-今日头条]https://m.toutiaocdn.com/item/6771036466026906123/?app=newsuArticle&timestamp=157662997&reqid=201912180846060100140470162DE60E99&groupid=6771036466026906123&ttfrom=copylink&utmuSource=copylink&utmuMedium=toutiaoios&utmuCampaign=client神经网络正则化技术包括数据增强、L1、L2、batchnorm、dropout等技术。本文对神经网络正则化技术及相关问题进行了详细的综述。如果你有兴趣,可以关注我,继续把人工智能相关理论带到实际应用中去。
版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。