2016 - 2024

感恩一路有你

knn算法代码讲解 Knn算法三个要素包括什么?

浏览量:3778 时间:2023-04-24 11:55:31 作者:采采

Knn算法三个要素包括什么?

一个或三个元素

KNN算法的三个要素:K值的选择、距离向量和分类规则。

KNN是一种懒惰学习算法,不需要训练过程。分类和回归分析都可以进行。

(1)k值的选择会对算法的结果产生很大的影响。k值小意味着只有接近输入样本的训练样本才会在预测结果中发挥作用,但容易过拟合;如果k值较大,优点是可以降低学习的估计误差,缺点是学习的近似误差增大。这时候距离输入样本较远的训练样本也会在预测中起到作用,这是预测中的一个误差。在实际应用中,k的值一般是一个小值,通常通过交叉验证选择最大的k值。当训练样本数趋于无穷大和K1时,错误率不会超过贝叶斯错误率的两倍,如果k也趋于无穷大,错误率趋于贝叶斯错误率。

(2)该算法中的分类决策规则往往是多数投票,即输入样本的类别由k个最近的训练样本中的多数决定,这对应于经验风险的最小化。

(3)距离度量一般采用Lp距离,当p2为欧氏距离时,在度量之前,要对每个属性的值进行归一化处理,这样有助于避免初值域较大的属性比初值域较小的属性权重过大。

两种优化方法

要实现K近邻,主要考虑的是如何快速搜索训练数据。这在特征空间维数大,训练数据大的情况下尤为重要。一种解决方案是KD树。

KD-tr

机器学习前景如何?

机器人的应用越来越广泛,不仅在一些高端行业,在其他一些行业也是如此,所以市场对机器人人才的需求也会增加,所以前景不错。

首先,很清楚机器学习解决什么问题。应该说机器学习应用广泛。机器学习算法分为四类:分类、回归、聚类和降维。

对于分类,我说的是一个应用场景。之前在大华机器人系面试,面试官问了我一个问题:一个二维坐标平面有10万多个点,机器人到一个点的距离不到5 cm,所以我觉得机器人在这个点,问怎么判断机器人在某个点。这其实是一个分类的问题。是否在这个点,就是是否属于这个点(类)。机器学习中的KNN算法可以很快解决这个问题。

对于回归来说,它意味着拟合一条连续的曲线并进行预测。比如天气预报就是一种回归。

正确聚类就是自动分类,人为设置类别数,根据距离判断样本属于哪个类别。

降维就是主成分提取。我们的数据中可能有很多无用的维度。根据矩阵特征值的大小,提取主成分。特征值越大,特征越明显,我们想要的特征就越多。

简而言之,机器学习可以解决很多问题。

It 还是很不错的。如果你对这个发展感兴趣,尽早准备。

算法 距离 问题

版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。