k近邻算法基础知识 kkn是什么意思？
kkn是什么意思？
Kkn是kirk
k近邻算法怎么找分类点？
k近邻(KNN)分类算法是理论上比较成熟的方法，也是最简单的机器学习算法之一。
该方法的思想是:在特征空间中。如果一个样本附近的k个最近样本大部分属于某个类别，那么这个样本也属于这个类别。
收敛阶怎么求？
迭代过程的收敛速度是指迭代误差的下降速度。迭代法的收敛速度一般用收敛阶来描述。
定义2:对于收敛的迭代法XK1φ (xk)，(K1，2，)x _ {k1} var phi (x _ k)，(k1，2，cdots) xK1φ (xk)，(k1，2，)如果有一个常数p ≥ 1，c0pgeq1，
l i m k → ∞ e k 1 e k p C lim_{k
1}}{e^p_k}Climk→∞ekpek 1C区
如果成立(其中e·k·∣x·k·x·∣e _ k | x _ k-x * | ek·∣xkx·∣)，则称迭代法收敛于p阶(次)。特别的，当p 1 p1p1时叫线性收敛，当p 2 p2p2时叫平方收敛。
例2:讨论一般迭代法xk1φ (xk)，(k1，2，)x _ {k1} varphi (x _ k)，(k1，2，cdots) xk1φ (xk)，(k1，2，)的收敛速度。
解法:设xφ (x) x * var phi (x *) xφ (x)，所以xk1xφ(xk)x _ { k1 }-x * var phi(x _ k)-var phi(x *)xk1xφ(xk。根据中值定理，有
x k 1 xφ(x k)φ(x)φ′(ξ)(x k x)x _ { k 1}-x^*varphi(x_k)-varphi(x^*)varphi(xi)(x_k-x^*)xk 1xφ(xk)φ(x)φ′(ξ)(xkx)
ξ xiξ是x k x_kxk和x x x * x之间的一个点。
因为EK1X1X，EK1XXE _ {K1} X _ {X1}-X *，E _ KX _ K-X * EK1xx，EKXKX，当x k x_kxk在根X * X附近时，有EK1φ′(X)EKE _。
可以看出，当φ(x)≠0 varφ(x *)时
当EQ0φ (x) 0时，一般迭代法XK1φ (xk)，(K1，2，)x _ {k1} varphi (x _ k)，(k1，2，cdots) xK1φ (xk)，(k1，2，)具有线性收敛性。
定理3:对于迭代过程xk1φ(xk)x _ { k1 } var phi(x _ k)xk1φ(xk)，若迭代函数φ (x) varphi(x)φ(x)在根x x * x附近有连续的二阶导数，且∣φ′(x
(1)当φ′(x)≠0时varφ(x *)
当eq 0φ′(x)0时，迭代过程是线性收敛的；
(2)当φ′(x)0 var phi(x *)0φ′(x)0，且φ′(x)≠0 var phi(x *)
当方程0φ′′(x)0时，迭代过程是平方收敛的。
一般迭代法的收敛速度也可以是p阶收敛。设φ (x) varphi(x)φ(x)在x φ (x) xvarphi(x)xφ(x)的根附近有p阶连续导数，φ′(x)φ′(x)φ (p 1)(x)0，φ(p)。
方程0φ′(x)φ′′(x)φ(P1)(x)0，φ (p) (x) 0，则迭代过程xk1φ(xk)x _ { k1 } var phi(x _ k)xk1φ(xk)是p阶收敛的。
用迭代法求解方程的根时，可以先判断迭代函数的收敛速度，再详细计算。
2.加速收敛过程
一次收费在收敛的迭代过程中，只要迭代次数足够多，计算结果可以达到任意指定的精度。但如果收敛过程太慢，计算工作量太大，在实际计算过程中往往要考虑加速收敛过程的问题。
版权声明：本文内容由互联网用户自发贡献，本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。
