knn算法缺点

knn算法缺点

机器学习中算法的优缺点之最近邻算法 -
由此可见，KNN算法的优点是有很多的。那么KNN算法的缺点是什么呢？这种算法的缺点具体体现在六点，第一就是样本不平衡时，预测偏差比较大。第二就是KNN每一次分类都会重新进行一次全局运算。第三就是k值大小的选择没有理论选择最优，往往是结合K-折交叉验证得到最优k值选择。第四就是样本不平衡问题（即好了吧！
6.knn算法的优缺点 优点： 简单，效果还不错，适合多分类问题 缺点： 效率低（因为要计算预测样本距离每个样本点的距离，然后排序），效率会随着样本量的增加而降低。
最邻近规则分类(K-Nearest Neighbor)KNN算法(七) -
---可以根据实例的特征值来进行归类（分类）。3.1 步骤：3.3 举例：4.1 算法优点4.2 算法缺点注意：在选择k的时候，一般k为奇数，因为保证了结果相等的出现情况被排除了，如果选择偶数，可能会出现结果相等考虑距离，根据距离加上权重（比如： 1/d (d: 距离）--表示加权重来计算大小）
而KNN则是基于距离的分类算法，它通过计算待分类项与数据集中每个项的距离，然后根据距离最近的K个数据点的分布，进行分类。KNN的优点在于其对异常值和噪声有较好的鲁棒性，但缺点在于需要大量存储空间和计算时间。两者的联系在于它们都是基于距离的算法，都试图通过距离来描述数据间的关系。但它们的应用还有呢？
01 KNN算法 - 概述 -
1、蛮力实现(brute)： 计算预测样本到所有训练集样本的距离，然后选择最小的k个距离，即可得到k个最邻近点。 缺点：当特征数多、样本数多时，算法的效率比较低。2、KD树(kd_tree)： 首先对训练数据进行建模，构建KD树，然后根据建好的模型来获取邻近样本数据。 后续内容会介绍KD树搜索最说完了。
优点： 精度高，对异常值不敏感，无数据输入假定； KNN 是一种在线技术，新数据可以直接加入数据集而不必进行重新训练； KNN 理论简单，容易实现。缺点： 对于样本容量大的数据集计算量比较大，即计算复杂度高； 必须保存全部数据集，即空间复杂度高； KNN 每一次分类都会重新进行一次说完了。
KNN算法常见问题总结 -
KNN一般采用欧氏距离，也可采用其他距离度量，一般的Lp距离： KNN中的K值选取对K近邻算法的结果会产生重大影响。如果选择较小的K值，就相当于用较小的领域中的训练实例进行预测，“学习”近似误差(近似误差：可以理解为对现有训练集的训练误差)会减小，只有与输入实例较近或相似的训练实例才会对预测结果起作用，与此同时带好了吧！
KNN的主要优点有：KNN的主要缺点有：值的选择没有经验性的方法，一般只能通过交叉验证来选取合适的k值。如果 值选择较小，就相当于用较小的邻域中的训练实例进行预测，“学习”的近似误差会减小，只有与输入实例较近的训练实例才会对预测起作用，但估计误差会增大，预测结果会对近邻的实例点非常敏感，..

猜你感兴趣： knn算法缺点包括   knn算法原理及优缺点   knn算法分析   knn算法现实例子   knn算法适用范围   knn算法常用于哪类问题   knn算法的基本原理   knn算法的实际应用   knn算法优缺点   knn算法的优点有