knn算法原理
knn算法是什么? -
KNN算法本身简单有效，它是一种lazy-learning算法，分类器不需要使用训练集进行训练，训练时间复杂度为0。KNN分类的计算复杂度和训练集中的文档数目成正比，也就是说，如果训练集中文档总数为n，那么KNN的分类时间复杂度为O(n)。KNN方法虽然从原理上也依赖于极限定理，但在类别决策时，只与极少量的相邻说完了。
KNN的算法过程是是这样的：从上图中我们可以看到，图中的数据集是良好的数据，即都打好了label，一类是蓝色的正方形，一类是红色的三角形，那个绿色的圆形是我们待分类的数据。如果K=3，那么离绿色点最近的有2个红色三角形和1个蓝色的正方形，这3个点投票，于是绿色的这个待分类点属于红色的三角到此结束了？。
KNN算法本身简单有效，它是一种lazy-learning算法，分类器不需要使用训练集进行训练，训练时间复杂度为0。KNN分类的计算复杂度和训练集中的文档数目成正比，也就是说，如果训练集中文档总数为n，那么KNN的分类时间复杂度为O(n)。KNN方法虽然从原理上也依赖于极限定理，但在类别决策时，只与极少量的相邻说完了。
KNN的算法过程是是这样的：从上图中我们可以看到，图中的数据集是良好的数据，即都打好了label，一类是蓝色的正方形，一类是红色的三角形，那个绿色的圆形是我们待分类的数据。如果K=3，那么离绿色点最近的有2个红色三角形和1个蓝色的正方形，这3个点投票，于是绿色的这个待分类点属于红色的三角到此结束了？。
k 近邻法(k-nearest neighbor, k-NN）是一种基本分类与回归方法。是数据挖掘技术中原理最简单的算法之一，核心功能是解决有监督的分类问题。KNN能够快速高效地解决建立在特殊数据集上的预测分类问题，但其不产生模型，因此算法准确性并不具备强可推广性。k近邻法的输入为实例的特征向量，对应与特征有帮助请点赞。
KNN 算法基于距离，它的原理是：选择与待分类数据最近的K 个点，这K 个点属于哪个分类最多，那么待分类数据就属于哪个分类。所以，要判断电影A 属于哪一类电影，就要从已知的电影样本中，选出距离电影A 最近的K 个点：比如，我们从样本中选出三个点（即K 为3），那么距离电影A 最近的三个等我继续说。
为什么k临近算法不能处理特征很多的数据集? -
一、kNN算法的工作原理二、适用情况三、算法实例及讲解---1.收集数据---2.准备数据---3.设计算法分析数据---4.测试算法一、kNN算法的工作原理官方解释：存在一个样本数据集，也称作训练样本集，并且样本中每个数据都存在标签，即我们知道样本集中每一数据与所属分类的对应关系，输入没有后面会介绍。
KNN通过在整个训练集中搜索K个最相似的实例，即K个邻居，并为所有这些K个实例分配一个公共输出变量，来对对象进行分类。3、Adaboost是一种迭代算法，其核心思想是针对同一个训练集训练不同的分类器(弱分类器)，然后把这些弱分类器集合起来，构成一个更强的最终分类器(强分类器)。4、人工智能主要典型是什么。
关于knn的方法正确的是 -
关于KNN算法的正确方法如下：1、假设给定一个训练数据集，其中的实例类别已定。分类时，对新的实例，根据其k个最近邻的训练实例类别，通过多数表决等方式进行预测。可以使用其他距离：曼哈顿距离、切比雪夫距离、闵可夫斯基距离等。k值的确定：在许多实际应用中数据是不充足的。2、为了选择好的模型，可以采用后面会介绍。
1、朴素贝叶斯算法（Naive Bayes）：是一种基于贝叶斯定理的分类算法，常用于文本分类、垃圾邮件过滤等领域。2、K近邻算法（K-Nearest Neighbor，KNN）：是一种基于相似度的分类算法，常用于图像识别、推荐系统等领域。3、决策树算法（Decision Tree）：是一种基于树形结构的分类算法，常用于数据挖掘、金融是什么。
机器学习的优缺点 -
5、KNN还可以处理回归问题。6、和朴素贝叶斯对比，对数据没有假设，准确度高，对异常点不敏感。缺点：1、计算量大，尤其是特征数非常多的时候，每一个待分类的样本都要计算它到全体已知样本的距离，才能得到它的第K个最近邻点。2、可理解性差，无法给出像决策树那样的规则。3、是惰性算法，基本上不是什么。
K-Means是无监督学习的聚类算法，没有样本输出；而KNN是监督学习的分类算法，有对应的类别输出。KNN基本不需要训练，对测试集里面的点，只需要找到在训练集中最近的k个点，用这最近的k个点的类别来决定测试点的类别。而K-Means则有明显的训练过程，找到k个类别的最佳质心，从而决定样本的簇类别。当然，两者也有一些相似到此结束了？。