knn中k的取值交叉验证法
交叉验证的作用 -
KNN算法中k值的大小，代表分类时考虑训练数据点周围的数据点的个数。不同的k的取值，分类结果不同。我们可以用循环的方法对k进行循环，根据不同k值对应的得分（上述交叉验证的评价得分）决定k的取值，从而确定最终的模型和模型评价。上图是以准确度为评价标准，k从1～31对应的score的值这组数据选择12说完了。
有一些算法天生就是高方差的算法：KNN 通常来说，非参数学习通常都是高方差算法.因为模型对训练数据非常敏感.有一些算法天生就是高偏差算法：线性回归 参数学习通常都是高偏差算法.因为选取时模型本身具有极强的假设性.但是，大多数算法具有相应的参数，可以调整偏差和方差.例如KNN中的k和线性回归中的特到此结束了？。
KNN算法中k值的大小，代表分类时考虑训练数据点周围的数据点的个数。不同的k的取值，分类结果不同。我们可以用循环的方法对k进行循环，根据不同k值对应的得分（上述交叉验证的评价得分）决定k的取值，从而确定最终的模型和模型评价。上图是以准确度为评价标准，k从1～31对应的score的值这组数据选择12说完了。
有一些算法天生就是高方差的算法：KNN 通常来说，非参数学习通常都是高方差算法.因为模型对训练数据非常敏感.有一些算法天生就是高偏差算法：线性回归 参数学习通常都是高偏差算法.因为选取时模型本身具有极强的假设性.但是，大多数算法具有相应的参数，可以调整偏差和方差.例如KNN中的k和线性回归中的特到此结束了？。
K值的选取：K是一个自定义的常量，是KNN算法中一个非常重要的参数。K值的选取会影响待分类样本的分类结果，会影响算法的偏差与方差。偏差：模型输出值与真实值之间的差异。偏差越高，则数据越容易欠拟合(Underfitting)，未能充分利用数据中的有效信息。方差：对数据微小改变的敏感程度。假如有一组同一类的还有呢？
一般而言，具体的分类算法包括，逻辑回归、决策树、KNN、贝叶斯判别、SVM、随机森林、神经网络等。预测算法预测类算法，其目标变量一般是连续型变量。常见的算法，包括线性回归、回归树、神经网络、SVM等。无监督学习无监督学习，即不存在目标变量，基于数据本身，去识别变量之间内在的模式和特征。例如关联分析，通过数据发现有帮助请点赞。
数据挖掘与生活:算法分类和应用 -
一般而言，具体的分类算法包括，逻辑回归、决策树、KNN、贝叶斯判别、SVM、随机森林、神经网络等。2)预测算法预测类算法，其目标变量一般是连续型变量。常见的算法，包括线性回归、回归树、神经网络、SVM等。二)无监督学习无监督学习，即不存在目标变量，基于数据本身，去识别变量之间内在的模式和特征。例如关联分析，通过后面会介绍。