求knn算法！！！

ocean1985 2008-03-06 06:27:23

求knn算法，谁有算法源码给我一份，我的邮箱是chidayang@yahoo.com.cn

...全文

699 2 打赏收藏转发到动态举报

写回复

用AI写文章

2 条回复

切换为时间正序

请发表友善的回复…

发表回复

qiuqiu173 2008-03-08

打赏
举报

http://www.programsalon.com/downloads26/sourcecode/math/detail83627.html

qiuqiu173 2008-03-08

打赏
举报

该算法的基本思路是：在给定新文本后，考虑在训练文本集中与该新文本距离最近（最相似）的 K 篇文本，根据这 K 篇文本所属的类别判定新文本所属的类别，具体的算法步骤如下：
1:根据特征项集合重新描述训练文本向量
2:在新文本到达后，根据特征词分词新文本，确定新文本的向量表示
3:在训练文本集中选出与新文本最相似的 K 个文本，计算公式为：

其中，最相似标准的确定目前没有很好的方法，一般采用先定一个初始值，然后根据实验测试的结果调整。

4:在新文本的 K 个邻居中，依次计算每类的权重，计算公式如下：

其中，为新文本的特征向量，为相似度计算公式，与上一步骤的计算公式相同，而为类别属性函数，即，如果属于类，那么函数值为1，否则为0。

5:比较类的权重，将文本分到权重最大的那个类别中

1 算法简介 K近邻算法（英文为K-Nearest Neighbor，因而又简称KNN算法）是非常经典的机器学习算法。 K近邻算法的原理非常简单：对于一个新样本，K近邻算法的目的就是在已有数据中寻找与它最相似的K个数据，或者说“离它最近”的K个数据，如果这K个数据大多数属于某个类别，则该样本也属于这个类别。（K的含义）以下图为例，假设五角星代表爱情片，三角形代表科幻片。此时加入一个新样本正方形，需要判断其类别。当选择以离新样本最近的3个近邻点（K＝3）为判断依据时，这3个点由1个五角星和2个三角形

KNN 算法，或者称 k最邻近算法，是有监督学习中的分类算法。它可以用于分类或回归问题，但它通常用作分类算法。

KNN(k邻近算法)是机器学习算法中常见的用于分类或回归的算法。它简单，训练数据快，对数据分布没有要求，使它成为机器学习中使用频率较高的算法，并且，在深度学习大行其道的今天，传统可解释的简单模型在工业大数据领域的应用更为广泛。本文介绍KNN算法的基本原理和用R代码实现。算法介绍 KNN的核心思想可以用平常的俗语表示"物以类聚，人以群分"，就是相似的东西很有可能具有相似的属性。k邻近法假设给定一个训练数据集，其中的数据标签已给。对于新的样本，找到与其k个最近邻的训练数据，这k个训练数据的多数属于某个类，.

1. KNN 算法原理 k-近邻算法（k-Nearest Neighbour algorithm）的工作原理：给定一个已知标签类别的训练数据集，输入没有标签的新数据后，在训练数据集中找到与新数据最邻近的 k 个实例，如果这 k 个实例的多数属于某个类别，那么新数据就属于这个类别。即由那些离新数据最近的 k 个实例来投票决定新数据归为哪一类。最邻近分类算法是数据挖掘分类（classificat...

近邻算法是一种简单而有效的监督学习算法，在许多领域都有广泛的应用。然而，它也存在一些缺点，如计算量大、维数灾难等。未来可以研究如何优化距离计算、降低算法复杂度、处理高维数据等问题，以提高近邻算法的性能和应用范围。同时，也可以探索将近邻算法与其他机器学习算法相结合的方法，以充分利用各自的优点，提高预测精度和稳定性。