数据挖掘算法源码

‘壹’ 数据挖掘源代码

基本Kmeans算法实现 C++代码

#include<iostream>
#include<sstream>
#include<fstream>
#include<vector>
#include<math.h>
#include<stdlib.h>
#definek3//簇的数目
usingnamespacestd;
//存放元组的属性信息
typedefvector<double>Tuple;//存储每条数据记录

intdataNum;//数据集中数据记录数目
intdimNum;//每条记录的维数

//计算两个元组间的欧几里距离
doublegetDistXY(constTuple&t1,constTuple&t2)
{
	doublesum=0;
	for(inti=1;i<=dimNum;++i)
	{
		sum+=(t1[i]-t2[i])*(t1[i]-t2[i]);
	}
	returnsqrt(sum);
}

//根据质心，决定当前元组属于哪个簇
intclusterOfTuple(Tuplemeans[],constTuple&tuple){
	doubledist=getDistXY(means[0],tuple);
	doubletmp;
	intlabel=0;//标示属于哪一个簇
	for(inti=1;i<k;i++){
		tmp=getDistXY(means[i],tuple);
		if(tmp<dist){dist=tmp;label=i;}
	}
	returnlabel;	
}
//获得给定簇集的平方误差
doublegetVar(vector<Tuple>clusters[],Tuplemeans[]){
	doublevar=0;
	for(inti=0;i<k;i++)
	{
		vector<Tuple>t=clusters[i];
		for(intj=0;j<t.size();j++)
		{
			var+=getDistXY(t[j],means[i]);
		}
	}
	//cout<<"sum:"<<sum<<endl;
	returnvar;

}
//获得当前簇的均值（质心）
TuplegetMeans(constvector<Tuple>&cluster){
	
	intnum=cluster.size();
	Tuplet(dimNum+1,0);
	for(inti=0;i<num;i++)
	{
		for(intj=1;j<=dimNum;++j)
		{
			t[j]+=cluster[i][j];
		}
	}
	for(intj=1;j<=dimNum;++j)
		t[j]/=num;
	returnt;
	//cout<<"sum:"<<sum<<endl;
}

voidprint(constvector<Tuple>clusters[])
{
	for(intlable=0;lable<k;lable++)
	{
		cout<<"第"<<lable+1<<"个簇："<<endl;
		vector<Tuple>t=clusters[lable];
		for(inti=0;i<t.size();i++)
		{
			cout<<i+1<<".(";
			for(intj=0;j<=dimNum;++j)
			{
				cout<<t[i][j]<<",";
			}
			cout<<")
";
		}
	}
}

voidKMeans(vector<Tuple>&tuples){
	vector<Tuple>clusters[k];//k个簇
	Tuplemeans[k];//k个中心点
	inti=0;
	//一开始随机选取k条记录的值作为k个簇的质心（均值）
	srand((unsignedint)time(NULL));
	for(i=0;i<k;){
		intiToSelect=rand()%tuples.size();
		if(means[iToSelect].size()==0)
		{
			for(intj=0;j<=dimNum;++j)
			{
				means[i].push_back(tuples[iToSelect][j]);
			}
			++i;
		}
	}
	intlable=0;
	//根据默认的质心给簇赋值
	for(i=0;i!=tuples.size();++i){
		lable=clusterOfTuple(means,tuples[i]);
		clusters[lable].push_back(tuples[i]);
	}
	doubleoldVar=-1;
	doublenewVar=getVar(clusters,means);
	cout<<"初始的的整体误差平方和为："<<newVar<<endl;
	intt=0;
	while(abs(newVar-oldVar)>=1)//当新旧函数值相差不到1即准则函数值不发生明显变化时，算法终止
	{
		cout<<"第"<<++t<<"次迭代开始："<<endl;
		for(i=0;i<k;i++)//更新每个簇的中心点
		{
			means[i]=getMeans(clusters[i]);
		}
		oldVar=newVar;
		newVar=getVar(clusters,means);//计算新的准则函数值
		for(i=0;i<k;i++)//清空每个簇
		{
			clusters[i].clear();
		}
		//根据新的质心获得新的簇
		for(i=0;i!=tuples.size();++i){
			lable=clusterOfTuple(means,tuples[i]);
			clusters[lable].push_back(tuples[i]);
		}
		cout<<"此次迭代之后的整体误差平方和为："<<newVar<<endl;
	}

	cout<<"Theresultis:
";
	print(clusters);
}
intmain(){

	charfname[256];
	cout<<"请输入存放数据的文件名：";
	cin>>fname;
	cout<<endl<<"请依次输入:维数样本数目"<<endl;
	cout<<endl<<"维数dimNum:";
	cin>>dimNum;
	cout<<endl<<"样本数目dataNum:";
	cin>>dataNum;
	ifstreaminfile(fname);
	if(!infile){
		cout<<"不能打开输入的文件"<<fname<<endl;
		return0;
	}
	vector<Tuple>tuples;
	//从文件流中读入数据
	for(inti=0;i<dataNum&&!infile.eof();++i)
	{
		stringstr;
		getline(infile,str);
		istringstreamistr(str);
		Tupletuple(dimNum+1,0);//第一个位置存放记录编号，第2到dimNum+1个位置存放实际元素
		tuple[0]=i+1;
		for(intj=1;j<=dimNum;++j)
		{
			istr>>tuple[j];
		}
		tuples.push_back(tuple);
	}

	cout<<endl<<"开始聚类"<<endl;
	KMeans(tuples);
	return0;
}

‘贰’ 谁有数据挖掘算法的源码

已经给你发了，分拿来

‘叁’ 谁有数据挖掘算法源代码啊

你也研究算法啊，我也刚开始，交个朋友呗，2674457337，你可以去程序员网站下载，我那也下载了点MATLAB的，如果是这个，我那也有。基本的。

‘肆’ 数据挖掘RAINFOREST算法

上面算法讲的很清楚了，我来举个例子：

Training data：
Id age income class
1 young 65 G
2 young 15 B
3 young 75 G
4 senior 40 B
5 senior 100 G
6 senior 60 G

AVC set „age“ for N1：
value class count
young B 1
young G 2
senior B 1
senior G 2

AVC set „income“ for N1：
value class count
15 B 1
40 B 1
60 G 1
65 G 1
75 G 1
100 G 1

AVC set „income“ for N2：
value class count
15 B 1
65 G 1
75 G 1

AVC set „age“ for N2:
value class count
young B 1
young G 2

最后推出雨林： N1
age=young / \ age=senior
/ \
N2 N3

最后提醒一点，对于雨林算法，训练样本集不要大于3百万。否则改用SPRINT。

‘伍’ 数据挖掘分类算法的源码有哪些

在R语言中可以用Rpart函数调取

‘陆’ 急求！数据挖掘聚类、分类、关联算法java源码，大神帮帮忙。麻烦传个

首先自己确定用什么算法，然后自己去网上找对应的实现。思路是相通的

‘柒’ 三种经典的数据挖掘算法

算法，可以说是很多技术的核心，而数据挖掘也是这样的。数据挖掘中有很多的算法，正是这些算法的存在，我们的数据挖掘才能够解决更多的问题。如果我们掌握了这些算法，我们就能够顺利地进行数据挖掘工作，在这篇文章我们就给大家简单介绍一下数据挖掘的经典算法，希望能够给大家带来帮助。
1.KNN算法
KNN算法的全名称叫做k-nearest neighbor classification，也就是K最近邻，简称为KNN算法，这种分类算法，是一个理论上比较成熟的方法，也是最简单的机器学习算法之一。该方法的思路是：如果一个样本在特征空间中的k个最相似，即特征空间中最邻近的样本中的大多数属于某一个类别，则该样本也属于这个类别。KNN算法常用于数据挖掘中的分类，起到了至关重要的作用。
2.Naive Bayes算法
在众多的分类模型中，应用最为广泛的两种分类模型是决策树模型(Decision Tree Model)和朴素贝叶斯模型（Naive Bayesian Model，NBC）。朴素贝叶斯模型发源于古典数学理论，有着坚实的数学基础，以及稳定的分类效率。同时，NBC模型所需估计的参数很少，对缺失数据不太敏感，算法也比较简单。理论上，NBC模型与其他分类方法相比具有最小的误差率。但是实际上并非总是如此，这是因为NBC模型假设属性之间相互独立，这个假设在实际应用中往往是不成立的，这给NBC模型的正确分类带来了一定影响。在属性个数比较多或者属性之间相关性较大时，NBC模型的分类效率比不上决策树模型。而在属性相关性较小时，NBC模型的性能最为良好。这种算法在数据挖掘工作使用率还是挺高的，一名优秀的数据挖掘师一定懂得使用这一种算法。
3.CART算法
CART, 也就是Classification and Regression Trees。就是我们常见的分类与回归树，在分类树下面有两个关键的思想。第一个是关于递归地划分自变量空间的想法；第二个想法是用验证数据进行剪枝。这两个思想也就决定了这种算法的地位。
在这篇文章中我们给大家介绍了关于KNN算法、Naive Bayes算法、CART算法的相关知识，其实这三种算法在数据挖掘中占据着很高的地位，所以说如果要从事数据挖掘行业一定不能忽略这些算法的学习。

‘捌’ 求助高手，数据挖掘相关的程序源代码，跪求啊！！！

.........\Ada_Boost.m
function D = ada_boost(train_features, train_targets, params, region);

% Classify using the AdaBoost algorithm
% Inputs:
% features - Train features
% targets - Train targets
% Params - [NumberOfIterations, Weak Learner Type, Learner's parameters]
% region - Decision region vector: [-x x -y y number_of_points]
%
% Outputs
% D - Decision sufrace
%
% NOTE: This algorithm is very tuned to the 2D nature of the toolbox!

[k_max, weak_learner, alg_param] = process_params(params);

[Ni,M] = size(train_features);
D = zeros(region(5));
W = ones(1,M)/M;
IterDisp = 10;

%Find where the training features fall on the decision grid
N = region(5);
mx = ones(N,1) * linspace (region(1),region(2),N);
my = linspace (region(3),region(4),N)' * ones(1,N);
flatxy = [mx(:), my(:)]';
train_loc = zeros(1,M);
for i = 1:M,
dist = sqrt(sum((flatxy - train_features(:,i)*ones(1,N^2)).^2));
[m, train_loc(i)] = min(dist);
end

%Do the AdaBoosting
for k = 1:k_max,
%Train weak learner Ck using the data sampled according to W:
%...so sample the data according to W
randnum = rand(1,M);
cW = cumsum(W);
indices = zeros(1,M);
for i = 1:M,
%Find which bin the random number falls into
loc = max(find(randnum(i) > cW))+1;
if isempty(loc)
indices(i) = 1;
else
indices(i) = loc;
end
end

%...and now train the classifier
Ck = feval(weak_learner, train_features(:, indices), train_targets(indices), alg_param, region);
Ckl = Ck(:);

%Ek <- Training error of Ck
Ek = sum(W.*(Ckl(train_loc)' ~= train_targets));

if (Ek == 0),
break
end

%alpha_k <- 1/2*ln(1-Ek)/Ek)
alpha_k = 0.5*log((1-Ek)/Ek);

%W_k+1 = W_k/Z*exp(+/-alpha)
W = W.*exp(alpha_k*(xor(Ckl(train_loc)',train_targets)*2-1));
W = W./sum(W);

%Update the decision region
D = D + alpha_k*(2*Ck-1);

if (k/IterDisp == floor(k/IterDisp)),
disp(['Completed ' num2str(k) ' boosting iterations'])
end

end

D = D>

‘玖’ 数据挖掘的经典算法

1. C4.5：是机器学习算法中的一种分类决策树算法，其核心算法是ID3算法。
2. K-means算法：是一种聚类算法。
3.SVM：一种监督式学习的方法，广泛运用于统计分类以及回归分析中
4.Apriori ：是一种最有影响的挖掘布尔关联规则频繁项集的算法。
5.EM：最大期望值法。
6.pagerank：是google算法的重要内容。
7. Adaboost:是一种迭代算法，其核心思想是针对同一个训练集训练不同的分类器然后把弱分类器集合起来，构成一个更强的最终分类器。
8.KNN:是一个理论上比较成熟的的方法，也是最简单的机器学习方法之一。
9.Naive Bayes：在众多分类方法中，应用最广泛的有决策树模型和朴素贝叶斯（Naive Bayes）
10.Cart：分类与回归树，在分类树下面有两个关键的思想，第一个是关于递归地划分自变量空间的想法，第二个是用验证数据进行减枝。
关联规则规则定义
在描述有关关联规则的一些细节之前，我们先来看一个有趣的故事： 尿布与啤酒的故事。
在一家超市里，有一个有趣的现象：尿布和啤酒赫然摆在一起出售。但是这个奇怪的举措却使尿布和啤酒的销量双双增加了。这不是一个笑话，而是发生在美国沃尔玛连锁店超市的真实案例，并一直为商家所津津乐道。沃尔玛拥有世界上最大的数据仓库系统，为了能够准确了解顾客在其门店的购买习惯，沃尔玛对其顾客的购物行为进行购物篮分析，想知道顾客经常一起购买的商品有哪些。沃尔玛数据仓库里集中了其各门店的详细原始交易数据。在这些原始交易数据的基础上，沃尔玛利用数据挖掘方法对这些数据进行分析和挖掘。一个意外的发现是：跟尿布一起购买最多的商品竟是啤酒！经过大量实际调查和分析，揭示了一个隐藏在尿布与啤酒背后的美国人的一种行为模式：在美国，一些年轻的父亲下班后经常要到超市去买婴儿尿布，而他们中有30%～40%的人同时也为自己买一些啤酒。产生这一现象的原因是：美国的太太们常叮嘱她们的丈夫下班后为小孩买尿布，而丈夫们在买尿布后又随手带回了他们喜欢的啤酒。
按常规思维，尿布与啤酒风马牛不相及，若不是借助数据挖掘技术对大量交易数据进行挖掘分析，沃尔玛是不可能发现数据内在这一有价值的规律的。
数据关联是数据库中存在的一类重要的可被发现的知识。若两个或多个变量的取值之间存在某种规律性，就称为关联。关联可分为简单关联、时序关联、因果关联。关联分析的目的是找出数据库中隐藏的关联网。有时并不知道数据库中数据的关联函数，即使知道也是不确定的，因此关联分析生成的规则带有可信度。关联规则挖掘发现大量数据中项集之间有趣的关联或相关联系。Agrawal等于1993年首先提出了挖掘顾客交易数据库中项集间的关联规则问题，以后诸多的研究人员对关联规则的挖掘问题进行了大量的研究。他们的工作包括对原有的算法进行优化，如引入随机采样、并行的思想等，以提高算法挖掘规则的效率；对关联规则的应用进行推广。关联规则挖掘在数据挖掘中是一个重要的课题，最近几年已被业界所广泛研究。

‘拾’ 带你了解数据挖掘中的经典算法

数据挖掘的算法有很多，而不同的算法有着不同的优点，同时也发挥着不同的作用。可以这么说，算法在数据挖掘中做出了极大的贡献，如果我们要了解数据挖掘的话就不得不了解这些算法，下面我们就继续给大家介绍一下有关数据挖掘的算法知识。
1.The Apriori algorithm，
Apriori算法是一种最有影响的挖掘布尔关联规则频繁项集的算法。其核心是基于两阶段频集思想的递推算法。该关联规则在分类上属于单维、单层、布尔关联规则。在这里，所有支持度大于最小支持度的项集称为频繁项集，简称频集。这个算法是比较复杂的，但也是十分实用的。
2.最大期望算法
在统计计算中，最大期望算法是在概率模型中寻找参数最大似然估计的算法，其中概率模型依赖于无法观测的隐藏变量。最大期望经常用在机器学习和计算机视觉的数据集聚领域。而最大期望算法在数据挖掘以及统计中都是十分常见的。
3.PageRank算法
PageRank是Google算法的重要内容。PageRank里的page不是指网页，而是创始人的名字，即这个等级方法是以佩奇来命名的。PageRank根据网站的外部链接和内部链接的数量和质量俩衡量网站的价值。PageRank背后的概念是，每个到页面的链接都是对该页面的一次投票，被链接的越多，就意味着被其他网站投票越多。这个就是所谓的“链接流行度”，这个标准就是衡量多少人愿意将他们的网站和你的网站挂钩。PageRank这个概念引自学术中一篇论文的被引述的频度——即被别人引述的次数越多，一般判断这篇论文的权威性就越高。
3.AdaBoost算法
Adaboost是一种迭代算法，其核心思想是针对同一个训练集训练不同的分类器，然后把这些弱分类器集合起来，构成一个更强的最终分类器。其算法本身是通过改变数据分布来实现的，它根据每次训练集之中每个样本的分类是否正确，以及上次的总体分类的准确率，来确定每个样本的权值。将修改过权值的新数据集送给下层分类器进行训练，最后将每次训练得到的分类器最后融合起来，作为最后的决策分类器。这种算法给数据挖掘工作解决了不少的问题。
数据挖掘算法有很多，这篇文章中我们给大家介绍的算法都是十分经典的算法，相信大家一定可以从中得到有价值的信息。需要告诉大家的是，我们在进行数据挖掘工作之前一定要事先掌握好数据挖掘需呀掌握的各类算法，这样我们才能在工总中得心应手，如果基础不牢固，那么我们迟早是会被淘汰的。职场如战场，我们一定要全力以赴。