聚類貪心演算法

㈠ 數據挖掘的數據分析方法有哪些

回歸分析、聚類、關聯規則、特徵、變化和偏差分析、Web頁挖掘等， 它們分別從不同的角度對數據進行挖掘。 ①分類。分類是找出資料庫中一組數據對象的共同特點並按照分類模式將其劃分為不同的類，其目的是通過分類模型，將資料庫中的數據項映射到某個給定的類別。它可以應用到客戶的分類、客戶的屬性和特徵分析、客戶滿意度分析、客戶的購買趨勢預測等，如一個汽車零售商將客戶按照對汽車的喜好劃分成不同的類，這樣營銷人員就可以將新型汽車的廣告手冊直接郵寄到有這種喜好的客戶手中，從而大大增加了商業機會。 ②回歸分析。回歸分析方法反映的是事務資料庫中屬性值在時間上的特徵，產生一個將數據項映射到一個實值預測變數的函數，發現變數或屬性間的依賴關系，其主要研究問題包括數據序列的趨勢特徵、數據序列的預測以及數據間的相關關系等。它可以應用到市場營銷的各個方面，如客戶尋求、保持和預防客戶流失活動、產品生命周期分析、銷售趨勢預測及有針對性的促銷活動等。 ③聚類。聚類分析是把一組數據按照相似性和差異性分為幾個類別，其目的是使得屬於同一類別的數據間的相似性盡可能大，不同類別中的數據間的相似性盡可能小。它可以應用到客戶群體的分類、客戶背景分析、客戶購買趨勢預測、市場的細分等。 ④關聯規則。關聯規則是描述資料庫中數據項之間所存在的關系的規則，即根據一個事務中某些項的出現可導出另一些項在同一事務中也出現，即隱藏在數據間的關聯或相互關系。在客戶關系管理中，通過對企業的客戶資料庫里的大量數據進行挖掘，可以從大量的記錄中發現有趣的關聯關系，找出影響市場營銷效果的關鍵因素，為產品定位、定價與定製客戶群，客戶尋求、細分與保持，市場營銷與推銷，營銷風險評估和詐騙預測等決策支持提供參考依據。 ⑤特徵。特徵分析是從資料庫中的一組數據中提取出關於這些數據的特徵式，這些特徵式表達了該數據集的總體特徵。如營銷人員通過對客戶流失因素的特徵提取，可以得到導致客戶流失的一系列原因和主要特徵，利用這些特徵可以有效地預防客戶的流失。 ⑥變化和偏差分析。偏差包括很大一類潛在有趣的知識，如分類中的反常實例，模式的例外，觀察結果對期望的偏差等，其目的是尋找觀察結果與參照量之間有意義的差別。在企業危機管理及其預警中，管理者更感興趣的是那些意外規則。意外規則的挖掘可以應用到各種異常信息的發現、分析、識別、評價和預警等方面。 ⑦Web頁挖掘。隨著Internet的迅速發展及Web 的全球普及， 使得Web上的信息量無比豐富，通過對Web的挖掘，可以利用Web 的海量數據進行分析，收集政治、經濟、政策、科技、金融、各種市場、競爭對手、供求信息、客戶等有關的信息，集中精力分析和處理那些對企業有重大或潛在重大影響的外部環境信息和內部經營信息，並根據分析結果找出企業管理過程中出現的各種問題和可能引起危機的先兆，對這些信息進行分析和處理，以便識別、分析、評價和管理危機。
來源:數據堂

㈡ 演算法設計的目錄

第1章引言：某些典型的問題
1.1第一個問題：穩定匹配
1.2五個典型問題
帶解答的練習
練習
注釋和進一步的閱讀
第2章演算法分析基礎
2.1計算可解性
2.2增長的漸近階
2.3用表和數組實現穩定匹配演算法
2.4一般運行時間的概述
2.5更復雜的數據結構：優先隊列
帶解答的練習
練習
注釋和進一步的閱讀
第3章圖
3.1基本定義與應用
3.2圖的連通性與圖的遍歷
3.3用優先隊列與棧實現圖的遍歷
3.4二分性測試：寬度優先搜索的一個應用
3.5有向圖中的連通性
3.6有向無圈圖與拓撲排序
帶解答的練習
練習
注釋和進一步的閱讀
第4章貪心演算法
4.1區間調度：貪心演算法領先
4.2最小延遲調度：一個交換論證
4.3最優高速緩存：一個更復雜的交換論證
4.4一個圖的最短路徑
4.5最小生成樹問題
4.6實現Kruskal演算法：Unoin－Find數據結構
4.7聚類
4.8Huffman碼與數據壓縮
4.9最小費用有向樹：一個多階段貪心
帶解答的練習
練習
注釋和進一步的閱讀
第5章分治策略
5.1第一個遞推式：歸並排序演算法
5.2更多的遞推關系
5.3計數逆序
5.4找最接鄰近的點對
5.5整數乘法
5.6卷積與快速傅里葉變換
帶解答的練習
練習
注釋和進一步的閱讀
第6章動態規劃
6.1帶權的區間調度：一個遞歸過程
6.2動態規劃原理：備忘錄或者子問題迭代
6.3分段的最小二乘：多重選擇
6.4子集和與背包：加一個變數
6.5RNA二級結構：在區間上的動態規劃
6.6序列比對
6.7通過分治策略在線性空間的序列比對
6.8圖中的最短路徑
6.9最短路徑和距離向量協議
6.10圖中的負圈
帶解答的練習
練習
注釋和進一步的閱讀
第7章網路流
第8章Ng與計算的難解性
第9章一個超出
第10章擴展易解性的界限
第11章近似演算法
第12章局部搜索
第13章隨機演算法
後記：永不停止運行的演算法
索引

㈢ 數學之美總結

1.信息度量

信息就是不確定性的多少，信息就是要減少不確定性；

熵: 信息的混雜程度，越大，信息越雜，越不純；

條件熵: 一個信息確定的條件下，另外一個信息不確定度的減少量；

互信息: 在一個信息的條件下，為了是另外一個信息不確定度減少所需要提供的信息量；

相對熵: 衡量兩個函數值為正數的函數的相關性。

2.指紋信息

指紋: 每段信息包括文字，圖片，音頻，等都可以對應一組不太長的隨機數

偽隨機數:壓縮

基於加密的偽隨機數:密碼

集合的判定，文章，網頁的判定，視頻的判定

指紋可能重復，但可能性很小

相似哈希:詞，權重，指紋，二進制的結合(提供了一種思路)

3.最大熵模型

最大熵原理: 保留全部的不確定性，讓風險降到最小；

最大熵模型: 在所有滿足約束條件的模型中選出熵最大的模型；

模型學習: 任何一組不自相矛盾的信息，最大熵模型存在並且唯一，都具有相同的形式，指數形式；

特點: 能同時滿足成千上萬的中不同條件的模型(有效的組合很多特徵)

參數訓練: 對數似然函數求極大

4.期望最大

如果模型的變數都是觀測變數，用極大似然估計或貝葉斯估計

如果存在隱含變數，用EM迭代，最大後驗概率

典型:kmeans聚類，隱馬的參數訓練，最大熵模型的訓練

特點: 局部最優，計算速度慢

5.散列表與布隆過濾器

散列表的核心:哈希函數hashcode(),equals()函數；

散列表的特點:時間復雜度o(1),浪費空間，沖突；

布隆過濾器核心: 一組二進制數和隨機映射函數；

布隆過濾器的特點: 時間復雜度o(1)，節約空間，到存在錯誤率

6.文本分類

相似性: 餘弦定理，距離

方法: k近鄰思想，自底向上的兩兩合並，EM迭代，奇異值分解；

技巧: 計算時存儲重復計算的變數，只考慮非零元素，刪除虛詞

餘弦定理和奇異分解:餘弦定理多次迭代，計算量大，消耗資源多；svd無需多次迭代，時間短，但存儲空間需求大，適合超大規模分類；建議svd粗分類，餘弦定理細分類

TF-IDF解決兩個重要問題:詞的預測能力越強，權重越大；停止詞的權重為零

7.隱馬爾可夫

馬爾可夫假設: t時刻的狀態只取決於t-1時刻

馬爾可夫鏈: 狀態鏈

隱馬模型: 初始概率分布，狀態轉移概率分布，觀測概率分布(馬爾可夫假設，觀測獨立)

3個問題:

參數估計-baum-uelch演算法

計算概率-直接，前向，後向演算法

預測狀態-維特比演算法(動態規劃)

8.貝葉斯網路

是馬爾可夫鏈的推廣(鏈狀-拓撲)

又稱信念網路: 弧+可信度

訓練: 結構和參數訓練，交叉進行

方法: 貪心演算法，蒙卡，互信息

9.條件隨機場

特點:觀測值可能和前後的狀態都有關

條件隨機場是無向圖，貝葉斯網路是有向圖

核心:找到符合所有邊緣分布的最大熵模型

10.有限狀態機和動態規劃

有限狀態機: 開始，終止狀態，有向弧，條件

常見:  建立狀態機，已知狀態機匹配字元串

區別: 基於概率的有限狀態機和離散馬爾可夫鏈等效

動態規劃: 把全程路徑最短鎖定到局部路徑最短

㈣ 倪志偉的論文專著

近五年來，在國內外學術期刊上公開發表論文30多篇，其中有15篇論文被EI或ISTP收錄。出版的教材或專著有：
1．《Foxpro實用教程》，南京大學出版社，1994年（主編）
2．《用C++建造專家系統》，電子工業出版社，1996年 （副主編）3．《機器學習與智能決策支持系統》，科學出版社，2004年5月（副主編）
4．《編譯原理》，北京希望電子出版社，2005年11月（主編）
5．《現代物流技術》，中國物資出版社，2006年1月（主編）（被評為國家「十一五」規劃教材）
6．《物流信息系統》，中國物資出版社，2006年2月（副主編）
7. 《智能管理技術與方法》，科學出版社，2007年10月（主編）
8. 《動態數據挖掘》，科學出版社，2010年8月（主編）
近年來，發表的主要學術論文如下： [1] Zhangjun Wu, Xiao Liu, Zhiwei Ni, Dong Yuan, Jinjun Chen, Yun Yang: A Market-Oriented Hierarchical Scheling Strategy in Cloud Workflow Systems, Journal of Supercomputing, Volume 63,Issue 1,pp.256-293,2013.(UT WOS:000313166000013).[2] Xiao Liu,Zhiwei Ni,et al.A Novel Statistical Time-Series Pattern based Interval Forecastting Strategy for Activity Durations in Workflow Systems.Journal of Software and system,2011,(84),354-376.(SCI indexed)[3] Liping Ni, Zhiwei Ni, YaZhuo Gao.Stock trend Prediction Based on Fractal Feature Selection and Support Vector Machine.Expert system with applications,2011,(38),5569-5576.(SCI indexed)[4]Xiao Liu,Zhiwei Ni,et al.A probabilistic strategy for temporal constraint management in scientisfic workflow systems.Concurrrency and Computation :Pratice and Experience,2011,23(16),1893-1919.(SCI indexed) [5] Xiao Liu, Zhiwei Ni, Zhangjun Wu, Dong Yuan, Jinjun Chen, Yun Yang: A Novel General Framework for Automatic and Cost-Effective Handling of Recoverable Temporal violations in Scientific Workflow Systems, Journal of Software and System,2011,(84),492-509. (SCI indexed ) [6]Zhiwei Ni,Junfeng guo ,et al.An Efficient Method for Improving Query Efficiency in Data Warehouse.Journal of software,2011,6(5),857-865.[7]高雅卓， 倪志偉等.連續屬性上的OLAP查詢建模方法研究.情報學報，2011，30(4),372-379.[8]張以文，倪志偉等.雲計算環境下動態虛擬企業夥伴選擇模型.計算機科學，2011，38(7),212-215.[9]倪志偉，公維峰等.數據流中隨機型分型維數計算方法研究.計算機科學，2011，38(4),209-212.[10]倪志偉，吳昊等.基於改進的經驗模態分解的時間序列匹配演算法.系統模擬學報，2011，23(11),2395-2399.[11]姜苗，倪志偉等.數據流時間窗口中閉頻繁項集的在線挖掘.中國科學技術大學學報，2011，(8),729-745.[12] Zhangjun Wu, Zhiwei Ni, Lichuan Gu, Xiao Liu: A Revised Discrete Particle Swarm Optimization for Cloud Workflow Scheling, 2010 International Conference on Computational Intelligence and Security (CIS2010), Nanning, China, 11-14 Dec. 2010 (EI indexed) [13] Xiao Liu, Zhiwei Ni, Zhangjun Wu, Dong Yuan, Jinjun Chen, Yun Yang: A Framework for Handling Fine-Grained Recoverable Temporal Violations in Scientific Workflows, 16th IEEE International Conference on Parallel and Distributed Systems (ICPADS2010), Shanghai, China, December 7-11, 2010, on Sept. 05, 2010 (EI indexed). [14] Yazhuo Gao, Zhiwei Ni, Yuxiao Zhao.A scheling strategy for OLAM tasks and its application in a financial BI system Business Intelligence and Financial Engneering .2009會議論文集: 435-440 (EI收錄) [15] Zhiwei Ni, Dan Han, Gongrang Zhang, Yazhuo Gao.Extension CBR Retrieval.AICI2009:224—227 (EI收錄) [16] Zhangjun Wu, Zhiwei Ni，Chang Zhang, Lichuan Gu. A Novel PSO for Multi-stage Portfolios Planning, IEEE International Conference on Artificial Intelligence and Computational Intelligence (AICI2009)，71—77 (EI收錄) [17] Chang Zhang, Zhiwei Ni, Zhangjun Wu,Lichuan Gu. A Novel Swarm Model with Quasi-Oppositional Particle, International Forum on Information Technology and Applications (IFITA 2009), pp.325-330 (EI收錄) [18] Li Fenggang, Wang Xiaolu, Ni Zhiwei, Ni Liping. Semantic Analysis Based Literature Transaction System of Xi-An Medical Authority, Intelligent Information Management Systems and Technologies (2010),Volume6,No.3 ,219—226 [19] Xiao Liu, Jinjun Chen, Zhangjun Wu, Zhiwei Ni, Dong Yuan, Yun Yang.Handling Recoverable Temporal Violations in Scientific Workflow Systems: A, Workflow Rescheling Based Strategy,2010,pp.534-537 [20]Chao Wang ,Zhi-wei Ni ,Jun-fen Guo.A Fast Bidirectional Method for Mining Maximal Frequent Itemsets，The Third International Joint Conference on Computational Sciences and Optimization (CSO 2010),447—450 [21]倪志偉,高雅卓,李偉東,束建華.基於矩陣的增量式關聯規則挖掘演算法.計算機工程與應用, 2008,44(13):153-155 [22]劉斌,倪志偉,趙敏.基於屬性重要性的貪心演算法的改進演算法.合肥工業大學學報,2010,33(8):1185-1188 [23]王麗紅,倪志偉, 高雅卓.改進的蟻群演算法求解多目標車間作業調度問題.計算機技術與發展,2008 ,18(10):49—52 [24]吳姍,倪志偉,羅賀,鄭盈盈.一種基於密度的無監督聯系發現方法.中國管理科學,2008,16:29—32 [25]梁敏君,倪志偉,倪麗萍,楊葛鍾嘯.基於網格與分形維數聚類演算法.計算機應用,2009,29(3):830-833 [26]倪麗萍,倪志偉,吳昊,葉紅雲.基於分形維數和蟻群演算法的屬性選擇方法.模式識別與人工智慧, 2009,22(2):293—298(EI收錄) [27]倪志偉,倪麗萍,楊葛鍾嘯.分形技術在案例庫維護中的應用.計算機應用,2009,29(6):1598—1604 [28]倪志偉,吳姍,胡湯磊.聯系發現在證券客戶劃分中的應用研究.計算機工程與應用, 2009, 45(18):201--204 [29]Dan Han, Zhiwei Ni, Gongrang Zhang, Hongyu Wang, Jun Yan. Research and Design the Extension Case BaseBased on CBR. BIFE International meeting, 2009，:210—214 (EI收錄) [30]鄭盈盈,倪志偉,吳姍,王麗紅.基於移動網格和密度的數據流聚類演算法.計算機工程與應用,2009,45(8):129--131 [31]王園園,倪志偉,趙裕嘯,伍章俊.基於決策樹的模糊聚類評價演算法及其應用.計算機技術與發展, 2009,19(9):232-235 [32]嚴軍,倪志偉,王宏宇,韓丹.案例推理在汽車診斷中的應用.計算機應用研究. 2009,26(10):3846-3848 [33]劉慧婷,倪志偉.基於EMD與交叉覆蓋演算法的個人信用的評估.計算機工程與設計,2009,10:4472—4491 [34]劉慧婷,倪志偉.基於EMD與K-means演算法的時間序列聚類.模式識別與人工智慧,2009.10 :803—808 [35]倪志偉,李建洋,李鋒剛, 楊善林.案例決策技術及案例決策支持系統研究綜述.計算機科學,2009,36(11):18—23 [36]郭峻峰, 倪志偉, 高雅卓, 伍章俊.一種提高數據倉庫查詢效率的有效方法.計算機集成製造系統, 2009,15(12):2451-2457 (EI收錄) [37]高雅卓,倪志偉,郭峻峰,胡湯磊.用戶興趣驅動的冰山數據立方體構建及更新方法研究.計算機科學, 2009,36(12):179-182 [38]趙裕嘯,倪志偉,王園園,伍章俊.SQL Server 2005數據挖掘技術在證券客戶忠誠度的應用.計算機技術與發展, 2010,20(2):229-232 [39]李鋒剛,倪志偉, 郜巒.案例推理和多策略相似性檢索的中醫處方自動生成.計算機應用研究,2010, 27(2):544—547 [40]李建洋,倪志偉,鄭金彬,謝秀珍.案例知識維護技術的研究進展.武漢工程大學學報,2010,32(3):96-99 [41]趙敏,倪志偉,劉斌.K-means與樸素貝葉斯在商務智能中的應用.計算機技術與發展, 2010,20(4):179-182 [42]王宏宇,倪志偉,嚴軍,韓丹.灰度關聯理論在CBR中的應用研究.計算機技術與發展, 2010,20(5):96-100 [43]羅義欽,倪志偉,楊葛鍾嘯.一種新的數據流分形聚類演算法.計算機工程與應用, 2010,46 (6): 136-13 [44]查春生，倪志偉，倪麗萍，公維峰.基於相空間重構的股指時間序列相關性分析,計算機技術與發展，計劃在2010年第8期刊載 [45]姜苗，倪志偉，王超，戴奇波.在線挖掘數據流混合窗口中閉頻繁項集，系統模擬學報， [46]辜麗川，倪志偉，張友華.一種基於核矩陣迭代學習的範例相似度演算法，模式識別與人工智慧。 [47] Case base maintenance based on outlier data mining，Proc. 4th Intl. Conf. on Machine Learning and Cybernetics，IEEE Press, China, 2005.8 ，2861-2864 [48] 基於相似粗糙集的案例特徵項的約簡維護, 計算機科學，Vol.32,No.8.A , 2005，93-96 [49] 數據流管理與挖掘研究, 合肥工業大學學報(自然科學版), Vol.28, No.9 , 2005，1157-1162 [50] Case-Based Reasoning Framework Based On Data Mining Technique. Proceedings of the Third International Conference on Machine Learning and Cybernetics, Shanghai, August，2004，2511-2514 [51] 基於案例和規則相結合的推理技術,小型微型計算機系統，2004,Vol.25，No.7,1155-1158 [52] 集成範例推理系統的研究，系統模擬學報，2004，Vol.16，No.4， 803-806 [53] 範例推理中範例自動獲取的數據挖掘技術，天津大學學報，2003年，Vol.36,No.1，82-86 [54] 基於知識發現的範例推理系統，計算機科學，Vol.30,No.5,2003年，26-29 [55] 範例推理系統中的範例庫維護，小型微型計算機系統，Vol.24, No.10，2003年10月，1825-1828 [56] Integrated case-based reasoning，Proceedings of 2003 International Conference on Machine Learning and Cybernetics ,Xi』an,2003，1845-1849 [57]範例推理中的知識發現技術，小型微型計算機系統，Vol.23,No.2，2002年2月，159-162 [58]範例庫中特徵項權重的發現技術，廈門大學學報， Vol.41,No.2,2002年3月，168-172 [59]用神經網路來實現基於範例的推理系統，計算機工程，2002年7月，Vol.28,No.7 [60]A neural network case-based reasoning and its application , Proceedings of 2002 International Conference on Machine Learning and Cybernetics ,Beijing, 2002.11，529-532 [61]範例庫上的知識發現，南開大學學報，2002年12月，Vol.35,No.4 [62]神經網路專家系統及其數據挖掘技術的探討，系統工程學報，2001年，Vol.16, No.1, 61-65

㈤ 用類似貪心演算法實現基於傳統聚類方法的試卷質量分析研究

可參閱文本分類的方法。

㈥ 用於數據挖掘的聚類演算法有哪些

一部專著的篇幅。即使是做綜述性的介紹，一篇三五十頁的論文也可以寫成了。所以我一直想怎麼能從頭到尾把這個問題logically串連起來。正好這段時間我在修改我做的交易策略裡面關於聚類的部分。就我的理解而言，如果想全面的了解聚類演算法並對其進行區別和比較的話，最好能把聚類的具體演算法放到整個聚類分析的語境中理解。那我接下來主要談談我的理解，就不搬弄教科書里的概念了。相似性衡量（similarity measurement）相似性衡量又可以細分為直接法和間接：直接法是直接求取input data的相似性，間接法是求取data中提取出的features的相似性。但無論是求data還是feature的相似性，方法都是這么幾種：距離。距離主要就是指Minkovski距離。這個名字雖然聽起來陌生，但其演算法就是Lp norm的演算法，如果是L1 norm，那就是絕對值/曼哈頓距離（Manhattan distance）；如果是L2 norm，那就是著名的歐式距離（Euclidean distance）了，也是應用最廣泛的；如果，supremum距離，好像也有叫切比雪夫距離的，但就很少有人用了。另外，還有Mahalanobis距離，目前來看主要應用於Gaussian Mixture Model（GMM），還有Lance&Williams距離等等，但幾乎沒見過求距離的時候會專門用這個的。相似系數。主要有夾角餘弦和相關系數。相關系數的應用也非常廣泛，其主要優勢是它不受原線性變換的影響，而且可以輕松地轉換為距離，但其運算速度要比距離法慢得多，當維數很高的時候。

㈦ 英語翻譯 將下面的文字翻譯成英文

Data mining is found implied, novel, from the database on decision has the potential value of knowledge and rules of procere, has now has been widely applied in many areas. Cluster analysis is one of the most important technology in the area of data mining, clustering is the collection of physical or abstract objects into multiple clusters of similar objects. Generated by clustering cluster is a collection of objects, similar to the objects to each other in the same cluster, different objects in a different family. And in the many clustering algorithms, clustering algorithm is the most classic K-means.
K-means clustering algorithm is a typical clustering algorithm based on partition, the algorithm has a simple, for large-scale data mining of high performance and scalability, advantages of close to linear time complexity. But there were disadvantages to the algorithm: algorithm sensitive to initial; initial value using stochastic, algorithm is not stable enough; algorithm into a local minimum, and generally only found globular clusters; number of clusters k need to be given in advance.
This article is mainly to introce and analyze traditional clustering algorithm based on K-means and understand the advantages and disadvantages of clustering algorithm based on K-means, and improvements to clustering algorithm based on K-means. The improvement is intended primarily for k-means clustering algorithm to improve initial value dependency of this feature. Improved mainly through some initial point selection algorithms, thus overcoming shortcomings such as the K-means algorithm is not stable, and be able to make the clustering results more precise.
Study on the main work content and outcomes are as follows:
1. introction and analysis of clustering algorithm based on K-means thought and realization of the algorithm. And then some data to understand the advantages and disadvantages of algorithms.
2. improvements to disadvantage of clustering algorithm based on K-means, primarily for k-means clustering algorithm to improve initial value dependency of this feature. Two improved methods, the first thought of using Huffman, the second reference to greedy algorithm and Kruskal algorithm for thoughts.