㈠ 數據挖掘的十大經典演算法，總算是講清楚了，想提升自己的趕快收藏
一個優秀的數據分析師，除了要掌握基本的統計學、數據分析思維、數據分析工具之外，還需要掌握基本的數據挖掘思想，幫助我們挖掘出有價值的數據，這也是數據分析專家和一般數據分析師的差距所在。
國際權威的學術組織the IEEE International Conference on Data Mining (ICDM) 評選出了數據挖掘領域的十大經典演算法：C4.5, k-Means, SVM, Apriori, EM, PageRank, AdaBoost, kNN, Naive Bayes, and CART.
不僅僅是選中的十大演算法，其實參加評選的18種演算法，實際上隨便拿出一種來都可以稱得上是經典演算法，它們在數據挖掘領域都產生了極為深遠的影響。今天主要分享其中10種經典演算法，內容較干，建議收藏備用學習。
1. C4.5
C4.5演算法是機器學習演算法中的一種分類決策樹演算法,其核心演算法是ID3演算法. C4.5演算法繼承了ID3演算法的優點，並在以下幾方面對ID3演算法進行了改進：
1) 用信息增益率來選擇屬性，克服了用信息增益選擇屬性時偏向選擇取值多的屬性的不足；
2) 在樹構造過程中進行剪枝；
3) 能夠完成對連續屬性的離散化處理；
4) 能夠對不完整數據進行處理。
C4.5演算法有如下優點：產生的分類規則易於理解，准確率較高。其缺點是：在構造樹的過程中，需要對數據集進行多次的順序掃描和排序，因而導致演算法的低效（相對的CART演算法只需要掃描兩次數據集，以下僅為決策樹優缺點）。
2. The k-means algorithm 即K-Means演算法
k-means algorithm演算法是一個聚類演算法，把n的對象根據他們的屬性分為k個分割，k < n。它與處理混合正態分布的最大期望演算法很相似，因為他們都試圖找到數據中自然聚類的中心。它假設對象屬性來自於空間向量，並且目標是使各個群組內部的均 方誤差總和最小。
3. Support vector machines
支持向量機，英文為Support Vector Machine，簡稱SV機（論文中一般簡稱SVM）。它是一種監督式學習的方法，它廣泛的應用於統計分類以及回歸分析中。支持向量機將向量映射到一個更 高維的空間里，在這個空間里建立有一個最大間隔超平面。在分開數據的超平面的兩邊建有兩個互相平行的超平面。分隔超平面使兩個平行超平面的距離最大化。假定平行超平面間的距離或差距越大，分類器的總誤差越小。一個極好的指南是C.J.C Burges的《模式識別支持向量機指南》。van der Walt 和 Barnard 將支持向量機和其他分類器進行了比較。
4. The Apriori algorithm
Apriori演算法是一種最有影響的挖掘布爾關聯規則頻繁項集的演算法。其核心是基於兩階段頻集思想的遞推演算法。該關聯規則在分類上屬於單維、單層、布爾關聯規則。在這里，所有支持度大於最小支持度的項集稱為頻繁項集，簡稱頻集。
5. 最大期望(EM)演算法
在統計計算中，最大期望（EM，Expectation–Maximization）演算法是在概率（probabilistic）模型中尋找參數最大似然 估計的演算法，其中概率模型依賴於無法觀測的隱藏變數（Latent Variabl）。最大期望經常用在機器學習和計算機視覺的數據集聚（Data Clustering）領域。
6. PageRank
PageRank是Google演算法的重要內容。2001年9月被授予美國專利，專利人是Google創始人之一拉里·佩奇（Larry Page）。因此，PageRank里的page不是指網頁，而是指佩奇，即這個等級方法是以佩奇來命名的。
PageRank根據網站的外部鏈接和內部鏈接的數量和質量倆衡量網站的價值。PageRank背後的概念是，每個到頁面的鏈接都是對該頁面的一次投票， 被鏈接的越多，就意味著被其他網站投票越多。這個就是所謂的「鏈接流行度」——衡量多少人願意將他們的網站和你的網站掛鉤。PageRank這個概念引自 學術中一篇論文的被引述的頻度——即被別人引述的次數越多，一般判斷這篇論文的權威性就越高。
7. AdaBoost
Adaboost是一種迭代演算法，其核心思想是針對同一個訓練集訓練不同的分類器(弱分類器)，然後把這些弱分類器集合起來，構成一個更強的最終分類器 (強分類器)。其演算法本身是通過改變數據分布來實現的，它根據每次訓練集之中每個樣本的分類是否正確，以及上次的總體分類的准確率，來確定每個樣本的權 值。將修改過權值的新數據集送給下層分類器進行訓練，最後將每次訓練得到的分類器最後融合起來，作為最後的決策分類器。
8. kNN: k-nearest neighbor classification
K最近鄰(k-Nearest Neighbor，KNN)分類演算法，是一個理論上比較成熟的方法，也是最簡單的機器學習演算法之一。該方法的思路是：如果一個樣本在特徵空間中的k個最相似(即特徵空間中最鄰近)的樣本中的大多數屬於某一個類別，則該樣本也屬於這個類別。
9. Naive Bayes
在眾多的分類模型中，應用最為廣泛的兩種分類模型是決策樹模型(Decision Tree Model)和樸素貝葉斯模型（Naive Bayesian Model，NBC）。 樸素貝葉斯模型發源於古典數學理論，有著堅實的數學基礎，以及穩定的分類效率。
同時，NBC模型所需估計的參數很少，對缺失數據不太敏感，演算法也比較簡單。理論上，NBC模型與其他分類方法相比具有最小的誤差率。 但是實際上並非總是如此，這是因為NBC模型假設屬性之間相互獨立，這個假設在實際應用中往往是不成立的，這給NBC模型的正確分類帶來了一定影響。在屬 性個數比較多或者屬性之間相關性較大時，NBC模型的分類效率比不上決策樹模型。而在屬性相關性較小時，NBC模型的性能最為良好。
10. CART: 分類與回歸樹
CART, Classification and Regression Trees。 在分類樹下面有兩個關鍵的思想。第一個是關於遞歸地劃分自變數空間的想法（二元切分法）；第二個想法是用驗證數據進行剪枝（預剪枝、後剪枝）。在回歸樹的基礎上的模型樹構建難度可能增加了，但同時其分類效果也有提升。
參考書籍：《機器學習實戰》
㈡ 急用！！！數據挖掘的六種常用演算法和技術分別是什麼
數據挖掘技術和演算法技術：概念方法
演算法：一步一步具體實現的細節
不同的目標要調用不同的技術
數據挖掘根據其目標分為說明性（Prescriptive）和描述性 (Descriptive)數據挖掘兩種
不同的Data Type調用不同技術
三種數據挖掘技術
自動聚集檢測；決策樹；神經網路
原因： 大量的商業軟體應用
覆蓋了數據挖掘一個較廣的范圍
直接數據挖掘目標是預言，估值，分類，預定義目標變數的特徵行為
神經元網路；決策樹
間接數據挖掘：沒有目標變數被預言，目的是發現整個數據集的結構
聚集檢測
自動聚集檢測
方法
K-均值是講整個數據集分為K個聚集的演算法。
K-均值聚集檢測如何工作
隨機選取K個記錄，作為種子節點；
對剩餘的記錄集合，計算每個記錄與K個種子節點的距離，將每個記錄歸到最近的那個種子節點，這樣整個記錄集初次劃分為K個聚集；
對每個聚集，計算聚集的質心（聚集中心點）；
以每個質心為種子節點，重復上述步驟，直至聚集不再改變。
Consequences of Choosing Clustering
選擇距離函數
選擇合適的聚集數
對聚集的解釋
構造決策樹
可視化看聚集如何受輸入變數的影響
單變數測試
什麼時候使用聚集檢測
決策樹
決策樹分類
決策樹分為分類樹和回歸樹兩種，分類樹對離散變數做決策樹，回歸樹對連續變數做決策樹。
一般的數據挖掘工具，允許選擇分裂條件和修剪規則，以及控制參數（最小節點的大小，最大樹的深度等等），來限制決策樹的overfitting。
決策樹如何工作
決策樹是一棵樹，樹的根節點是整個數據集合空間，每個分節點是對一個單一變數的測試，該測試將數據集合空間分割成兩個或更多塊。每個葉節點是屬於單一類別的記錄。
首先，通過訓練集生成決策樹，再通過測試集對決策樹進行修剪。決策樹的功能是預言一個新的記錄屬於哪一類。
決策樹如何構建
通過遞歸分割的過程構建決策樹。
尋找初始分裂
整個訓練集作為產生決策樹的集合，訓練集每個記錄必須是已經分好類的。
決定哪個屬性（Field）域作為目前最好的分類指標。一般的做法是窮盡所有的屬性域，對每個屬性域分裂的好壞做出量化，計算出最好的一個分裂。量化的標準是計算每個分裂的多樣性（diversity）指標GINI指標。
樹增長到一棵完整的樹
重復第一步，直至每個葉節點內的記錄都屬於同一類。
數據的修剪
選擇決策樹的結果
處理輸入變數
樹和規則
選擇最好的屬性的能力
什麼時候使用決策樹
神經網路
神經元模型
生物模型
人工神經元
神經網模型
網的拓撲結構：層次（前饋，反饋）；全連通
學習方法：有教員的（出入均知道）；無教員的（輸出不知道）
運行機制：同步；非同步
神經網路的基本特點
大量簡單節點的復雜連接；高度並行處理；分布式存儲，信息存在整個網中，用權值體現出來，有聯想能力，可以從一個不完整的信息恢復出完整信息；自組織、自學習。
六種常用於模式識別的神經網路分類器
Hopfield Net
Harmming Net
Carpenter/Grossberg 分類器
單層感知網
多層感知網
Kohonen的自組織特性圖
㈢ 用於數據挖掘的分類演算法有哪些，各有何優劣
1、樸素貝葉斯(Naive Bayes, NB)
簡單，就像做一些數數的工作。
如果條件獨立假設成立的話,NB將比鑒別模型（如Logistic回歸）收斂的更快,所以你只需要少量的訓練數據。
如果你想做類似半監督學習,或者是既要模型簡單又要性能好,NB值得嘗試.
2.Logistic回歸(Logistic Regression, LR)
LR有很多方法來對模型正則化。比起NB的條件獨立性假設，LR不需要考慮樣本是否是相關的。
如果你想要一些概率信息（如,為了更容易的調整分類閾值,得到分類的不確定性,得到置信區間）,或者希望將來有更多數據時能方便的更新改進模型,LR是值得使用的.
3.決策樹（Decision Tree, DT）
DT是非參數的，所以你不需要擔心野點（或離群點）和數據是否線性可分的問題（例如,DT可以輕松的處理這種情況：屬於A類的樣本的特徵x取值往往非常小或者非常大，而屬於B類的樣本的特徵x取值在中間范圍）。
DT的主要缺點是容易過擬合，這也正是隨機森林（Random Forest, RF）（或者Boosted樹）等集成學習演算法被提出來的原因。
此外,RF在很多分類問題中經常表現得最好，且速度快可擴展,也不像SVM那樣需要調整大量的參數,所以最近RF是一個非常流行的演算法.
4.支持向量機（Support Vector Machine, SVM）
很高的分類正確率，對過擬合有很好的理論保證，選取合適的核函數，面對特徵線性不可分的問題也可以表現得很好。
SVM在維數通常很高的文本分類中非常的流行。由於較大的內存需求和繁瑣的調參，我認為RF已經開始威脅其地位了.