❶ 請問數據挖掘中譜聚類演算法適合那些問題的聚類，適合xml文檔聚類嗎還有就是搜索引擎的搜索日誌如何聚類
Spectral Clustering，中文通常稱為「譜聚類」。由於使用的矩陣的細微差別，譜聚類實際上可以說是一「類」演算法。
Spectral Clustering 和傳統的聚類方法（例如 K-means）比起來有不少優點：
1）和 K-medoids 類似，Spectral Clustering 只需要數據之間的相似度矩陣就可以了，而不必像 K-means 那樣要求數據必須是 N 維歐氏空間中的向量。
2）由於抓住了主要矛盾，忽略了次要的東西，因此比傳統的聚類演算法更加健壯一些，對於不規則的誤差數據不是那麼敏感，而且 performance 也要好一些。許多實驗都證明了這一點。事實上，在各種現代聚類演算法的比較中，K-means 通常都是作為 baseline 而存在的。
3）計算復雜度比 K-means 要小，特別是在像文本數據或者平凡的圖像數據這樣維度非常高的數據上運行的時候。
Spectral Clustering 演算法的全貌：
1）根據數據構造一個 Graph ，Graph 的每一個節點對應一個數據點，將相似的點連接起來，並且邊的權重用於表示數據之間的相似度。把這個 Graph 用鄰接矩陣的形式表示出來，記為 W 。
2)把 的每一列元素加起來得到N 個數，把它們放在對角線上（其他地方都是零），組成一個N*N的矩陣，記為D 。並令L = D - W 。
3)求出L的前k個特徵值（在本文中，除非特殊說明，否則「前k個」指按照特徵值的大小從小到大的順序）以及對應的特徵向量。
4)把這k個特徵（列）向量排列在一起組成一個N*k的矩陣，將其中每一行看作k維空間中的一個向量，並使用 K-means 演算法進行聚類。聚類的結果中每一行所屬的類別就是原來 Graph 中的節點亦即最初的N個數據點分別所屬的類別。
下面是Spectral Clustering 的一個簡單的 Matlab 實現：
function idx = spectral_clustering(W, k)
D = diag(sum(W));
L = D-W;
opt = struct('issym', true, 'isreal', true);
[V mmy] = eigs(L, D, k, 'SM', opt);
idx = kmeans(V, k);
end
最後，我們再來看一下本文一開始說的 Spectral Clustering 的幾個優點：
1）只需要數據的相似度矩陣就可以了。這個是顯然的，因為 Spectral Clustering 所需要的所有信息都包含在W中。不過一般W並不總是等於最初的相似度矩陣——回憶一下， 是我們構造出來的 Graph 的鄰接矩陣表示，通常我們在構造 Graph 的時候為了方便進行聚類，更加強到「局部」的連通性，亦即主要考慮把相似的點連接在一起，比如，我們設置一個閾值，如果兩個點的相似度小於這個閾值，就把他們看作是不連接的。另一種構造 Graph 的方法是將 n 個與節點最相似的點與其連接起來。
2)抓住了主要矛盾，忽略了次要的東西，Performance 比傳統的 K-means 要好。實際上 Spectral Clustering 是在用特徵向量的元素來表示原來的數據，並在這種「更好的表示形式」上進行 K-means 。
3)計算復雜度比 K-means 要小。這個在高維數據上表現尤為明顯。例如文本數據，通常排列起來是維度非常高（比如，幾千或者幾萬）的稀疏矩陣，對稀疏矩陣求特徵值和特徵向量有很高效的辦法，得到的結果是一些 k 維的向量（通常 k 不會很大），在這些低維的數據上做 K-means 運算量非常小。但是對於原始數據直接做 K-means 的話，雖然最初的數據是稀疏矩陣，但是 K-means 中有一個求 Centroid 的運算，就是求一個平均值：許多稀疏的向量的平均值求出來並不一定還是稀疏向量，事實上，在文本數據里，很多情況下求出來的 Centroid 向量是非常稠密，這時再計算向量之間的距離的時候，運算量就變得非常大，直接導致普通的 K-means 巨慢無比，而 Spectral Clustering 等工序更多的演算法則迅速得多的結果
❷ 譜聚類演算法的劃分准則
譜聚類演算法將聚類問題轉化為圖的劃分問題之後，基於圖論的劃分准則的優劣直接影響到聚類結果的好壞。常見的劃分准則有Mini cut，Average cut，Normalized cut，Min-max cut，Ratio cut，MNcut等。 Mini cut准則容易出現分割出只包含幾個頂點的較小子圖的歪斜分割現象，Ratio cut和Normalized cut等在一定程度上可以避免這種現象，但是當類間重疊嚴重時歪斜分割現象仍舊會發生。Chris Ding等人提出的基於Min-max cut的圖劃分方法充分體現了「子圖內部相似度最大，子圖之間的相似度最小」原則，能夠產生比較平衡劃分。
上述五種劃分都是不斷地將圖劃分為2個子圖的反復迭代運算過程，當劃分函數的最小值滿足一定的條件時迭代過程便會終止，相應的函數可以稱為2-way劃分函數。 Meilă和Xu[64]認為可以同時把圖劃分為k個子圖並於2004年提出了一種k-way規范割目標函數，而且對於參數k的選取問題也作了分析說明。
我們可以發現當k=2時，MNcut與Ncut兩者是等價的。
❸ citespace的研究方法有哪些
具體如下：
1、若要進行文本的內容分析，需要在運行主窗口中term sources 面板上選擇「term」包含的范圍，有四個數據來源可供選擇，「title」、「abstract」、「descriptors」」identifiers,如果選擇題目或者摘要，還需要在「term selection」中選擇「noun phrases」選項，此選項的功能是將題目和摘要中的名詞短語抽取出來，進而可對這些名詞短語進行特徵詞共現分析。
2、實際上在多少情況下並不需要對圖譜進行修剪，只有在得到的圖譜過於龐大和混亂時才使用。
3、時區內修剪和整個網路修剪，建議使用後者。
4、提供了三種可視化視圖：聚類試圖、時區視圖和時間線視圖。聚類視圖側重於不同研究領域的知識結構，時區視圖更注重於描繪各研究主題隨時間的演變趨勢和相互影響，時間線視圖更便於看出某個研究主題研究基礎的時間跨度。Ps:時間線視圖要用在citedrefernce分析。
5、citespace自動聚類的實現是依據譜聚類演算法，譜聚類本身就是基於圖論的一種演算法，因此它對共引網路這種基於鏈接關系而不是節點屬性的聚類具有天然的優勢。傳統的聚類演算法，如K均值演算法，EM演算法等都是建立在凸球形的樣本空間上，演算法會陷入局部最優。譜聚類演算法正是為了彌補上述演算法的這一缺陷而產生的。
理論研究：
著眼於分析科學分析中蘊含的潛在知識、是在科學計量學、數據可視化背景下逐漸發展起來的一款引文可視化分析軟體。
由於是通過可視化手段來呈現科學知識結構、規律和分布情況，所以得到的可視化圖形也稱為「科學知識圖譜」它是把成千.上萬的文章的關鍵詞、作者、機構等按照重要性以圖譜的形式呈現給大家，另外它還可以分析詞頻(可以做簡單的詞頻分析。
但是做不了詞性分析)，此外它還能發現任何領域文章的轉折點研究熱點，以及預測相關領域論文的前沿和趨勢。對恪位研究學者做文獻梳理有極大的幫助。
❹ 譜聚類演算法的演算法的新進展
Zha和Dhillon等人研究了基於二分圖G=<X, Y, W>上的譜聚類，發現最小化目標函數可以等同於與二分圖相關聯的邊權重矩陣的奇異值分解。
Meila和Shi將相似性解釋為Markov鏈中的隨機游動，分析了這種隨機游動的概率轉移矩陣P=DW的特徵向量(W為相似度矩陣)，並且利用隨機游動對Ncut進行了概率的解釋，提出了基於隨機游動的新的演算法。同時，在這個解釋框架下提出了多個特徵相似矩陣組合下的譜聚類方法，在圖像分割中取得了很不錯的效果。
Cu等人分析了核k-means的方法，發現最小化核k-means的目標函數等同於一個由數據向量組成的Gram矩陣的跡最大化問題。同時，跡最大化問題的鬆散解可以通過Gram矩陣的部分特徵分解獲得，首次用譜鬆散的方法獲得核k-means的目標函數的全局最優解。Dhillon[29]在此基礎上，又研究了加權核k-means的目標函數，將其與Ncut目標函數建立聯系，提出了一個可以單調遞減Ncut值的新穎的加權核k-means演算法。
Ncut是一個很好的聚類目標函數。它的求解是一個NP難問題。傳統的方法是寬松的譜鬆散方法。Xing與Jordan[分析了對Ncut的半正定規劃(SDP)模型。根據該模型，對Ncut提出了一個比譜鬆散更緊的下限。同時指出了Ncut本身不能得到最優的聚類，但它可以通過不同的鬆散方法獲得合理的聚類。
譜聚類方法不僅用於無監督學習中，也用於有約束的半監督學習中。Kamvar等人將PageRank[32]的隨機游動模型運用到相似度矩陣中，根據已知樣本的類別修正相似度矩陣。然後根據譜聚類演算法獲得聚類結果。Bach與Jordan則是根據一個基於已知劃分與Ncut譜鬆散結果的誤差，提出了新的目標函數，通過最小化新的目標函數推出新的譜聚類演算法。
王玲，薄列峰，焦李成認為在聚類搜索過程中充分利用先驗信息會顯著提高聚類演算法的性能，並分析了在聚類過程中僅利用成對限制信息存在的不足，提出利用數據集本身固有空間一致性先驗信息的具體方法。在經典的譜聚類演算法中同時引入兩類先驗信息的基礎上提出一種密度敏感的半監督譜聚類演算法，兩類先驗信息在指導聚類搜索的過程中能夠起到相輔相成的作用，使得演算法相對於僅利用成對限制信息的聚類演算法在聚類性能上有了顯著的提高。
王娜，李霞提出了一種基於監督信息特性的主動學習策略，找出同一類中距離相對較遠的數據對象對和不同類中距離相對較近的數據對象對組成監督信息並將其引入譜聚類演算法，構建新穎的主動半監督譜聚類演算法，結果優於採用隨機選取監督信息的譜聚類性能。
❺ 譜聚類演算法的面臨的問題
盡管譜聚類具有堅實的理論基礎，相對於其它聚類方法具有許多優勢，在實踐中的應用領域在不斷擴展，取得了不錯的效果[38]，但是它仍然需要改進，尤其在下述幾個方面： 如何創建相似度矩陣W，使其更加真實地反映數據點之間的近似關系，使得相近點之間的相似度更高，相異點之間的相似度更低，是譜聚類演算法必須要解決的一個問題。高斯相似函數（Wij=exp(-||xi-xj||^2/2σ^2)）是經典譜聚類演算法中計算兩點間相似度的常用方法，雖然該函數使原始的譜聚類演算法取得了一些成功，但尺度參數σ的選取問題使該函數具有明顯的局限性。NJW演算法[7]通過預先指定幾個尺度參數σ的值，分別執行譜聚類，最後選取使聚類結果最好的σ作為參數，這種做法消除了尺度參數σ選取的人為因素，卻增加了運算時間。
近年來，為了避免參數的選擇問題，有學者提出在計算相似度時不使用高斯核函數。如Gong 等人[41]借鑒Wang Fei和Zhang Changshui[42]在半監督中使用的方法，將每個點的k 近鄰對該點進行線性近似表示時所佔的權重作為兩點間的相似度。通過求n 個二次規劃問題，就可以求得相似度矩陣W，降低了譜聚類演算法對參數的敏感性，使演算法更穩定。 在譜聚類演算法的聚類過程中需要求解矩陣的特徵值與特徵向量，求解非稀疏矩陣特徵向量的復雜度O(n)，所以處理大規模數據集的時候，計算中形成的矩陣空間非常大，求解過程不但會非常耗時，而且所需要的內存空間也非常大，面臨著內存溢出的危險，對計算機內存容量的要求變得較高。因此，如何提高演算法的運行速度，降低運行所需的內存空間，減少演算法運行的時間和空間代價是譜聚類演算法在不斷擴展應用領域的過程中所面臨的另一關鍵問題。
❻ 譜聚類是什麼
譜聚類：演算法的一種。
演算法簡介
譜聚類演算法建立在譜圖理論基礎上，與傳統的聚類演算法相比，它具有能在任意形狀的樣本空間上聚類且收斂於全局最優解的優點。
該演算法首先根據給定的樣本數據集定義一個描述成對數據點相似度的親合矩陣,並且計算矩陣的特徵值和特徵向量 ， 然後選擇合適 的特徵向量聚類不同的數據點。譜聚類演算法最初用於計算機視覺 、VLS I 設計等領域， 最近才開始用於機器學習中，並迅速成為國際上機器學習領域的研究熱點。
譜聚類演算法建立在圖論中的譜圖理論基礎上，其本質是將聚類問題轉化為圖的最優劃分問題，是一種點對聚類演算法，對數據聚類具有很好的應用前景。
❼ 譜聚類演算法的典型的演算法
根據譜聚類演算法所使用的劃分准則，可以把演算法分為二路譜聚類演算法和多路譜聚類演算法，前者使用2-way劃分准則而後者使用k-way劃分准則。 PF演算法。Perona和Freeman提出用相似度矩陣W最大特徵值所對應的特徵向量進行聚類指出對於塊對角相似矩陣，特徵向量中非零值對應的點屬於同一類，零值對應的點屬於另外一類。
SM演算法。Meliă指出Ncut和MNcut的差異之處僅在於所使用的譜映射不同。多路規范割集准則在實際應用中合理有效，但其優化問題通常難以解決。Shi和Malik認為第二小特徵值對應的特徵向量，即Fiedler向量包含了圖的劃分信息，根據啟發式規則在此向量中尋找劃分點i使在該點上得到的Ncut(A,B)值最小，最後把向量中的值與Ncut准則函數的最小值進行比較，大於等於該值的點劃分為一類，小於該值的點則劃分到另外一類。
SLH演算法。SLH重定位演算法計算相似度矩陣W的前k個特徵向量，參數k需要事先指定。
KVV演算法。根據啟發式規則在Fiedler向量中尋找劃分點i使在該點上得到的Rcut(A,B)值最小的劃分點，與SM演算法相似；不同之處僅在於SM演算法是尋找使Ncut(A,B)值最小的劃分點。雖然在實際問題中KVV演算法存在運行速度相對較慢的缺陷，但是演算法減少了過分割的可能性。
Mcut演算法。Ding根據譜圖理論將最小最大割集准則函數的最優化問題轉化為下式的第二小特徵值的求解。 NJW演算法。Ng，Jordan等人選取拉普拉斯矩陣的前k個最大特徵值對應的特徵向量構造新的向量空間R，在這個新的空間內建起與原始數據的對應關系，然後進行聚類。
田錚和李小斌等人利用矩陣的擾動理論逐步分析了理想情形、分塊情形和一般情形下權矩陣的譜和特徵向量與聚類之間的關系[69]：頂點集合V的類內離散程度充分小而類間離散程度充分大時，V 中所有頂點可以劃分成的數目與相似度矩陣W特徵值中大於1的特徵值的數目相等。同時特徵值的大小可以在一定程度上反映每一類所包含頂點的個數。相似度矩陣W的前k個單位正交特徵向量組成的矩陣X 的行向量之間的夾角可以用來計算兩個頂點是否屬於同一類，如果屬於同一類，那麼這對應的行向量接近於相互平行；反之對應的行向量接近於相互正交。理想情況中，V中兩個頂點屬於同一類時，相應的行向量相互平行；屬於不同的類，相應的行向量相互正交。
MS演算法[70]。Meilă把基於馬爾可夫鏈隨機游動過程的概率轉移矩陣運用到相似度矩陣的構造中，研究了這種隨機游動的概率轉移矩陣的特徵值和特徵向量，在隨機游動的框架下了對Ncut進行了概率解釋。該演算法是用隨機游動矩陣P的前k個非零特徵值對應的特徵向量構造矩陣，然後將矩陣中的行看成R空間中的點進行聚類，步驟與NJW演算法相似。MS演算法在實際的圖像分割中取得了良好的效果，但是度矩陣D中對角線元素值之間存在較大的差別時就會導致較差的聚類效果。
❽ 譜聚類演算法的介紹
譜聚類演算法建立在譜圖理論基礎上，與傳統的聚類演算法相比，它具有能在任意形狀的樣本空間上聚類且收斂於全局最優解的優點。該演算法首先根據給定的樣本數據集定義一個描述成對數據點相似度的親合矩陣,並且計算矩陣的特徵值和特徵向量 ， 然後選擇合適 的特徵向量聚類不同的數據點。譜聚類演算法最初用於計算機視覺 、VLS I 設計等領域， 最近才開始用於機器學習中，並迅速成為國際上機器學習領域的研究熱點。譜聚類演算法建立在圖論中的譜圖理論基礎上，其本質是將聚類問題轉化為圖的最優劃分問題，是一種點對聚類演算法，對數據聚類具有很好的應用前景。
❾ matlab 求自適應譜聚類演算法的代碼
有一本書不錯，《智能控制及其MATLAB實現》，李國勇，電子工業出版社
專講神經網路與模糊控制，特別是有比較翔實的演算法分析和演算法實現（MATLAB）
其中就有模式識別與聚類方面的內容
❿ 如何用spark實現譜聚類
用spark做kmeans演算法的例子,里邊導入的數據總是有sample_linear_regression_data.txtsample_svm_data。
