① 高等代數的應用
你問這個問題很正常的，我是設立信息計算科學這個專業的第一批學生。剛到大學的時候我們也是整天問老師這個有什麼用那個有什麼用。不過學到後來就知道各種用處了。
高等數學里里有「三高三低」的說法，三低指的是數學分析（微積分理論部分）、高等代數和空間解析幾何，它們是三高的基礎。三高指乏函分析、近世代數和拓撲學。如果三低學不好後面的三高就很難學好。
先就說說你提的高等代數吧
高等代數在大學低年級主要是學習線性代數和代數空間的概念。線性代數在工科有叫做工程數學的，應用非常廣泛，這個就不多說了。在數學專業上對後續的課程也非常重要，比如你們後面要開的一門專業課叫數值分析和數值代數的課程（這是這個專業的核心專業課程），用處非常廣，還有就是以後要開設的幾何作圖（或圖形學）和圖像處理，空間的各種變換都是需要用到線性代數的。再說代數空間，這是現代數學的核心思想的體現，你不僅要好好學會課本的知識，還要掌握代數在處理這些空間上的方式方法，形成數學思維，這對後續課程的學習非常重要。在後續的泛函分析、近世代數和拓撲學上都是要用到的。
學習代數不僅要掌握方法技巧，更重要的是要掌握思想，這是大學和高中數學的區別。從一定意義上說代數是最能鍛煉人的思維的，對於數學專業的它以推理證明為主，所以在學習中一定要掌握好概念定義，清楚定理、推論的條件。這樣學習起來就輕鬆了，有時候一道題想上幾年都想不通，但是只要對概念稍加研究可能就很輕松地解決了。這就是代數的奇妙之處。
三低中的其他兩個我就不多講了，如有必要你可以給我留言。
最後我我想加兩點：
一是他們的用處我沒法一一列舉，只能點到為止，凸現它的重要地位。上面有人把圖論列入代數范圍是不對的，但是現代圖論是代數的一個很好的應用領域。
二是不管現代數學多麼高深，多麼前沿的問題，最終都是要化為基本的代數和微積分來處理的，這是丘成桐說的。
不知道樓主滿意否？如有疑問可以e_mail:simu@163.com
② 線性代數在機器學習上的基本應用
線性代數在機器學習上的基本應用
本人碩渣一枚，之前研究方向為GPU並行計算。現在開始學習機器學習和深度學習。俗話說好記性不如爛筆頭。僅以此記錄我的學習過程。
線性代數在機器學習方面有著重要的應用，為了更好的理解機器學習，復習一下線性代數。
這里以數字識別為例：
首先一副圖像輸入如下所示：
我們首先將圖片16*16轉換成一個256的一維向量，然後我們可以看到如果我們用256維向量作為輸入數據，數據量較大。我們可以用一個向量空間去表示輸入圖像的向量
我們假設u1、u2.....un都是一個標准向量空間，有人可能問 n 為多少呢 ，如果用標准向量表示256維的向量n還是256，數據維數病沒有下降啊 但是我們這里要考慮一個問題 其實並不是所有的圖像都可以表示成手寫文字 如下圖所示，因此我們並不需要使用256基本Basic 去表示，因為如果使用256Basic 我們可以表示任何圖像，但是事實上我們並不需要所有圖像，我們需要識別出數字首先圖像，這樣Basic 應該會小於256：這裡面 N便會小於256 如下圖所示，我們可以把改成Basic 元素表示，如下乳所示：
從而將數據降低維數。
上圖是使用4W張圖片利用PCA演算法找到的Basic.這裡面白色為0.黑色為1.灰色介於0到1之間。
利用NMF找出的Basic,這里嚴格來講不能算是Basic，因為有可能不是相互獨立的
③ 機器學習中涉及到哪些數學工具
在機器學習中涉及到很多的工具，其中最重要的當屬數學工具。機器學習涉及到的數據工具總共有三種，分別是線性代數、概率統計和最優化理論。在這篇文章中我們就來詳細給大家介紹一下這些知識，讓大家在日常的機器學習中可以更好地運用到數學工具。
首先我們給大家介紹一下線性代數，線性代數起到的一個最主要的作用就是把具體的事物轉化成抽象的數學模型。不管我們的世界當中有多麼紛繁復雜，我們都可以把它轉化成一個向量，或者一個矩陣的形式。這就是線性代數最主要的作用。所以，在線性代數解決表示這個問題的過程中，我們主要包括這樣兩個部分，一方面是線性空間理論，也就是我們說的向量、矩陣、變換這樣一些問題。第二個是矩陣分析。給定一個矩陣，我們可以對它做所謂的SVD分解，也就是做奇異值分解，或者是做其他的一些分析。這樣兩個部分共同構成了我們機器學習當中所需要的線性代數。
然後我們說一下概率統計，在評價過程中，我們需要使用到概率統計。概率統計包括了兩個方面，一方面是數理統計，另外一方面是概率論。一般來說數理統計比較好理解，我們機器學習當中應用的很多模型都是來源於數理統計。像最簡單的線性回歸，還有邏輯回歸，它實際上都是來源於統計學。在具體地給定了目標函數之後，我們在實際地去評價這個目標函數的時候，我們會用到一些概率論。當給定了一個分布，我們要求解這個目標函數的期望值。在平均意義上，這個目標函數能達到什麼程度呢？這個時候就需要使用到概率論。所以說在評價這個過程中，我們會主要應用到概率統計的一些知識。
最後我們說一下最優化理論，其實關於優化，就不用說了，我們肯定用到的是最優化理論。在最優化理論當中，主要的研究方向是凸優化。凸優化當然它有些限制，但它的好處也很明顯，比如說能夠簡化這個問題的解。因為在優化當中我們都知道，我們要求的是一個最大值，或者是最小值，但實際當中我們可能會遇到一些局部的極大值，局部的極小值，還有鞍點這樣的點。凸優化可以避免這個問題。在凸優化當中，極大值就是最大值，極小值也就是最小值。但在實際當中，尤其是引入了神經網路還有深度學習之後，凸優化的應用范圍越來越窄，很多情況下它不再適用，所以這裡面我們主要用到的是無約束優化。同時，在神經網路當中應用最廣的一個演算法，一個優化方法，就是反向傳播。
在這篇文章中我們給大家介紹了機器學習涉及到的數學工具，分別是線性代數、概率統計和最優化理論。相信大家看了這篇文章以後已經對這些工具的作用有所了解，希望這篇文章能夠更好地幫助大家。
④ 如何理解機器學習演算法在大數據裡面的應用
現在深度學習在機器學習領域是一個很熱的概念，不過經過各種媒體的轉載播報，這個概念也逐漸變得有些神話的感覺：例如，人們可能認為，深度學習是一種能夠模擬出人腦的神經結構的機器學習方式，從而能夠讓計算機具有人一樣的智慧；而這樣一種技術在將來無疑是前景無限的。那麼深度學習本質上又是一種什麼樣的技術呢？
深度學習是什麼
深度學習是機器學習領域中對模式（聲音、圖像等等）進行建模的一種方法，它也是一種基於統計的概率模型。在對各種模式進行建模之後，便可以對各種模式進行識別了，例如待建模的模式是聲音的話，那麼這種識別便可以理解為語音識別。而類比來理解，如果說將機器學習演算法類比為排序演算法，那麼深度學習演算法便是眾多排序演算法當中的一種（例如冒泡排序），這種演算法在某些應用場景中，會具有一定的優勢。
深度學習的「深度」體現在哪裡
論及深度學習中的「深度」一詞，人們從感性上可能會認為，深度學習相對於傳統的機器學習演算法，能夠做更多的事情，是一種更為「高深」的演算法。而事實可能並非我們想像的那樣，因為從演算法輸入輸出的角度考慮，深度學習演算法與傳統的有監督機器學習演算法的輸入輸出都是類似的，無論是最簡單的Logistic Regression，還是到後來的SVM、boosting等演算法，它們能夠做的事情都是類似的。正如無論使用什麼樣的排序演算法，它們的輸入和預期的輸出都是類似的，區別在於各種演算法在不同環境下的性能不同。
那麼深度學習的「深度」本質上又指的是什麼呢？深度學習的學名又叫深層神經網路（Deep Neural Networks ），是從很久以前的人工神經網路（Artificial Neural Networks）模型發展而來。這種模型一般採用計算機科學中的圖模型來直觀的表達，而深度學習的「深度」便指的是圖模型的層數以及每一層的節點數量，相對於之前的神經網路而言，有了很大程度的提升。
深度學習也有許多種不同的實現形式，根據解決問題、應用領域甚至論文作者取名創意的不同，它也有不同的名字：例如卷積神經網路（Convolutional Neural
⑤ 學高數 線性代數 復變函數 對計算機專業來說有用嗎
有用。
在當下，計算機科學領域里能大量運用高數線代的當屬於工程領域。如流體力學彈性力學材料力學中各種工程問題的處理。比較典型的就是使用有限元法處理流體力學中理想流體在粘性流體運動問題。工程中銹鋼柔性細管的空拔過程問題。在大量數據矩陣時運用矩陣運演算法則簡化運算
還有物理學領域中電子設計中復變函數應用較多。如電路理論中解線性方程量子力學中的波函數量子場論，其中Wick's rotation便牽涉到i多體理論中算的積分，很多都要用Resie Theorem，尤其牽涉到波色分布和費米分布（通常推延到Matsubara frequency）還有很多用了復數就可以簡化計算的例子
自然語言處理中也有高數線代的大量應用。如如何將不同自然語言使用機器翻譯，語音識別。數據通信等。並且這些人工來處理很難，大多需要計算機來輔助。所以計算機專業很有必要學。但是學的精的少些
⑥ 機器學習中的線性代數
機器學習中的線性代數
線性代數作為數學中的一個重要的分支，廣發應用在科學與工程中。掌握好線性代數對於理解和從事機器學習演算法相關的工作是很有必要的，尤其是對於深度學習而言。因此，在開始介紹深度學習之前，先集中探討一些必備的線性代數知識。
2.1 標量，向量，矩陣和張量
標量（scalar）：一個標量就是一個單獨的數。用斜體表示標量，如s∈R
.
向量（vector）：一個向量是一列數，我們用粗體的小寫名稱表示向量。比如x
，將向量x
寫成方括弧包含的縱柱：
x=??????x1x2?xn??????
矩陣（matrix）：矩陣是二維數組，我們通常賦予矩陣粗體大寫變數名稱，比如A。如果一個矩陣高度是m，寬度是n，那麼說A∈Rm×n。一個矩陣可以表示如下：
A=[x11x21x12x22]
張量（tensor）：某些情況下，我們會討論不止維坐標的數組。如果一組數組中的元素分布在若干維坐標的規則網路中，就將其稱為張量。用A表示，如張量中坐標為(i,j,k)的元素記作Ai,j,k。
轉置（transpose）：矩陣的轉置是以對角線為軸的鏡像，這條從左上角到右下角的對角線稱為主對角線（main diagonal）。將矩陣A
的轉置表示為A?
。定義如下：
(A?)i,j=Aj,i
A=???x11x21x31x12x22x32????A?=[x11x21x21x22x31x32]
2.2 矩陣和向量相乘
矩陣乘法是矩陣運算中最重要的操作之一。兩個矩陣A
和B的矩陣乘積(matrix proct)是第三個矩陣C。矩陣乘法中A的列必須和B的行數相同。即如果矩陣A的形狀是m×n，矩陣B的形狀是n×p，那麼矩陣C的形狀就是m×p
。即
C=A×B
具體的地，其中的乘法操作定義為
Ci,j=∑kAi,kBk,j
矩陣乘積服從分配律
A(B+C)=AB+AC
矩陣乘積也服從結合律
A(BC)=(AB)C
注意：矩陣乘積沒有交換律
點積（dot proct）兩個相同維數的向量x
和y的點積可看作是矩陣乘積x?y
矩陣乘積的轉置
(AB)?=B?A?
利用向量的乘積是標量，標量的轉置是自身的事實，我們可以證明（10）式：
x?y=(x?y)?=y?x
線性方程組
Ax=b
2.3 單位矩陣和逆矩陣
線性代數中提供了矩陣逆（matrix inverse）的工具，使得我們能夠解析地求解（11）中的A
.
單位矩陣（identity matrix）：任意向量與單位矩陣相乘都不會改變。我們將保持n
維向量不變地單位矩陣記作為In，形式上In∈Rn×n
，
?x∈Rn,Inx=x
矩陣A的矩陣逆被記作A?1，被定義為如下形式：
A?1A=AA?1=In
（11）式方程組的求解：
Ax=bA?1Ax=A?1bInx=A?1bx=A?1b
方程組的解取決於能否找到一個逆矩陣A?1。接下來討論逆矩陣A?1的存在的條件。
2.4 線性相關和生成子空間
如果逆矩陣A?1
存在，那麼（11）式肯定對於每一個向量b恰好存在一個解。分析方程有多少個解，我們可以看成是A
的列向量的線性組合（linear combination）。
Ax=∑ixiA:,i
形式上，某個集合中向量的線性組合，是指每個向量乘以對應系數之後的和，即
∑iciv(i)
一組向量的生成空間(span)是原始向量線性組合後所能抵達的點的集合。
線性無關（linearly independent）： 如果一組向量中的任意一個向量都不能表示成其他向量的線性組合，那麼這組向量被稱之為線性無關。
要想使矩陣可逆，首先必須矩陣是一個方陣（square），即m=n
，其次，所有的列向量都是線性無關的。
一個列向量線性相關的方陣被稱為奇異的（singular）。
2.5 范數
有時候我們需要衡量一個向量的大小，在機器學習中，我們使用稱為范數（norm）的函數來衡量矩陣大小，形式上，Lp
范數如下：
||x||p=(∑i|xi|p)12
其中p∈R,p≥1。
范數是將向量映射到非負值的函數。直觀上來說，向量x
的范數就是衡量從原點到x
的舉例。更嚴格來說，范數滿足下列性質的函數：
f(x)=0?x=0
f(x+y)≤f(x)+f(y)
?α∈R,f(αx)=|α|f(x)
當p=2
時，L2被稱作歐幾里得范數（Euclidean norm）。它表示從原點出發到向量x確定的點的歐幾里得距離。平方L2范數常被用來衡量向量的大小，因為它便於求導計算（如對向量中每個元素的導數只取決於對應的元素，但是它也有缺陷，即它在原點附近增長得十分緩慢），可以簡單用點積x?x
來計算。
max 范數（max norm）：這個范數表示向量中具有最大幅度得元素的絕對值，用L∞
范數表示，期形式為：
||x||∞=∑(i,j)A2i,j??????√
兩個向量的點積(dot proct)也可以用范數來表示。具體地，
x?y=||x||2||y||2cosθ
2.6 特殊類型的矩陣和向量
對角矩陣(diagonal matrix)只在主對角線上含有非零元素，其它位置都是零。矩陣D
是對角矩陣，當且僅當?i≠j,Di,j=0，用diag(v)表示一個對角元素由向量v
中元素給定的對角矩陣。
對稱(symmetric) 矩陣是任意轉置和自己相等的矩陣：
A=A?
即在矩陣A中，有Ai,j=Aj,i。
單位向量（unit vector）是具有單位范數（unit norm）的向量：
||x||2=1
如果x?y=0，那麼向量x和向量y互相正交（orthogonal）。如果兩個向量都有非零范數，那麼表示這兩個向量之間的夾角是90 度。在Rn中，至多有n個范數非零向量互相正交。如果這些向量不僅互相正交，並且范數都為1，那麼我們稱它們是標准正交（orthonormal）。
正交矩陣（orthonormal matrix）是指行向量是標准正交的，列向量是標准正交的方陣：
A?A=AA?=I
這意味著
A?1=A?
所以正交矩陣受到關注是因為求逆計算代價小。需要注意正交矩陣的定義。反直覺地，正交矩陣的行向量不僅是正交的，還是標准正交的。對於行向量或列向量互相正交但不是標准正交的矩陣沒有對應的專有術語。
2.7 特徵分解
許多數學對象可以通過將它們分解成多個組成部分，或者找到它們的一些屬性而被更好地理解，這些屬性是通用的，而不是由我們選擇表示它們的方式引起的。就像我們可以通過分解質因數來發現一些關於整數的真實性質，我們也可以通過分解矩陣來獲取一些矩陣表示成數組元素時不明顯的函數性質。
特徵分解(eigendecomposition)是使用最廣的矩陣分解之一，即我們將矩陣分解成一組特徵向量和特徵值。
方陣A
的特徵向量（eigenvector）是指與A相乘後相當於對該向量進行縮放的非零向量v
：
Av=λv
標量λ被稱為這個特徵向量對應的特徵值（eigenvalue）。
如果v
是A的特徵向量，那麼任何放縮後的向量sv(s∈R,s≠0)也是A
的特徵向量並且其與bf v 有相同的特徵值。所以我們通常只考慮單位特徵向量。
假設矩陣A
有n個線性無關的特徵向量{v(1),v(2),...,v(n)}，對應著的特徵值{λ1,λ2,...,λn}
，我們將特徵向量連成一個矩陣，使得每一列是一個特徵向量：
V=[v(1),v(2),...,v(n)]
類似地，特徵值連成一個向量：
λ=[λ1,λ2,...,λn]?
因此bf A 的特徵分解（eigendecomposition）可以記作：
A=Vdiag(λ)V?1
上面我們構建具體特定的特徵值和特徵向量，能夠使我們在目標方向上延伸空間。我們也常常希望將矩陣分解(decompose)成特徵值和特徵向量。這樣可以幫助我們分析矩陣的特定性質，就像質因數分解有助於我們理解整數。
不是每一個矩陣都可以分解成特徵值和特徵向量，在某些情況下，特徵分解會涉及到復數，而非實數。在本書的機器學習學習中，我們只討論一類簡單分解的矩陣。具體就是，每個實對稱矩陣都可以分解為實特徵向量和實特徵值：
A=QΛQ?
其中Q是A的特徵向量組成的正交矩陣，Λ是對角矩陣。特徵值Λi,i對應的特徵向量是矩陣Q的第i列，記作Q:,i。因為Q是正交矩陣，所以可以將A看作是沿方向v(i)延展λi倍的空間。如下圖所示：
2.8 跡運算
跡運算返回的是矩陣對角元素的和：
Tr(A)=∑iAi,i
跡運算因為很多原因而受到關注。若不使用求和符號，有些矩陣運算很難描述，而通過矩陣乘法和跡運算符號，可以進行清楚地表示。例如，跡運算提供了另一種描述矩陣Frobenius 范數的方式:
||A||F=Tr(AA?)????????√
用跡運算表示式，使我們可以用很多有用的性質來操縱表示式。例如跡運算在轉置下是不變的：
Tr(A)=Tr(A?)
多個矩陣乘積的跡還滿足鏈式規律，即：
Tr(ABC)=Tr(BCA)=Tr(CAB)
標量的跡是它本身：a=Tr(a)。
2.9 行列式
行列式，記作det(A)
，是一個將方陣A
映射到實數的函數。行列式等於矩陣特徵值的乘積。行列式的絕對值可以被認為是衡量矩陣相乘後空間擴大或者縮小了多少。如果行列式是0, 那麼空間至少沿著某一維完全收縮了，使其失去了所有的體積。如果行列式是1, 那麼矩陣相乘沒有改變空間體積。
總結
以上是在機器學習過程中必須了解和掌握的有關線性代數的知識
⑦ 數學分析,高等代數學了有什麼用
我們的生活已經完全離不開數學。甚至可以這么說，沒有高等數學的發展，就不會有今天的現代化。
高等數學的各主要學科的「用處」。中學數學就不說了，這在數學家眼裡都是算術。一些如概率統計、離散數學、運籌學、控制論等純粹就是為了應用而發展起來的分支也不說了，重點介紹基礎方面的。
數學分析：主要包括微積分和級數理論。微積分是高等數學的基礎，應用范圍非常廣，基本上涉及到函數的領域都需要微積分的知識。級數中，傅立葉級數和傅立葉變換主要應用在信號分析領域，包括濾波、數據壓縮、電力系統的監控等，電子產品的製造離不開它。
實變函數（實分析）：數學分析的加強版之一。主要應用於經濟學等注重數據分析的領域。
復變函數（復分析）：數學分析加強版之二。應用很廣的一門學科，在航空力學、流體力學、固體力學、信息工程、電氣工程等領域都有廣泛的應用，所以工科學生都要學這門課的。
高等代數，主要包括線形代數和多項式理論。線形代數可以說是目前應用很廣泛的數學分支，數據結構、程序演算法、機械設計、電子電路、電子信號、自動控制、經濟分析、管理科學、醫學、會計等都需要用到線形代數的知識，是目前經管、理工、計算機專業學生的必修課程。
高等幾何：包括空間解析幾何、射影幾何、球面幾何等，主要應用在建築設計、工程制圖方面。
分析學、高等代數、高等幾何是近代數學的三大支柱。
微分方程：包括常微分方程和偏微分方程，重要工具之一。流體力學、超導技術、量子力學、數理金融中的穩定性分析、材料科學、模式識別、信號(圖像)處理 、工業控制、輸配電、遙感測控、傳染病分析、天氣預報等領域都需要它。
泛函分析：主要研究無限維空間上的函數。因為比較抽象，在技術上的直接應用不多，一般應用於連續介質力學、量子物理、計算數學、無窮維商品空間、控制論、最優化理論等理論。
近世代數（抽象代數）：主要研究各種公理化抽象代數系統的。技術上沒有應用，物理上用得比較多，尤其是其中的群論。
拓撲學：研究集合在連續變換下的不變性。在自然科學中應用較多，如物理學的液晶結構缺陷的分類、化學的分子拓撲構形、生物學的DNA的環繞和拓撲異構酶等，此外在經濟學中的博弈論也有很重要的應用。
泛函分析、近世代數、拓撲學是現代數學三大熱門分支。
非歐幾何：主要應用在物理上，最著名的是相對論。