洗衣機的黑箱演算法表達

㈠ 數學建模問題

數學建模B題一 潔具流水時間設計

我國是個淡水資源相當貧乏的國家，人均可利用淡水量不到世界平均數的四分之一。特別是近幾年來，由於環境污染導致降水量減少，不少省市出現大面積的乾旱。許多城市為了節能，紛紛採取提高水價、電價的方式來抑制能源消費。而另一方面，據有關資料報道，我國目前生產的各類潔具消耗的能源（主要是指用水量）比其它發達國家的同類產品要高出60%以上。
某潔具生產廠家打算開發一種男性用的全自動潔具，它的單位時間內流水量為常數v，為達到節能的目的，現有以下兩個控制放水時間的設計方案供採用。
方案一：使用者開始使用潔具時，受感應潔具以均勻水流開始放水，持續時間為T，然後自動停止放水。若使用時間不超過T-5秒，則只放水一次，否則，為保持清潔，在使用者離開後再放水一次，持續時間為10秒。
方案二：使用者開始使用潔具時，受感應潔具以均勻水流開始放水，持續時間為T，然後自動停止放水。若使用時間不超過T-5秒，則只放水一次，否則，為保持清潔，到2T時刻再開始第二次放水，持續時間也為T。但若使用時間超過2T-5秒，則到4T時刻再開始第三次放水，持續時間也是T……在設計時，為了使潔具的壽命盡可能延長，一般希望對每位使用者放水次數不超過2次。
該廠家隨機調查了100人次男性從開始使用到離開潔具為止的時間(單位：秒)見下表：

時間（秒） 12 13 14 15 16 17 18
人次 1 5 12 60 13 6 3

（1）請你根據以上數據，比較這兩種設計方案從節約能源的角度來看，哪一種更好？並為該廠家提供設計參數T（秒）的最優值，使這種潔具在相應設計方案下能達到最大限度節約水、電的目的；
（2）從既能保持清潔又能節約能源出發，你是否能提出更好的設計方案，請通過建立數學模型與前面的方案進行比較。

其實，家庭中的其他生活用水一樣可以用來沖洗馬桶，比方說經過最後一次漂洗，衣服洗干凈了，從洗衣機排出的水看上去還比較干凈，直接流進下水管還真有點可惜。還有像洗完臉、洗過菜的水，如果能再次利用就好了。業余發明家吳漢平研製了一套生活用水回用裝置，獲得了國家專利。他將廚房的洗滌槽、衛生間的面盆和坐便器水箱連接到一個儲水箱上。洗滌槽、面盆流出來的比較干凈的水進入儲水箱，供沖廁使用。

現在我來教你省水小秘方1.要用省水形馬桶，般審型馬桶加裝2段式沖水配件。2.水箱底下浮餅拆下 即成無段式控制出水。
3.小便池自動沖水器沖水時間調短。 4.用米水、洗衣水、洗碗水及洗澡水等清水來澆花、洗車，及擦洗地板。5.清理地毯法由濕式或蒸汽式改成乾燥粉沫式。6.將除濕機收集的水，及純水機、蒸餾水機等凈水設備的廢水回收再利用。
現在我說完了6項省水秘方，你是否想到比我更好的省水方法呢？你是否在省水呢？我想你應該在省水吧！

長期以來，人們普遍認為水是「取之不盡，用之不竭」的，不知道愛惜，而浪費揮霍。事實上，水資源日益緊缺，而我市的城市供水工作更是在嚴重缺水的邊緣艱難度日，自來水來之不易。

人不可一日無水，水是生命之源，珍惜水就是珍惜自己的生命！在此，我們介紹一些日常生活中的節水常識：

刷牙

浪費：不間斷放水，30秒，用水約6升。

節水：口杯接水，3口杯，用水0．6升。三口之家每日兩次，每月可節水486升。

洗衣

浪費：洗衣機不間斷地邊注水邊沖洗、排水的洗衣方式，每次需用水約165升。

節水：洗衣機採用洗滌—脫水—注水—脫水—注水—脫水方式洗滌，每次用水110升，每次可節水55升，每月洗4次，可節水220升。

另外，衣物集中洗滌，可減少洗衣次數；小件、少量衣物提倡手洗，可節約大量水；洗滌劑過量投放將浪費大量水。

洗浴

浪費：過長時間不間斷放水沖淋，會浪費大量水。

盆浴時放水過多，以至溢出，或盆浴時一邊打開水塞，一邊注水，浪費將十分驚人。

節水：間斷放水淋浴（比如腳踏式、感應式等）。搓洗時應及時關水。避免過長時間沖淋。

盆浴後的水可用於洗衣、洗車、沖洗廁所、拖地等。

炊事

浪費：水龍頭大開，長時間沖洗。燒開水時間過長，水蒸汽大量蒸發。用自來水沖淋蔬菜、水果。

節水：炊具食具上的油污，先用紙擦除，再洗滌，可節水。

控制水龍頭流量，改不間斷沖洗為間斷沖洗。

洗車

浪費：用水管沖洗，20分鍾，用水約240升。

節水：用水桶盛水洗車，需3桶水，用水約30升。使用洗滌水、洗衣水洗車。使用節水噴霧水槍沖洗。利用機械自動洗車，洗車水處理循環使用。

節水小方法：
節約用水，利在當代，功在千秋，這是經過討論同學們一起研究出一些生活節水小方法：
一、淘米水洗菜，再用清水清洗，不僅節約了水，還有效地清除了蔬菜上的殘存農葯；
二、洗衣水洗拖帕、帚地板、再沖廁所。第二道清洗衣物的洗衣水擦門窗及傢具、洗鞋襪等；
三、大、小便後沖洗廁所，盡量不開大水管沖洗，而充分利用使用過的「臟水」；
四、夏天給室內外地面灑水降溫，盡量不用清水，而用洗衣之後的洗衣水；
五、自行車、家用小轎車清潔時，不用水沖，改用濕布擦，太臟的地方，也宜用洗衣物過後的余水沖洗；
六、沖廁所：如果您使用節水型設備，每次可節水4一5kg；
七、家庭澆花，宜用淘米水、茶水、洗衣水等；
八、家庭洗滌手巾、小對象、瓜果等少量用水。宜用盆子盛水而不宜開水龍頭放水沖洗；
九、洗地板：用拖把擦洗，可比用水龍頭沖洗每次每戶可節水200kg以上；
十、水龍頭使用時間長有漏水現象，可用裝青黴素的小葯瓶的橡膠蓋剪一個與原來一樣的墊圈放進去，可以保證滴水不漏；
十一、將衛生間里水箱的浮球向下調整2厘米，每次沖洗可節省水近3kg；按家庭每天使用四次算，一年可節葯水4380kg。
十二、洗菜：一盆一盆地洗，不要開著水龍頭沖，一餐飯可節省50kg；
十三、淋浴：如果您關掉龍頭擦香皂，洗一次澡可節水60kg；
十四、手洗衣服：如果用洗衣盆洗、清衣服則每次洗、清衣比開著水龍頭節省水200kg；
十五、用洗衣機洗衣服：建議您滿桶再洗，若分開兩次洗，則多耗水120kg；
十六、洗車：用抹布擦洗比用水龍頭沖洗，至少每次可節水400kg；

㈡ 如何看待顧險峰《看穿機器學習的黑箱》這篇文章

概覽
直觀而言，視覺領域機器學習的統計觀點如下：我們將所有可能的圖像構成的空間設為，其中n是總的像素個數，每張圖像視為全圖像空間中的一個點。每個有意義的視覺「概念」（例如所有貓的圖像）是全空間的一個可測子集，。固定一個概念，每張圖片是否表達了這個概念就給出了一個概率分布。這樣，視覺中的問題就被轉化為概率統計的問題：如何表示概率分布，如何衡量概率分布間的距離，如何近似一個概率分布，如何生成滿足特定概率分布的隨機變數，如何根據概率分布進行統計推斷，等等。
近年來，依隨Internet技術的發展，人類已經積累了大量的視覺數據，這使得估計各種概率分布成為可能。同時，GPU技術的發展，使得各種統計計算方法的實現成為可能。因此，我們迎來了機器學習的科技大潮。但是，我們依然無法嚴密解釋機器學習演算法的有效性。
老顧傾向於認為，從基礎理論角度而言，研究概率分布的一個強有力工具是最優傳輸理論（optimal mass transportation theory），這個理論著重揭示概率分布這一自然現象的內在規律，因此並不從屬於某個學派，也不依賴於具體的演算法。相反，這一理論會為演算法的發展提供指導，同時真正合理有效的演算法（例如機器學習演算法），應該可以被傳輸理論來解釋。
簡而言之，傳輸理論給出了概率分布所構成空間的幾何。給定一個黎曼流形，其上所有的概率分布構成一個無窮維的空間：Wasserstein空間，最優傳輸映射的傳輸代價給出了Wasserstein空間的一個黎曼度量。Wasserstein空間中的任意兩點可以用Wasserstein距離來測量相近程度，自然也可以用測地線來插值概率分布。每個概率分布有熵，沿著測地線熵值的變化規律和黎曼流形的曲率有著本質的關系。這一幾何事實在網路領域已經被應用，但在視覺領域，似乎還沒有相關工作。
但在實際計算中，高維的最優傳輸映射，Wasserstein距離計算復雜。一個自然的想法是降維，將高維空間的概率分布投影到低維子空間，在低維空間上計算邊際分布之間的變換。這有些象盲人摸象，每次得到局部信息，如果摸得充分，我們也可以恢復大象的整體信息。
回顧
在第一講（看穿機器學習W-GAN的黑箱）中，我們給出了最優傳輸問題的凸幾何解釋：給定兩個概率分布，存在唯一的最優傳輸映射，將初始概率分布變換成目標概率分布，，同時極小化傳輸代價，這里被稱為是兩個概率分布之間的Wasserstein距離。同時，最優傳輸映射是某個凸函數的梯度映射，，這個函數滿足蒙日-安培方程。我們的理論給出了一種幾何變分方法來求解最優傳輸映射。
在第二講（看穿機器學習的黑箱（II））中，我們澄清了這樣的觀點：相比於學習一個映射，學習一個概率分布要容易很多。滿足的映射構成了一個無窮維的李群。
但是，在視覺問題中，通常圖像全空間的維數非常高，計算難度較高。因此，我們可以放棄理論上的最優性，尋找計算更加簡單有效，同時又和最優傳輸距離等價的演算法。下面，我們就討論這些更為實用的演算法及其背後的理論。
直方圖均衡化

圖1. 直方圖均衡化結果（histogram equalization）。
直方圖均衡化是提高灰度圖像對比度的常見演算法。如圖1所示，左側輸入圖像的灰度分布在一個狹窄區域，朦朧昏暗；右側是直方圖均衡化的結果，清晰明亮，對比鮮明。我們設輸入圖像像素的灰度為一隨機變數，其取值范圍為單位區間，其概率測度為，直方圖均衡化演算法的核心就是求灰度空間（單位區間）到自身的一個映射，這一映射將變換成均勻分布。
實際上，傳統的直方圖均衡化就是一維的最優傳送映射。假設我們有兩個連續的概率分布，其對應的累積分布函數（CDF）是那麼直方圖均衡化映射就是傳輸映射：。首先，我們可以證明這個映射滿足兩個條件：
單調遞增。
另一方面，我們應用最優傳輸理論：存在一個凸函數，其梯度映射給出最優傳輸映射。由函數的凸性，我們得到最優傳輸映射也滿足上面兩條性質。更進一步，我們可以證明，在一維情形，滿足上面兩條的映射是唯一的。這意味著，一維直方圖均衡化映射就是最優傳輸映射。
因此，一維的最優傳輸映射非常容易計算。下面，我們應用一維最優傳輸映射來近似高維最優傳輸映射。
迭代分布傳輸演算法
有多種最優傳輸映射的近似演算法。我們先討論迭代分布傳輸演算法（Iterative Distribution Transfer ）：給定單位向量，我們將整個空間投影到一維線性子空間上，投影映射為：
投影誘導的概率分布（邊際概率分布）記為。在演算法第k步，假設當前源空間的概率分布為；我們隨機選取歐氏空間的一個標准正交基；為每一個基底向量構造一維的最優傳輸映射
由此構造映射，在標架下
其誘導的概率分布為 。不停地重復這一步驟，對於足夠大的n，復合映射：
將初始概率分布映成了目標概率分布。

圖2. 從拉東變換恢復的醫學圖像。
這一論斷的證明需要用到拉東變換（Radon Transform）：給定中的一個概率分布，的Radon transform 是一族一維的概率測度。
換句話說，給定一個單位向量，它生成一條直線，我們將全空間向這條直線投影，得到邊際概率分布。拉東變換的基本定理斷言：如果兩個概率測度的拉東變換相等，則兩個概率測度相等。如圖2所示，這一定理是醫學圖像上CT斷層掃描技術的基本原理。
迭代演算法如果最後達到一個平衡狀態，則在任意一條過原點的直線上，的邊際概率分布等於的邊際概率分布，因此由拉東變換原理收斂於，。這樣，我們將高維的傳輸映射轉換成一維傳輸映射的復合，降低了計算難度。
投影Wasserstein距離梯度下降法
另外一種迭代演算法想法比較類似。給定兩個上定義的概率測度和，對於任意一個單位向量，我們考慮投影映射。投影映射誘導兩個直線上的概率分布和，它們之間的最優傳輸映射記為。由此，每個點都沿著平移一個向量：
我們考察所有的單位向量，然後取平均，去一個步長參數，每個點平移到，相應的概率分布變為。重復以上步驟，我們可以證明所得的概率分布沿著距離收斂。這里距離是所謂的投影Wasserstein距離，其具體定義如下：
這里是Wasserstein距離。投影Wasserstein距離和Wasserstein距離誘導Wasserstein空間同樣的拓撲，但是計算起來相對容易很多。

圖3. 用於愚弄深度神經網的圖像（A. Nguyen, J. Yosinski and J. Clune, Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images, CVPR2015.）
局限性和脆弱性
拉東變換將聯合概率分布轉換成向所有一維子空間投影所得的邊際概率分布，從而實現了降維，簡化了計算。但是，如果有一些子空間的邊際分布缺失，我們無法精確恢復原來的聯合分布。在視覺問題中，每個線性子空間被視為一個特徵，向子空間投影，等價於特徵提取。
深度神經網在解決視覺分類問題中表現出色，但是也非常容易被愚弄。如圖3所示，人類可以輕易看出這些是非自然圖像，在現實生活中不具備任何意義。但是深度神經網路非常自信地將它們歸結為訓練過的類別。如果，我們以欣賞現代抽象藝術的心態來研究這些圖像，我們能夠領會到深度神經網路分類結果的內在合理性：這些圖像的確具有它們所對應類別的內在「神韻」。從紋理層次而言，它們和對應類別的紋理非常「神似」；從語義層面而言，這些圖像則是無意義的和荒謬的。
我們可以給出一種解釋：那就是投影子空間選得不夠，因此即便是在這些子空間上邊際概率分布相似，但是聯合概率分布依然相差很大。深度神經網所得到的訓練集是自然圖像，圖3這些圖像都在自然圖像空間之外，但是投影在所選擇的子空間後，自然圖像和非自然圖像無法進行分別。由此，引發了深度神經網路脆弱性。

圖4. 視網膜到大腦皮層的映射是保角變換。（A. Fazl, S. Grossberg and E. Mingolla, Visual Search， Eye Movements and Object Recognition)
討論
人類的低級視覺在很大程度上依賴於統計特性，因此可以歸結為對概率分布的處理和演算。人腦是否真的在計算最優傳輸映射、計算Wasserstein距離？在歷史上，人類經常首先發現某些數學原理，然後又發現這些原理在生物器官上早已應用。例如，人類首先發現了傅里葉分解原理，然後發現人類耳蝸神經結構就是在對聲音信號進行傅里葉分解；又如，人類首先發現了保角變換（共形變換），後來發現從視網膜到第一級的視覺中樞就是保角變換，如圖4所示。這項工作曾經獲得過諾貝爾獎。因此，如果若干年後，人們證實大腦的確在計算概率分布之間的距離，老顧也不會覺得意外。
因此，我們相信在一些視覺應用中，深度神經網路隱含地構建概率模型，我們可以直接用概率的工具，例如最優傳輸理論及其各種降維近似，直接取代神經網路，從而使得黑箱透明。

㈢ 黑箱運算演算法不透明後果

摘要 不透明後果是數據隱私泄露，

㈣ 試對洗衣機進行模塊化劃分,畫出模塊劃分結構圖

摘要 一、洗衣機洗滌控制電路的性能要求。

㈤ 演算法黑箱為何難治理

演算法黑箱半月談。隨著大數據、人工智慧等信息技術的快速發展,我們正在進入演算法經濟時代，以深度學習為代表的人工智慧演算法在互聯網信息傳播，數字經濟發展。

信息產業服務等諸多方面發揮了重要作用，產生了溢出性極強的經濟效益監管信任危機的根源在於企業在數據和演算法上的非對稱優勢，當前，基礎數據的所有權和控制權主要集中在互聯網平台企業。

簡介：

這些企業全程操縱演算法設計，運行，測試和分析，由此占據著優勢地位，監管部門在演算法社會中已經呈現出被邊緣化的趨勢，極易失去對關鍵數據和關鍵演算法的監督權和控制權，這意味著，演算法黑箱的存在勢必導致私人利益主觀上俘獲公共利益。

以及資本主觀上規避公權力約束等風險的產生，同時，演算法黑箱客觀上隱藏了演算法自身存在的缺陷，並可能觸發安全風險，讓監管機構難以審查演算法信息，監管機構規制演算法的內容與手段均受到限制，難以及時針對演算法問題進行問責和糾偏。

㈥ 如何論證：「人工智慧不會引起倫理問題」這句話

人工智慧時代加速到來，演算法決策興起

第三次AI（人工智慧，以下簡稱AI）浪潮已經開啟。在技術層面，有演算法的進步。當1956年人工智慧開始起步的時候，人們更多是在說人工智慧；在第二次浪潮期間，機器學習成為主流；這一次則是深度學習，是能夠自我學習、自我編程的學習演算法，可以用來解決更復雜的任務。此外，計算能力的提升，包括現在的量子計算機，以及越來越普遍的大數據，對人工智慧的作用和價值也非常大，使得更復雜的演算法成為可能。在應用層面，從語音識別、機器翻譯到醫療診斷、自動駕駛，AI應用在不斷加深、不斷成熟，甚至已經開始超越人類，引發人們關於失業的擔憂。同時也讓人們開始期待具有通用智能的終極演算法。在商業層面，面對可預期的好處和利益，國內外主流的互聯網公司如騰訊、谷歌等都開始向AI看齊，AI領域的創業和投資在如火如荼地進行著。全球已經有超過1000家AI公司，市場規模增長空間是非常大的，未來八年內將超過350億美元。
在此背景下，各種互聯網服務中越來越多地看到人工智慧的影子，人們日益生活在演算法之下，演算法決策開始介入甚至主導越來越多的人類社會事務。比如，人們在互聯網上獲取的內容，諸如新聞、音樂、視頻、廣告等等，以及購買的商品，很多都是推薦引擎個性化推薦給用戶的，而不是有人在背後決策。再比如，在金融領域，演算法可以決定是否給某個用戶發放貸款，以及具體的貸款額度。此外，一家美國投資公司早在幾年前就開始研發管理公司的AI系統，招聘、投資、重大決策等公司事務都由這個AI系統來管理並決策。也許在未來，一家公司的成功不再主要依賴於擁有像喬布斯那樣偉大的CEO，而是一個足夠智能足夠強大的AI系統。更有甚者，英國、歐盟等都在大力推動人工智慧技術在政務和民生方面的更深應用，政府服務不僅是數字化，而且是智能化。
人工智慧倫理問題日益凸顯
人工智慧的持續進步和廣泛應用帶來的好處將是巨大的。但是，為了讓AI真正有益於人類社會，我們也不能忽視AI背後的倫理問題。
第一個是演算法歧視。可能人們會說，演算法是一種數學表達，是很客觀的，不像人類那樣有各種偏見、情緒，容易受外部因素影響，怎麼會產生歧視呢？之前的一些研究表明，法官在餓著肚子的時候，傾向於對犯罪人比較嚴厲，判刑也比較重，所以人們常說，正義取決於法官有沒有吃早餐。演算法也正在帶來類似的歧視問題。比如，一些圖像識別軟體之前還將黑人錯誤地標記為「黑猩猩」或者「猿猴」。此外，2016年3月，微軟公司在美國的Twitter上上線的聊天機器人Tay在與網民互動過程中，成為了一個集性別歧視、種族歧視等於一身的「不良少女」。隨著演算法決策越來越多，類似的歧視也會越來越多。而且，演算法歧視會帶來危害。一方面，如果將演算法應用在犯罪評估、信用貸款、僱傭評估等關切人身利益的場合，一旦產生歧視，必然危害個人權益。另一方面，深度學習是一個典型的「黑箱」演算法，連設計者可能都不知道演算法如何決策，要在系統中發現有沒有存在歧視和歧視根源，在技術上是比較困難的。
為什麼演算法並不客觀，可能暗藏歧視？演算法決策在很多時候其實就是一種預測，用過去的數據預測未來的趨勢。演算法模型和數據輸入決定著預測的結果。因此，這兩個要素也就成為演算法歧視的主要來源。一方面，演算法在本質上是「以數學方式或者計算機代碼表達的意見」，包括其設計、目的、成功標准、數據使用等等都是設計者、開發者的主觀選擇，設計者和開發者可能將自己所懷抱的偏見嵌入演算法系統。另一方面，數據的有效性、准確性，也會影響整個演算法決策和預測的准確性。比如，數據是社會現實的反映，訓練數據本身可能是歧視性的，用這樣的數據訓練出來的AI系統自然也會帶上歧視的影子；再比如，數據可能是不正確、不完整或者過時的，帶來所謂的「垃圾進，垃圾出」的現象；更進一步，如果一個AI系統依賴多數學習，自然不能兼容少數族裔的利益。此外，演算法歧視可能是具有自我學習和適應能力的演算法在交互過程中習得的，AI系統在與現實世界交互過程中，可能沒法區別什麼是歧視，什麼不是歧視。
更進一步，演算法傾向於將歧視固化或者放大，使歧視自我長存於整個演算法裡面。演算法決策是在用過去預測未來，而過去的歧視可能會在演算法中得到鞏固並在未來得到加強，因為錯誤的輸入形成的錯誤輸出作為反饋，進一步加深了錯誤。最終，演算法決策不僅僅會將過去的歧視做法代碼化，而且會創造自己的現實，形成一個「自我實現的歧視性反饋循環」。包括預測性警務、犯罪風險評估、信用評估等都存在類似問題。歸根到底，演算法決策其實缺乏對未來的想像力，而人類社會的進步需要這樣的想像力。
第二個是隱私憂慮。很多AI系統，包括深度學習，都是大數據學習，需要大量的數據來訓練學習演算法。數據已經成了AI時代的「新石油」。這帶來新的隱私憂慮。一方面，如果在深度學習過程中使用大量的敏感數據，這些數據可能會在後續被披露出去，對個人的隱私會產生影響。所以國外的AI研究人員已經在提倡如何在深度學習過程中保護個人隱私。另一方面，考慮到各種服務之間大量交易數據，數據流動不斷頻繁，數據成為新的流通物，可能削弱個人對其個人數據的控制和管理。當然，現在已經有一些可以利用的工具來在AI時代加強隱私保護，諸如經規劃的隱私、默認的隱私、個人數據管理工具、匿名化、假名化、差別化隱私、決策矩陣等等都是在不斷發展和完善的一些標准，值得在深度學習和AI產品設計中提倡。
第三個是責任與安全。霍金、施密特等之前都警惕強人工智慧或者超人工智慧可能威脅人類生存。但在具體層面，AI安全包括行為安全和人類控制。從阿西莫夫提出的機器人三定律到2017年阿西洛馬會議提出的23條人工智慧原則，AI安全始終是人們關注的一個重點，美國、英國、歐盟等都在著力推進對自動駕駛汽車、智能機器人的安全監管。此外，安全往往與責任相伴。如果自動駕駛汽車、智能機器人造成人身、財產損害，誰來承擔責任？如果按照現有的法律責任規則，因為系統是自主性很強的，它的開發者是難以預測的，包括黑箱的存在，很難解釋事故的原因，未來可能會產生責任鴻溝
第四個是機器人權利，即如何界定AI的人道主義待遇。隨著自主智能機器人越來越強大，那麼它們在人類社會到底應該扮演什麼樣的角色呢？自主智能機器人到底在法律上是什麼？自然人？法人？動物？物？我們可以虐待、折磨或者殺死機器人嗎？歐盟已經在考慮要不要賦予智能機器人「電子人」的法律人格，具有權利義務並對其行為負責。這個問題未來值得更多探討。此外，越來越多的教育類、護理類、服務類的機器人在看護孩子、老人和病人，這些交互會對人的行為產生什麼樣的影響，需要得到進一步研究。
構建演算法治理的內外部約束機制
一是合倫理的AI設計，即要將人類社會的法律、道德等規范和價值嵌入AI系統。這主要是電氣和電子工程師協會、英國等在提倡。可以分三步來實現。第一步是發現需要嵌入AI系統的規范和價值，存在道德過載和價值位階的問題，即哪些價值優先，哪些價值在後。第二步是將所發現的規范和價值加入AI系統，需要方法論，有自上而下和自下而上兩種路徑。第三步是對已經嵌入AI系統的規范和價值進行評估，看其是否和人類社會的相一致。一方面是使用者評估，需要建立對AI的信任，比如當AI系統的行為超出預期時，要向用戶解釋為什麼這么做。另一方面是主管部門、行業組織等第三方評估，需要界定價值一致性和相符性標准，以及AI可信賴標准。
但是需要解決兩個困境。其一是倫理困境。比如，在來不及剎車的情況下，如果自動駕駛汽車往前開就會把三個闖紅燈的人撞死，但如果轉向就會碰到障礙物使車上的五個人死亡。此時，車輛應當如何選擇？在面對類似電車困境的問題時，功利主義和絕對主義會給出不同的道德選擇，這種沖突在人類社會都是沒有解決的，在自動化的場景下也會遇到這樣的問題
其二是價值對接的問題。現在的很多機器人都是單一目的的，掃地機器人就會一心一意地掃地，服務機器人就會一心一意給你去拿咖啡，諸如此類。但機器人的行為真的是我們人類想要的嗎？這就產生了價值對接問題。就像Midas國王想要點石成金的技術，結果當他擁有這個法寶的時候，他碰到的所有東西包括食物都會變成金子，最後卻被活活餓死。為什麼呢？因為這個法寶並沒有理解Midas國王的真正意圖，那麼機器人會不會給我們人類帶來類似的情況呢？這個問題值得深思。所以有人提出來兼容人類的AI，包括三項原則，一是利他主義，即機器人的唯一目標是最大化人類價值的實現；二是不確定性，即機器人一開始不確定人類價值是什麼；三是考慮人類，即人類行為提供了關於人類價值的信息，從而幫助機器人確定什麼是人類所希望的價值。
二是在AI研發中貫徹倫理原則。一方面，針對AI研發活動，AI研發人員需要遵守一些基本的倫理准則，包括有益性、不作惡、包容性的設計、多樣性、透明性，以及隱私的保護，等等。另一方面，需要建立AI倫理審查制度，倫理審查應當是跨學科的，多樣性的，對AI技術和產品的倫理影響進行評估並提出建議。
三是對演算法進行必要的監管，避免演算法作惡。現在的演算法確實是越來越復雜，包括決策的影響都是越來越重大，未來可能需要對演算法進行監管。可能的監管措施包括標准制定，涉及分類、性能標准、設計標准、責任標准等等；透明性方面，包括演算法自身的代碼透明性，以及演算法決策透明性，國外現在已經有OpenAI等一些人工智慧開源運動。此外，還有審批制度，比如對於自動駕駛汽車、智能機器人等採用的演算法，未來可能需要監管部門進行事先審批，如果沒有經過審批就不能向市場推出。
四是針對演算法決策和歧視，以及造成的人身財產損害，需要提供法律救濟。對於演算法決策，一方面需要確保透明性，如果用自動化的手段進行決策決定，則需要告知用戶，用戶有知情權，並且在必要時需要向用戶提供一定的解釋；另一方面需要提供申訴的機制。對於機器人造成的人身財產損害，一方面，無辜的受害人應該得到救助；另一方面，對於自動駕駛汽車、智能機器人等帶來的責任挑戰，嚴格責任、差別化責任、強制保險和賠償基金、智能機器人法律人格等都是可以考慮的救濟措施。
在今天這個人工智慧快速發展，人類在諸如圍棋、圖像識別、語音識別等等領域開始落後於人工智慧的時代，對人工智慧進行倫理測試同樣重要，包括道德代碼、隱私、正義、有益性、安全、責任等等，都是十分重要的。現在的AI界更多是工程師在參與，缺乏哲學、倫理學、法學等其他社會學科的參與，未來這樣跨學科的AI倫理測試需要加強研究。因為在某種意義上我們已經不是在製造一個被動的簡單工具，而是在設計像人一樣具有感知、認知、決策等能力的事物，你可以稱其為「更復雜的工具」，但不可否認，我們需要確保這樣的復雜工具進入人類社會以後和人類的價值規范及需求相一致。

㈦ 已知輸入輸出數據，進行黑箱建模，得到傳遞函數，用什麼方法呢遺傳演算法神經網路操作步驟源程序

遺傳演算法（Genetic Algorithm）是模擬達爾文生物進化論的自然選擇和遺傳學機理的生物進化過程的計算模型，是一種通過模擬自然進化過程搜索最優解的方法。遺傳演算法是從代表問題可能潛在的解集的一個種群（population）開始的，而一個種群則由經過基因（gene）編碼的一定數目的個體(indivial)組成。每個個體實際上是染色體(chromosome)帶有特徵的實體。染色體作為遺傳物質的主要載體，即多個基因的集合，其內部表現（即基因型）是某種基因組合，它決定了個體的形狀的外部表現，如黑頭發的特徵是由染色體中控制這一特徵的某種基因組合決定的。因此，在一開始需要實現從表現型到基因型的映射即編碼工作。由於仿照基因編碼的工作很復雜，我們往往進行簡化，如二進制編碼，初代種群產生之後，按照適者生存和優勝劣汰的原理，逐代（generation）演化產生出越來越好的近似解，在每一代，根據問題域中個體的適應度（fitness）大小選擇（selection）個體，並藉助於自然遺傳學的遺傳運算元（genetic operators）進行組合交叉（crossover）和變異（mutation），產生出代表新的解集的種群。這個過程將導致種群像自然進化一樣的後生代種群比前代更加適應於環境，末代種群中的最優個體經過解碼（decoding），可以作為問題近似最優解。

附件包含好幾個用遺傳演算法優化神經網路初始權值的matlab程序，算是一個小合集，搜集了目前網上最流行的幾個GA-BP案例。運行前需安裝遺傳演算法工具箱GAOT，否則無法運行。