1.解密深度學習

　　1.1.人工智能的發(fā)展一直隨同人工神經(jīng)網(wǎng)絡研究的進展而起伏

　　整個人工智能發(fā)展歷史，幾乎一直隨同人工神經(jīng)網(wǎng)絡研究的進展而起起伏伏。近期引發(fā)人工智能新一輪熱潮的深度學習，其名稱中的“深度”某種意義上就是指人工神經(jīng)網(wǎng)絡的層數(shù)，深度學習本質(zhì)上是基于多層人工神經(jīng)網(wǎng)絡的機器學習算法。

　　1.2.什么是人工神經(jīng)網(wǎng)絡

　　人類大腦神經(jīng)的信息活動與目前的計算機相比有三個不同的特性：

　　第一，巨量并行和容錯特性。人腦約有1000億個神經(jīng)元，神經(jīng)元之間約有上萬億的突觸連接，形成了迷宮般的網(wǎng)絡連接，大量的神經(jīng)元信息活動是同時進行的，而非目前計算機按照指令一條條執(zhí)行。此外人腦的這種巨量并行特性也使得其具有極好的容錯特性，壞掉一個晶體管就能毀掉一塊微處理器，但是大腦的神經(jīng)元每時每刻都在死亡。

　　第二，信息處理和存儲單元結合在一起。目前計算機普遍采用馮洛伊曼架構，存儲器和處理器分離，通過總線傳遞數(shù)據(jù)。隨著處理的數(shù)據(jù)量海量地增長，總線有限的數(shù)據(jù)傳輸速率被稱為“馮·諾依曼瓶頸”，嚴重影響計算機的計算效率和功耗，人腦信息處理和存儲單元結合在一起，擁有極低的功耗（約20W左右）。

　　第三，自組織自學習功能。大腦在與外界互動的同時也會進行學習和改變，而不是像現(xiàn)在計算機遵循預設算法的固定路徑和分支運行。

　　基于以上幾點不同，人們一直嘗試模仿人類大腦神經(jīng)元的信息活動機制來設計算法：信號通過突觸進入神經(jīng)元細胞，神經(jīng)細胞利用一種方式把所有從樹突上突觸進來的信號進行相加，如果全部信號的總和超過某個閥值，就會激發(fā)神經(jīng)元細胞進入興奮狀態(tài)，這時就會有一個電信號通過軸突發(fā)送出去給其他神經(jīng)細胞。如果信號總和沒有達到閥值，神經(jīng)細胞就不會興奮起來，不會傳遞信號。

　　簡單的人工神經(jīng)元數(shù)學模型就是讓每一個輸入到神經(jīng)元的信號加權求和，相加后如果超過設定的閾值，就輸出“1”，沒有就輸出“0”。這樣若干個最簡單的神經(jīng)元輸入輸出相連接，就構成了復雜的人工神經(jīng)網(wǎng)絡。