摘要：有幾次，人工智能死在人工神經(jīng)網(wǎng)絡(luò)上。在過去十年中，他一直在舉辦為期一周的有關(guān)神經(jīng)網(wǎng)絡(luò)的暑期學校，我曾經(jīng)拜訪過。神經(jīng)網(wǎng)絡(luò)壓縮信息之后，這些信息無法復原。

魔法已經(jīng)進入這個世界。如今，許多美國人口袋里裝著薄薄的黑色平板，這些機器接入遙遠的數(shù)字云和衛(wèi)星，它們解碼語言、通過攝像頭觀察并標記現(xiàn)實，挖掘個人數(shù)據(jù)，它們以某種方式理解、預(yù)測著我們的心愿。傾聽、幫助著人類。

因為與多倫多大學有個約會，這個夏天，我如約而至，走出市區(qū)賓館，感到了些許秋天的氣息，手機「向?qū)А挂讶淮?。我問路邊哪里可以找到咖啡。它給了答案。機器知道什么？它是怎么學到的？使用技術(shù)和理解技術(shù)之間的鴻溝，遠比我們所知道的還要寬。機器是怎么工作的？據(jù)我所知，沒有人能準確地說明白。我們知道的和機器知道的之間有什么差距和聯(lián)系呢？這個問題上，有一個人最有發(fā)言權(quán)，此刻我正手捧著咖啡，走向他。

Geoffrey Hinton，一位學院派的計算機科學家，是這個領(lǐng)域的火炬手，他的整個職業(yè)生涯都是與少數(shù)同伴一起，堅守者人工智能，而該理念早已被其他同行摒棄多次。他是一個才華橫溢但卻被邊緣化的人，一個信徒，一個不得不把自己的想法掩藏在晦澀的語言中以通過同行評審的性情乖戾的程序員。他堅定地認為，雖然我們對大腦知之甚少，但即使是大腦的玩具模型，也會在計算能力方面比傳統(tǒng)的人工智能更強、更靈活。他的思想和算法將會為我們生活的方方面面注入活力，他是人工神經(jīng)網(wǎng)絡(luò)的大師。

這種網(wǎng)絡(luò)，現(xiàn)已更名為「深度學習」，在過去的幾年中，無人出其左右，還登上了《紐約時報》頭版。由于擅長處理語音、視覺以及其他復雜人機交互，神經(jīng)網(wǎng)路已經(jīng)被谷歌、Facebook、微軟、百度——任何你能想象到的技術(shù)先驅(qū)——欣然采納。在這些公司里，神經(jīng)網(wǎng)絡(luò)已經(jīng)證明了一種有效的可以吸收大量數(shù)據(jù)并從中進行有價值預(yù)測的處理方式：怎樣讓你的數(shù)據(jù)中心更高效節(jié)能？此用戶之后有買車的意愿嗎？科技公司對每一個擅長神經(jīng)網(wǎng)路的程序員展開了激烈角逐，他們一直從學術(shù)界重金聘用人才。據(jù)報道，去年谷歌花費超過4億美元收購DeepMind公司，它們沒有產(chǎn)品，只是將將「記憶」集成到了學習算法中。在那之前，谷歌買下了Hinton的項目，具體價格未公開。

在技術(shù)領(lǐng)域，深度學習似乎無孔不入。在過去的幾個月里，我郵箱里關(guān)于深度學習的報道堆積成山：深度學習識別出患有自閉癥風險的基因；深度學習為圖片和視頻自動添加標題；深度學習識別大型強子對撞機中的粒子；使用深度學習來引導汽車和機器人。

伴隨著一篇篇報道，深度學習將人工智能這個概念帶入到公眾視野，盡管還沒有一些具體應(yīng)用。我們應(yīng)該擔心機器人革命的到來嗎？注意：不是現(xiàn)在，也許在50年后。）這些程序員真的蠢到這種地步——以為他們真的是在模仿大腦嗎？不是。我們正在向著具有真正智能的機器的方向前進嗎？這取決于你如何定義智能。面對天花亂墜的宣傳，深度學習能不辜負這些「夸張報道」嗎？

對深度學習的大肆吹捧招來許多研究人員的警告——如果不注意這些潛在風險，他們將面臨人工智能的反擊?！高@很有殺傷力?！辜~約大學教授、現(xiàn)Facebook 人工智能研究負責人Yann LeCun說，人工智能曾有過三四次這樣的經(jīng)歷——死于過度炒作。

有幾次，人工智能死在人工神經(jīng)網(wǎng)絡(luò)上。在上世紀60年代，神經(jīng)網(wǎng)絡(luò)一度勢如破竹，不料卻因晶體管的局限性而跌下神壇，這種情況在80年代又重復出現(xiàn)。Hinton的一個老搭檔告訴我，在那段黑暗的日子里，象Hinton和LeCun這樣一心一意堅持的研究人員，如墮鼠洞，被學術(shù)界無視。幾乎沒有人預(yù)料到會有第三次上升。許多人仍然擔心會有另一場崩潰。

然而，Hinton卻充滿信心。他邀我前往多倫多去了解這個新領(lǐng)域的深刻過往。在過去十年中，他一直在舉辦為期一周的有關(guān)神經(jīng)網(wǎng)絡(luò)的暑期學校，我曾經(jīng)拜訪過。那時天氣炎熱，一整天枯燥的報告，一群年輕人，大部分是男性，滿懷希望的擠進擁擠的教室。我在Hinton的辦公室找到了他，雖然已經(jīng)退休但辦公室仍為他保留著。他站在那里，腰背有點吃力。這半年他總是乘火車前往位于加州的谷歌總部。他的門上裝飾著一些難以辨認的手寫體數(shù)字，它們是從記錄著神經(jīng)網(wǎng)絡(luò)早期成果的數(shù)據(jù)集中截取下來的。

67歲的 Hinton很難會跟自己過不去。在經(jīng)歷被邊緣化的一生后，如今，他幾乎能和每個遇到的人打交道。例如，在多倫多時，他在地處市區(qū)谷歌辦公室的外面工作，這里都是廣告部員工。他是的研究人員。偶爾會有好奇的員工悄悄走過來問：「你是做什么的呢？」

「你有一個安卓手機嗎？ 」 ?Hinton回應(yīng)到。

「有。」

「語音識別很棒，不是嗎？ 」

「是，很棒。 」

「嗯，我的工作就是設(shè)計能夠識別語音的神經(jīng)網(wǎng)絡(luò)。 」

提問者幾乎總是陷入沉思。

「等等，你什么意思呢？ 」（譯者注：這說明大多數(shù)人還是不能理解神經(jīng)網(wǎng)絡(luò)的真實含義。）

只要我們試圖創(chuàng)造「會思考」的計算機，研究人員就會立刻為它們應(yīng)該怎樣運行而爭吵。計算機應(yīng)該模擬（我們想象中的）人腦思維的工作方式嗎，就像是認為邏輯和抽象思維都能被程序語言來表達的笛卡爾理論?；蛘撸蝗ツ７抡鎸嵨锢砩系拇竽X，而是模仿大腦的簡化版——擁有神經(jīng)元網(wǎng)絡(luò)和突觸，以希望網(wǎng)絡(luò)實現(xiàn)更高的計算能力？正是這一爭議在歷經(jīng)數(shù)載后孕育出人工智能。

康奈爾航空實驗室心理學家Frank Rosenblatt，是上世紀50年代后期的大腦模仿先驅(qū)。他的工作靈感源自Donald O. Hebb，這個人十年前就預(yù)測過學習機制：當一個神經(jīng)元反復激活另一個神經(jīng)元，細胞就提高了它們的連接效率。認知科學家喜歡這樣表述：「細胞互相激發(fā)，纏繞在一起」。Rosenblatt認為，這個簡單想法足以創(chuàng)造一個可以學會識別物體的機器。

并且他動手做了一個：你現(xiàn)在可以在美國博物館Smithsonian里看到這臺被稱作「感知器」（他是這么稱呼它的）的各個部件。機器占據(jù)了整個實驗室，它的運作機制很簡單，包括三層。在一端，用400個光傳感器來模擬視網(wǎng)膜；傳感器多次連接一組512個電子觸發(fā)器，當它通過一個特定的可調(diào)節(jié)的興奮閥值時就會像神經(jīng)元一樣激發(fā)。這些觸發(fā)器連接到最后一層，當一個物體與感知器受訓見過的對象相互匹配時，它就會發(fā)出信號。

訓練（Trained）是關(guān)鍵詞：感知器沒有被編程，但訓練過。它自己不會學習。Rosenblatt創(chuàng)建了一個公式，來計算感知器正確或錯誤的次數(shù)，而且錯誤可以被追回，然后在512個觸發(fā)器中分別進行修改。充分調(diào)整這些權(quán)重后，感知器可以開始識別一些最基本的模式，比如，標準的字母形狀。

Rosenblat非常積極的來分享這個激動人心的成果。1958年夏，他和他的贊助方美國海軍舉行了新聞發(fā)布會。就像科學界經(jīng)常發(fā)生的那樣，他開始談?wù)撐磥?。在研究人員聽來，這未免顯得愚蠢可笑；但在今天聽來，卻很有先見之明?！都~約時報》抓住了發(fā)布會的要點：

「海軍透露了一種電子計算機的雛形，它將能夠走路、說話、看、寫、自我復制并感知到自己的存在……據(jù)預(yù)測，不久以后，感知器將能夠識別出人并叫出他們的名字，立即把演講內(nèi)容翻譯成另一種語言并寫下來?！?/p>

Rosenblatt的名聲使他的同行們心生反感，其中許多人已經(jīng)選擇追求基于規(guī)則的人工智能；雙方都在追逐軍事研究經(jīng)費。最重要的是，麻省理工學院兩位杰出的計算機科學家Marvin Minsky 和Seymour Papert，試圖復制感知器并揭露其缺陷，成果于1969年集結(jié)成書，正是這本書險些毀掉神經(jīng)網(wǎng)絡(luò)。他們說，感知器天生具有局限。最根本的缺陷是，它學不會「異或」（exclusive or）邏輯，一種基本邏輯，兩個值相異時結(jié)果為真。

學習這種功能需要在感知器里額外添加一層。但是,沒人能從生物學層面找到一個合理的方式來計算、傳輸該「隱藏層」的調(diào)整活動。神經(jīng)網(wǎng)絡(luò)壓縮信息之后，這些信息無法復原。如同無法倒流的時間。

研究停滯，研究經(jīng)費也消失了。Minsky 和Papert贏得了這場戰(zhàn)爭。

盡管這些令人沮喪，但Rosenblatt找到了其他出路。他開始著迷于另一個項目：該項目試圖證明，將一只老鼠的腦細胞移植到另一只老鼠后，大腦細胞仍會保留記憶。但是，這項工作并沒持續(xù)多久——Rosenblatt英年早逝，那是1971年的一次航海事故，獨自一人離開這個世界，那天正是他的生日。好像神經(jīng)網(wǎng)絡(luò)也要隨他而去了。

沒人告訴Hinton這些。大學時期，Geoff Hinton不斷「跳槽」——化學、物理學、生物學、哲學和心理學等，最終，他申請到了愛丁堡大學的一個人工智能研究生項目。

Hinton來自一個逍遙派家族，家族成員都習慣去做他們自認為較好的事情。比如，曾曾祖父之一的喬治·布爾（ George Boole）的代數(shù)成為計算機時代的一塊基石，其中包括打敗Rosenblatt的「異或」理論；另一位曾曾祖父管理著維多利亞時代的性俱樂部。他的祖父在墨西哥開礦，他的父親是一名昆蟲學家，「他認為六條腿的動物比兩條腿的東西更有趣?！?/p>

Hinton在青少年時期開始沉迷于計算機和大腦。他能夠在十分鐘內(nèi)用刀片和六英寸長的釘子、銅線，做出一臺繼電器；給他一個小時，他能給你整出一個振蕩器。

他一直堅信：「如果你想去了解思維工作的方式，忽略大腦可能是個糟糕的想法」。用計算機建立一些簡單的模型，然后觀察他們?nèi)绾芜\作——似乎是個顯而易見的研究辦法，「這就是我至始至終一直在做的?！?/p>

不過，這個研究方法并非那么顯而易見。在他位于愛丁堡的公寓里，他是探究神經(jīng)網(wǎng)絡(luò)的人。研究進展艱難?！缚茨阃β斆鞯囊粋€人，」人們對他說，「為什么要做這個？」

Hinton不得不進行秘密研究。他的論文不能以神經(jīng)網(wǎng)絡(luò)學習為主題；只好轉(zhuǎn)而關(guān)注電腦是否能夠推斷出圖片某個部分是什么，比如，人的一條腿。如果他在文中提到「神經(jīng)網(wǎng)絡(luò)」，他的論文就很可能無法通過同行評審；他不得不談?wù)摗咐硐刖W(wǎng)絡(luò)」。畢業(yè)后，他沒有找到全職的學術(shù)工作。但是，慢慢的，在1979年他組織的一次會議上，他找到了同道中人。

一位在索爾克生物研究所從事生物研究的計算神經(jīng)生物學家，也是后來 Hinton 的長期合作伙伴Terrence J. Sejnowski說：「我們都堅信神經(jīng)網(wǎng)絡(luò)?？梢哉f是盲目信仰，因為我們不能用數(shù)學或其他方法來證明任何事情 。 」但是，當看到基 于規(guī)則的人工智能搞不定諸如視覺難題時，他們知道自己手中握有王牌，Sejnowski補充道，「能夠解決這些問題的行得通的系統(tǒng)就是大腦?！?/p>

Hinton習慣于挑戰(zhàn)權(quán)威，所以，20世紀80年代早期，他在加州大學兩位心理學家 David E. Rumelhart和 James L. McClelland指導下做博士后，也就不足為奇了。 Hinton 說，「在加利福尼亞，學者們認為有趣的觀點不止一個?！苟催^來賦予這些有趣觀點的計算機思維。McClelland說：「我們認為Geoff 獨具慧眼，他談到的事情，或許能夠開拓新世界?！?/p>

在一個舒適的會議室，他們每周都開會，尋 找能夠上溯到多層結(jié)構(gòu)的糾錯機制的訓練方法。 DNA結(jié)構(gòu)的聯(lián)合發(fā)現(xiàn)者 Francis Crick 在聽說他們的工作后也要求參加周會。McClelland說：「我覺得他象《帽子里的魚（The Cat in the Hat）》中的魚」，他會給參會人員講解他們的想法是否合乎生物常理。

Hinton說，這個組織過于局限在生物學領(lǐng)域。因此，假如神經(jīng)元不能發(fā)送反饋信號，會怎么樣？他們不能盲目再現(xiàn)大腦。這其實是一個數(shù)學問題，Hinton 認為，是個獲得一個損失函數(shù)的梯度的問題。他們認識到，設(shè)計出來的神經(jīng)元不能像開關(guān)一樣。如果你將神經(jīng)網(wǎng)絡(luò)的計算看做一個沙漠地貌的話，這些神經(jīng)元就如同沿著陡峭懸崖進行滑落；并且只有一個下落路徑。如果他們把這些東西看做一個更加優(yōu)雅的技巧——一個S型 函數(shù)——那么，這些神經(jīng)元就可以當做一個閾值判斷器，但信息（除了下落）也可以從底部爬升回去。

當這些還在繼續(xù)時，辛頓卻不得不離開圣地亞哥（San Diego）。計算機科學部門決定不給他職位。他回到英國做了一份無聊的工作。某晚，他被一個叫 Charlie Smith男人的電話驚醒了。

「你不認識我，但我認識你?！筍mith 告訴他，「我為System Development Corporation工作，想投資具有長遠規(guī)劃的項目。對于那些可能不可行、或者無法長時間運行的項目，格外有興趣。我一直在讀你的論文?！?/p>

Hinton從這個神秘的組織獲得了35萬美元。他后來才知道這筆資助的來源：蘭德公司的一個非營利子公司通過為開發(fā)核導彈攻擊軟件獲得了數(shù)百萬美元。政府以此要求他們，要么把這筆錢用來支付薪水，要么盡快散出去。這筆資助讓Hinton可以更加愉快的開始研究。

回到圣地亞哥，Hinton繼續(xù)研究他們的算法數(shù)學，最初被命名為反向傳播（back-propagation）。完成后，他嘗試模擬那個曾經(jīng)的打敗 Rosenblatt的「異或」（exclusive or）操作，他讓系統(tǒng)整夜運行。第二天早上，神經(jīng)網(wǎng)絡(luò)已經(jīng)學會了。

到20世紀80年代末，神經(jīng)網(wǎng)絡(luò)隨處可見。他們重返《紐約時報》，出現(xiàn)在有關(guān)圣地亞哥團隊技術(shù)著作的書評里。許多公司認為，神經(jīng)網(wǎng)絡(luò)有望解決很多問題。就連好萊塢也以此博取眼球：比如，阿諾德 施瓦辛格扮演的機器人終結(jié)者說：「我的CPU是一個神經(jīng)網(wǎng)絡(luò)處理器，一個會學習的計算機?！?/p>

Hinton 在卡內(nèi)基梅隆大學呆了幾年，他和Rumelhart、Ronald J. Williams 一致證明，神經(jīng)網(wǎng)絡(luò)能夠進行特征的多層級學習，以這種神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)，機器可以進行復雜計算。但是，他對反向傳播（BP）并不滿意，包括LeCun在內(nèi)的其他幾位也發(fā)明了反向傳播——結(jié)果也沒那么強大。在 Sejnowski的協(xié)助下，Hinton依據(jù)Boltzman分布設(shè)計出了一個神經(jīng)網(wǎng)絡(luò)，借鑒了統(tǒng)計力學中描述在變化的溫度下物質(zhì)改變能量狀態(tài)的概率。這就是典型的Hinton：他從物理類比而非純數(shù)學理論進行編程。那段時間，Hinton非常高產(chǎn)。Sejnowski回憶說，有次他在廚房接到了Hinton的電話:「Terry，我已經(jīng)知道大腦如何工作的了?！?在過去的三十年中，Sejnowski補充說，這樣的電話他接到了十多次。

世界并未因Hinton的成就而興奮太久。研究碰到了新的難題，神經(jīng)網(wǎng)絡(luò)可以學習但學的不太好。神經(jīng)網(wǎng)絡(luò)需要強大的計算能力和可供學習的大量例子。如果一個神經(jīng)網(wǎng)絡(luò)失敗了，人們也未必清楚其中原因，人類大腦也是如此。即使兩個人用了同樣的算法，他們也可能會得到不同結(jié)果。Facebook的 LeCun說，工程師討厭這種變化無常。他們說，這太復雜了，除非有人相信魔法。相反，程序員傾向選擇那些可預(yù)測的、和反向傳播表現(xiàn)差不多的學習算法。

當他們看到神經(jīng)網(wǎng)絡(luò)日漸衰落時，也不得不去關(guān)注Rumelhart怎么辦，這個人卻放棄了，他要為神經(jīng)網(wǎng)絡(luò)的第二次衰退負責。他慢慢被Pick病——一種罕見的癡呆癥——壓垮。 McClelland 認為，這可能是由過度使用大腦里的神經(jīng)細胞而引起的，他于2011年去世。2001年，認知科學學會設(shè)置了Rumelhart獎，Hinton是第一個獲得此獎的人。

蒙特利爾大學教授Yoshua Bengio說，這個領(lǐng)域失去了自己的愿景， 在20世紀90年代，身為一個神經(jīng)網(wǎng)絡(luò)派追隨者，他加入過Hinton和LeCun團隊。雖然LeCun 模仿視覺皮層建立了一個神經(jīng)網(wǎng)絡(luò)，能夠讀取全美國20%的銀行支票，但沒人再談?wù)撊斯ぶ悄芰?。「在主流機器學習會議上，很難發(fā)表任何有關(guān)神經(jīng)網(wǎng)絡(luò)的內(nèi)容，」Bengio告訴我，「過去十年中，神經(jīng)網(wǎng)絡(luò)走完了從流行到泯滅的過程?！?/p>

十年前，Hinton、 LeCun和Bengio密謀挽回神經(jīng)網(wǎng)絡(luò)。較之其他對手，神經(jīng)網(wǎng)絡(luò)有著特定優(yōu)勢：通過訓練，它們可以識別新事物——人們稱之為有監(jiān)督學習——但是，它們自己也能進行模式識別，就像一個孩子，讓其獨處，在父母告訴他答案之前，他就能自己區(qū)分方體與球體。如果它們能夠進行無監(jiān)督學習，這會重新吸引世人目光。2006年，Hinton發(fā)表了有關(guān)「深度信念網(wǎng)絡(luò)」的文章，該網(wǎng)絡(luò)能夠深入多層運行、自行學習事物的基本特征，在最后一層經(jīng)由訓練提高精度。這個人工神經(jīng)網(wǎng)絡(luò)被冠以新名稱「深度學習」。

然而，在他們征服世界之前，世界已經(jīng)向他們發(fā)生傾斜。也是2006年，新的更為強大的計算機芯片問世，Hinton的學生發(fā)現(xiàn)這種芯片能夠完美滿足深度學習的嚴苛要求。一夜之間，神經(jīng)網(wǎng)絡(luò)提速近30倍。與此同時，Google和Facebook已經(jīng)收集大量用戶數(shù)據(jù)，這使得計算機在大規(guī)模網(wǎng)絡(luò)上運行程序變得更加容易。Hinton的一位學生在Google實習的時候，將Hinton的語音識別技術(shù)導入了Google系統(tǒng)。旋即取得成功，困擾了人們近十年的語音識別難題得到了解決。于是，Google開始在所有Android手機上運行Hinton的軟件。

結(jié)果令人震驚。這些神經(jīng)網(wǎng)絡(luò)和20世紀80年代的神經(jīng)網(wǎng)絡(luò)，幾乎沒什么差別。這是一個簡單的有監(jiān)督學習系統(tǒng)，它甚至沒用到Hinton在2006年的突破性成果。在規(guī)模上，沒有其他算法能夠媲美神經(jīng)網(wǎng)絡(luò)。Hinton 說：「回顧往昔，僅僅是個數(shù)據(jù)量和計算量的問題。」

如今，Hinton 要花半年的時間呆在Google園區(qū)內(nèi)，防止谷歌工程師走進過去數(shù)十年中的死胡同。同時， 他也在探索著那些因為不可行而被被拋棄的神經(jīng)網(wǎng)絡(luò)，探索著他所說的「黑知識」。他經(jīng)?；ㄙM一整天來編程，如果他是教授的話，就沒法做這些事了。我問他職業(yè)生涯中，那段時間更為高產(chǎn)，他毫不猶豫的說：「下個五年?！?/p>

Google在許多產(chǎn)品上使用了深度學習。暑假拜訪Hinton時，他們正在將深度學習應(yīng)用到語言翻譯上。谷歌擁有針對每種語言的編碼和解碼網(wǎng)絡(luò)，它們能將每個單詞轉(zhuǎn)化為包攝了某個單詞豐富含義的龐大矩陣中的數(shù)字——矩陣中，「貓」和「狗」數(shù)字相似度要勝于「貓」和「褐色」。以此為例，英語編碼網(wǎng)絡(luò)將這些數(shù)字傳輸給法語解碼網(wǎng)絡(luò)，該網(wǎng)絡(luò)借由這些數(shù)字對翻譯結(jié)果進行一個整體預(yù)測，然后將預(yù)測結(jié)果與逐字分析的結(jié)果進行對比，與此同時，還要一直和已知翻譯進行比較并追溯錯誤。

Hinton，這位慣于挑戰(zhàn)權(quán)威的人卻為一家大公司工作，多少有點諷刺。但是，這不可避免，因為只有大公司才能提供讓深度學習一展拳腳的工具；大學沒有這個能力。 Hinton暑期班的茶歇時間，我偶爾聽到一位年輕學者抱怨某家公司無法提供足夠數(shù)據(jù)訓練機器，幾分鐘后，這位年輕學者補充說：「我要去微軟了，數(shù)據(jù)就不會是個問題了?！?/p>

Hinton說：「有些危險的是，如果足夠多的大公司雇了足夠多的研究人員，那么，大學就沒有足夠多的人來培養(yǎng)學生、進行純粹的基礎(chǔ)研究了?！共贿^，他繼續(xù)補充說，技術(shù)公司意識到問題了，比如谷歌就希望Bengio繼續(xù)自己的基礎(chǔ)研究。

LeCun已經(jīng)在Facebook里重新建立了一個貝爾實驗室，1990年代，他曾經(jīng)在貝爾實驗室工作過。他保證會發(fā)表實驗室的研究，「我認為，學術(shù)研究不會消失?！辜夹g(shù)公司的求賢若渴正在吸引更多的求學者而不是打敗學術(shù)。在警惕過熱的同時，他也對深度學習充滿自信，它僅僅是個開始?！溉绻皇菍Υ藞孕挪灰?，我不會力排眾議從事深度學習20年。」

Bengio不禁回想起那些未被資助的研究工作，計算機視覺、語音識別領(lǐng)域那些秉持傳統(tǒng)研究套路的同行評審，對這些工作大加攻擊。他說，多樣性才能戰(zhàn)勝人類偏見，「但是，人類傾向于摒棄那些他們無法理解、并不信仰的事物?！?/p>

如今，神經(jīng)網(wǎng)絡(luò)研究者如日中天。就連長期推崇傳統(tǒng)人工智能的MIT，如今也加入到了深度學習的隊伍中。

索爾克研究所的Sejnowski說：「我們就是在恐龍腳下艱難求生的弱小哺乳動物?；旧希⑷跄懶〉牟溉閯游飼A，恐龍消失，新紀元開始了。」

Rosenblatt在新聞發(fā)布會上曾分享過的很多夢想，如今都已成真。其他夢想，仍然遙遠，比如計算機意識。如今，較大的神經(jīng)網(wǎng)絡(luò)擁有10億個連接，是幾年前規(guī)模的1000倍。不過，和人類大腦相比，仍顯微小——10億個連接不過是1立方毫米大小的組織，在腦部掃描中，比一個立體像素還小。我們距離真正的人類智能還相當遙遠。Hinton深受大腦啟發(fā)，不過，他很清楚自己不是在復制大腦，而且還差的很遠。

隨著神經(jīng)網(wǎng)絡(luò)不斷發(fā)展，有關(guān)它們潛力究竟如何的種種猜測也是源源不絕。許多研究者認為，從中可以進化出推理。Gary F. Marcus，紐約大學的心理學家，在幾篇《紐約客》的文章中質(zhì)疑了深度學習的成果，文章寫到，Hinton敦促他表態(tài)：神經(jīng)網(wǎng)絡(luò)能夠做什么，才會讓他印象深刻。這位心理學家的回答是什么呢？看看這一段：「地方議會議員拒絕給游行示威者們頒發(fā)許可證，因為他們害怕暴力。」誰害怕暴力？如果神經(jīng)網(wǎng)絡(luò)可以回答這個問題，那么他們就能認識到重要意義。

Sejnowski補充到，這里帶著深深的諷刺。如今，深度學習是源自神經(jīng)科學的開發(fā)龐大數(shù)據(jù)庫的最有前途的工具之一。「我們做這件事是用來理解大腦工作方式的，」他說，「結(jié)果表明，這個工具很管用，工具與大腦有很多不同之處，它是用來理解神經(jīng)科學的較好工具?！?/p>

那是在多倫多的漫長的一天。在我訪問期間的某一刻，我注意到 Hinton在他的筆記本電腦上運行著一個程序。每隔幾秒鐘，兩個手寫體黑白數(shù)字閃現(xiàn)在屏幕上，并隨機覆蓋。他正在測試一種新的算法，查看它在視覺混亂的情況下對兩個數(shù)字的檢測效果。

兩個新數(shù)字出現(xiàn)了。他眼中露出一絲調(diào)皮的神情。

「這兩個數(shù)字是什么」他問我。

「6和4？」

我答對了，電腦也一樣。但我漸漸累了。我的神經(jīng)網(wǎng)絡(luò)漸漸失靈。另一組數(shù)字閃現(xiàn)。

Hinton問，「這組呢？」

我說：「這好難。0和5嗎？」

「0和9。它檢測到了0和9?，F(xiàn)在它比你強了。」

我弄錯了，但機器卻沒有。