資訊專欄INFORMATION COLUMN
摘要：考慮到這一點(diǎn)，我們將這種方法稱為深度學(xué)習(xí)。這使我們回到原來的問題上我們不是因?yàn)樯疃饶Ｐ投鴮⑵浞Q為深度學(xué)習(xí)。這意味著具有個(gè)完全連接的層并且只有完全連接的層的神經(jīng)網(wǎng)絡(luò)將不再是深度學(xué)習(xí)模型，而某些具有少量卷積層的網(wǎng)絡(luò)卻可以稱為深度學(xué)習(xí)。
不管你是業(yè)內(nèi)人士還是業(yè)外人士，在人工智能以燎原之勢發(fā)展的今天，相信對(duì)于AI、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)這些詞匯，你或多或都有一定的了解，而其中作為人工智能前沿的深度學(xué)習(xí)，火爆程度更是非同尋常，似乎每個(gè)人都在探求它的奧妙和神奇之處。
而當(dāng)我們第一次接觸深度學(xué)習(xí)這個(gè)概念時(shí)，通常會(huì)遇到這樣一個(gè)問題：
“一個(gè)機(jī)器學(xué)習(xí)模型深到何種程度才能被視作深度學(xué)習(xí)模型？”
這可能聽起來像是一個(gè)好問題。畢竟，在深度學(xué)習(xí)中，我們使用的都是更深、更復(fù)雜的模型。
但結(jié)果卻表明，我們提出的是一個(gè)非常愚蠢的問題，我們需要從一個(gè)不同的角度切入，來看深度學(xué)習(xí)以了解為什么。
那接下來我們先來了解一下深度學(xué)習(xí)的幾組定義。
“機(jī)器學(xué)習(xí)中的一個(gè)子領(lǐng)域，它是基于學(xué)習(xí)多種表現(xiàn)形式的算法，以便在數(shù)據(jù)之間建立復(fù)雜關(guān)系。因此，較高級(jí)別的特征和概念就是根據(jù)較低級(jí)別的特征和概念進(jìn)行定義的，且這種特征層次被稱之為深度架構(gòu)?！薄渡疃葘W(xué)習(xí)：方法與應(yīng)用》
“概念層次結(jié)構(gòu)允許計(jì)算機(jī)通過從簡單的概念中構(gòu)建復(fù)雜的概念，然后學(xué)習(xí)這些復(fù)雜的概念。 如果我們繪制一個(gè)能夠顯示這些概念是如何相互疊加的圖形，那么這個(gè)圖形一定是具有深度的，且具有很多層?？紤]到這一點(diǎn)，我們將這種方法稱為AI深度學(xué)習(xí)?！薄渡疃葘W(xué)習(xí)》 .麻省理工學(xué)院出版社，Ian Goodfellow、Yoshua Bengio和Aaron Courville。
這是一種稱為分層特征學(xué)習(xí)的概念。為了理解這一點(diǎn)，讓我們回顧一下深度學(xué)習(xí)模型的運(yùn)作方式。
以卷積神經(jīng)網(wǎng)絡(luò)為例。
卷積神經(jīng)網(wǎng)絡(luò)是深度學(xué)習(xí)的一個(gè)典范。它們的興起啟發(fā)于神經(jīng)元是如何在視覺皮層（處理視覺輸入的大腦區(qū)域）排列的。在這里，不是所有的神經(jīng)元都連接到視覺域的所有輸入。取而代之的是，視覺區(qū)域是由一組神經(jīng)元（稱為接受域）組成的，它們部分地相互重疊。
卷積神經(jīng)網(wǎng)絡(luò)（CNN）的工作方式與之類似。它們使用數(shù)學(xué)卷積運(yùn)算符來處理輸入的重疊部分（其近似接收域的工作方式）。
卷積神經(jīng)網(wǎng)絡(luò)
典型CNN的第一卷積層使用一組卷積濾波器來識(shí)別輸入圖像中的一組低級(jí)特征。然后將這些已識(shí)別出的低級(jí)特征合并（來自池化層），并將其作為下一個(gè)卷積層的輸入，該卷積層使用另一組卷積濾波器從先前識(shí)別的較低級(jí)別特征中識(shí)別一組較高級(jí)別的特征。這將繼續(xù)幾層，其中每個(gè)卷積層使用來自前一層的輸入來識(shí)別比前一層更高級(jí)別的特性。最后，最后一個(gè)卷積層的輸出傳遞給一組完全連接的層，以用于進(jìn)行最終分類。
實(shí)質(zhì)上，CNN的卷積濾波器首先要識(shí)別較低層次的特征，并使用這些已識(shí)別的特征通過多個(gè)步驟逐步識(shí)別更高層次的特征。
這是我們之前討論的分層特征學(xué)習(xí)，它是深度學(xué)習(xí)的關(guān)鍵，它與傳統(tǒng)的機(jī)器學(xué)習(xí)算法有什么區(qū)別？
?
分層特征學(xué)習(xí)
一個(gè)深度學(xué)習(xí)模型（如卷積神經(jīng)網(wǎng)絡(luò)）并不會(huì)試圖即刻理解整個(gè)問題所在。
也就是說，它不會(huì)像傳統(tǒng)的算法一樣，試圖一次性地掌握所有的輸入特征。
它所做的就是逐件地查看輸入，并從中獲得較低級(jí)別的模式/特征，然后，使用這些較低級(jí)別的特征來逐層識(shí)別更多級(jí)別的特征，這些都是通過對(duì)多層進(jìn)行逐此分層實(shí)現(xiàn)的。
這使得深度學(xué)習(xí)模型能夠?qū)W習(xí)復(fù)雜的模式，通過從簡單的模式逐漸構(gòu)建它們。這也使深度學(xué)習(xí)模型能夠更好地理解世界，而不僅僅是“看見”特征，還可以看到這些特征的構(gòu)建層次結(jié)構(gòu)。
?
當(dāng)然，必須分層學(xué)習(xí)特征意味著模型必須有很多層。這意味著這樣一個(gè)模式將會(huì)“很深”。
這使我們回到原來的問題上：我們不是因?yàn)樯疃饶Ｐ投鴮⑵浞Q為深度學(xué)習(xí)。而是為了實(shí)現(xiàn)層次化學(xué)習(xí)，模型需要深度。深度是實(shí)現(xiàn)分層特征學(xué)習(xí)的副產(chǎn)品。
?
分層特征學(xué)習(xí)是使得深度學(xué)習(xí)模型能夠拋開傳統(tǒng)機(jī)器學(xué)習(xí)模型中的“平臺(tái)效應(yīng)（Plateau in Performance）”的原因。
??
深度學(xué)習(xí)（不具備）平臺(tái)效應(yīng)
?
那么，我們?nèi)绾巫R(shí)別模型是深度學(xué)習(xí)模型還是普通模型？
?
簡單地說，如果模型使用分層特征學(xué)習(xí)——首先識(shí)別較低級(jí)別的特征，然后建立在它們之上以識(shí)別更高級(jí)別的特征（例如通過使用卷積濾波器），那么它就是一個(gè)深度學(xué)習(xí)模型。如果沒有，那么無論你的模型有多少層，那么它都不被認(rèn)為是深度學(xué)習(xí)模型。
?
這意味著具有100個(gè)完全連接的層（并且只有完全連接的層）的神經(jīng)網(wǎng)絡(luò)將不再是深度學(xué)習(xí)模型，而某些具有少量卷積層的網(wǎng)絡(luò)卻可以稱為深度學(xué)習(xí)。
歡迎加入本站公開興趣群商業(yè)智能與數(shù)據(jù)分析群
興趣范圍包括各種讓數(shù)據(jù)產(chǎn)生價(jià)值的辦法，實(shí)際應(yīng)用案例分享與討論，分析工具，ETL工具，數(shù)據(jù)倉庫，數(shù)據(jù)挖掘工具，報(bào)表系統(tǒng)等全方位知識(shí)
QQ群：81035754
文章版權(quán)歸作者所有，未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請(qǐng)注明本文地址：http://m.hztianpu.com/yun/4611.html
摘要：對(duì)深度學(xué)習(xí)模型而言，水就是海量的數(shù)據(jù)。就拿機(jī)器識(shí)別物體這樣的任務(wù)來說，通過數(shù)百萬副圖片的訓(xùn)練，深度學(xué)習(xí)模型甚至可以超過人的肉眼的識(shí)別能力，這確實(shí)是人工智能在感知類問題上重要的里程碑。關(guān)于深度學(xué)習(xí)，還有一個(gè)有趣的現(xiàn)象。 說到人工智能和機(jī)器人，上點(diǎn)兒歲數(shù)的碼農(nóng)們可能對(duì)封面這張圖有點(diǎn)印象。不明就里的朋友，可以回去補(bǔ)習(xí)一下《編輯部的故事》。我是個(gè)二手的人工智能表演藝術(shù)家：從博士畢業(yè)開始，就在MSRA...
摘要：本文內(nèi)容節(jié)選自由主辦的第七屆，北京一流科技有限公司首席科學(xué)家袁進(jìn)輝老師木分享的讓簡單且強(qiáng)大深度學(xué)習(xí)引擎背后的技術(shù)實(shí)踐實(shí)錄。年創(chuàng)立北京一流科技有限公司，致力于打造分布式深度學(xué)習(xí)平臺(tái)的事實(shí)工業(yè)標(biāo)準(zhǔn)。 本文內(nèi)容節(jié)選自由msup主辦的第七屆TOP100summit，北京一流科技有限公司首席科學(xué)家袁進(jìn)輝（老師木）分享的《讓AI簡單且強(qiáng)大：深度學(xué)習(xí)引擎OneFlow背后的技術(shù)實(shí)踐》實(shí)錄。 北京一流...
摘要：劃重點(diǎn)，這是一道面試必考題，我靠這道題刷掉了多少面試者嘿嘿首先這是一道非常棒的面試題，可以考察面試者的很多方面，比如基本功，代碼能力，邏輯能力，而且進(jìn)可攻，退可守，針對(duì)不同級(jí)別的人可以考察不同難度，比如漂亮妹子就出題，要是個(gè)帥哥那就得上了， 劃重點(diǎn)，這是一道面試必考題，我靠這道題刷掉了多少面試者?(? ? ??)嘿嘿 首先這是一道非常棒的面試題，可以考察面試者的很多方面，比如基本功，代...
摘要：大家好，我是黃文堅(jiān)，今天給大家講講深度學(xué)習(xí)。我們?cè)賮砜纯催@兩個(gè)深度學(xué)習(xí)的網(wǎng)絡(luò)，左邊是策略網(wǎng)絡(luò)，我走到一步的時(shí)候，分析棋盤上每個(gè)位置有多大價(jià)值，給每個(gè)位置打一個(gè)分?jǐn)?shù)。可以說深度學(xué)習(xí)讓機(jī)器人擁有幾歲小孩拾起物體的能力。 大家好，我是黃文堅(jiān)，今天給大家講講深度學(xué)習(xí)。我不講技術(shù)原理，講講技術(shù)應(yīng)用。深度學(xué)習(xí)是我們明略重要的研究方向，是未來實(shí)現(xiàn)很多令人驚嘆的功能的工具，也可以說是通向人工智能的必經(jīng)之路。...
摘要：為什么我又要重新開始寫機(jī)器學(xué)習(xí)相關(guān)的文章了最主要的原因是現(xiàn)在的機(jī)器學(xué)習(xí)和五年前十年前區(qū)別很大。深度學(xué)習(xí)帶來了什么深度學(xué)習(xí)最重要的東西就是自帶了特征學(xué)習(xí)，有時(shí)候也被翻譯為表征學(xué)習(xí)，簡單來說就是，不需要進(jìn)行特別的特征抽取。 1.為什么我開始寫這個(gè)系列博客說五年前我還在某A云公司的時(shí)候，身在一個(gè)機(jī)器學(xué)習(xí)算法組，對(duì)機(jī)器學(xué)習(xí)懷有濃厚的興趣?；撕枚嗟臅r(shí)間來試圖搞清楚各種流行的機(jī)器學(xué)習(xí)算法，經(jīng)常周末也跟...
閱讀 3489·2021-11-25 09:43
閱讀 3154·2021-10-15 09:43
閱讀 2106·2021-09-08 09:36
閱讀 3113·2019-08-30 15:56
閱讀 878·2019-08-30 15:54
閱讀 2835·2019-08-30 15:54
閱讀 3127·2019-08-30 11:26
閱讀 1385·2019-08-29 17:27
