摘要:考慮到這一點,我們將這種方法稱為深度學習。這使我們回到原來的問題上我們不是因為深度模型而將其稱為深度學習。這意味著具有個完全連接的層并且只有完全連接的層的神經網絡將不再是深度學習模型,而某些具有少量卷積層的網絡卻可以稱為深度學習。
不管你是業內人士還是業外人士,在人工智能以燎原之勢發展的今天,相信對于AI、機器學習、深度學習這些詞匯,你或多或都有一定的了解,而其中作為人工智能前沿的深度學習,火爆程度更是非同尋常,似乎每個人都在探求它的奧妙和神奇之處。
而當我們第一次接觸深度學習這個概念時,通常會遇到這樣一個問題:
“一個機器學習模型深到何種程度才能被視作深度學習模型?”
這可能聽起來像是一個好問題。畢竟,在深度學習中,我們使用的都是更深、更復雜的模型。
但結果卻表明,我們提出的是一個非常愚蠢的問題,我們需要從一個不同的角度切入,來看深度學習以了解為什么。
那接下來我們先來了解一下深度學習的幾組定義。
“機器學習中的一個子領域,它是基于學習多種表現形式的算法,以便在數據之間建立復雜關系。因此,較高級別的特征和概念就是根據較低級別的特征和概念進行定義的,且這種特征層次被稱之為深度架構。”——《深度學習:方法與應用》
“概念層次結構允許計算機通過從簡單的概念中構建復雜的概念,然后學習這些復雜的概念。 如果我們繪制一個能夠顯示這些概念是如何相互疊加的圖形,那么這個圖形一定是具有深度的,且具有很多層。考慮到這一點,我們將這種方法稱為AI深度學習。”——《深度學習》 .麻省理工學院出版社,Ian Goodfellow、Yoshua Bengio和Aaron Courville。
這是一種稱為分層特征學習的概念。為了理解這一點,讓我們回顧一下深度學習模型的運作方式。
以卷積神經網絡為例。
卷積神經網絡是深度學習的一個典范。它們的興起啟發于神經元是如何在視覺皮層(處理視覺輸入的大腦區域)排列的。在這里,不是所有的神經元都連接到視覺域的所有輸入。取而代之的是,視覺區域是由一組神經元(稱為接受域)組成的,它們部分地相互重疊。
卷積神經網絡(CNN)的工作方式與之類似。它們使用數學卷積運算符來處理輸入的重疊部分(其近似接收域的工作方式)。
卷積神經網絡
典型CNN的第一卷積層使用一組卷積濾波器來識別輸入圖像中的一組低級特征。然后將這些已識別出的低級特征合并(來自池化層),并將其作為下一個卷積層的輸入,該卷積層使用另一組卷積濾波器從先前識別的較低級別特征中識別一組較高級別的特征。這將繼續幾層,其中每個卷積層使用來自前一層的輸入來識別比前一層更高級別的特性。最后,最后一個卷積層的輸出傳遞給一組完全連接的層,以用于進行最終分類。
實質上,CNN的卷積濾波器首先要識別較低層次的特征,并使用這些已識別的特征通過多個步驟逐步識別更高層次的特征。
這是我們之前討論的分層特征學習,它是深度學習的關鍵,它與傳統的機器學習算法有什么區別?
?
分層特征學習
一個深度學習模型(如卷積神經網絡)并不會試圖即刻理解整個問題所在。
也就是說,它不會像傳統的算法一樣,試圖一次性地掌握所有的輸入特征。
它所做的就是逐件地查看輸入,并從中獲得較低級別的模式/特征,然后,使用這些較低級別的特征來逐層識別更多級別的特征,這些都是通過對多層進行逐此分層實現的。
這使得深度學習模型能夠學習復雜的模式,通過從簡單的模式逐漸構建它們。這也使深度學習模型能夠更好地理解世界,而不僅僅是“看見”特征,還可以看到這些特征的構建層次結構。
?
當然,必須分層學習特征意味著模型必須有很多層。這意味著這樣一個模式將會“很深”。
這使我們回到原來的問題上:我們不是因為深度模型而將其稱為深度學習。而是為了實現層次化學習,模型需要深度。深度是實現分層特征學習的副產品。
?
分層特征學習是使得深度學習模型能夠拋開傳統機器學習模型中的“平臺效應(Plateau in Performance)”的原因。
??
深度學習(不具備)平臺效應
?
那么,我們如何識別模型是深度學習模型還是普通模型?
?
簡單地說,如果模型使用分層特征學習——首先識別較低級別的特征,然后建立在它們之上以識別更高級別的特征(例如通過使用卷積濾波器),那么它就是一個深度學習模型。如果沒有,那么無論你的模型有多少層,那么它都不被認為是深度學習模型。
?
這意味著具有100個完全連接的層(并且只有完全連接的層)的神經網絡將不再是深度學習模型,而某些具有少量卷積層的網絡卻可以稱為深度學習。
歡迎加入本站公開興趣群商業智能與數據分析群
興趣范圍包括各種讓數據產生價值的辦法,實際應用案例分享與討論,分析工具,ETL工具,數據倉庫,數據挖掘工具,報表系統等全方位知識
QQ群:81035754
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://m.specialneedsforspecialkids.com/yun/4611.html
摘要:對深度學習模型而言,水就是海量的數據。就拿機器識別物體這樣的任務來說,通過數百萬副圖片的訓練,深度學習模型甚至可以超過人的肉眼的識別能力,這確實是人工智能在感知類問題上重要的里程碑。關于深度學習,還有一個有趣的現象。 說到人工智能和機器人,上點兒歲數的碼農們可能對封面這張圖有點印象。不明就里的朋友,可以回去補習一下《編輯部的故事》。我是個二手的人工智能表演藝術家:從博士畢業開始,就在MSRA...
摘要:本文內容節選自由主辦的第七屆,北京一流科技有限公司首席科學家袁進輝老師木分享的讓簡單且強大深度學習引擎背后的技術實踐實錄。年創立北京一流科技有限公司,致力于打造分布式深度學習平臺的事實工業標準。 本文內容節選自由msup主辦的第七屆TOP100summit,北京一流科技有限公司首席科學家袁進輝(老師木)分享的《讓AI簡單且強大:深度學習引擎OneFlow背后的技術實踐》實錄。 北京一流...
摘要:劃重點,這是一道面試必考題,我靠這道題刷掉了多少面試者嘿嘿首先這是一道非常棒的面試題,可以考察面試者的很多方面,比如基本功,代碼能力,邏輯能力,而且進可攻,退可守,針對不同級別的人可以考察不同難度,比如漂亮妹子就出題,要是個帥哥那就得上了, 劃重點,這是一道面試必考題,我靠這道題刷掉了多少面試者?(? ? ??)嘿嘿 首先這是一道非常棒的面試題,可以考察面試者的很多方面,比如基本功,代...
摘要:大家好,我是黃文堅,今天給大家講講深度學習。我們再來看看這兩個深度學習的網絡,左邊是策略網絡,我走到一步的時候,分析棋盤上每個位置有多大價值,給每個位置打一個分數。可以說深度學習讓機器人擁有幾歲小孩拾起物體的能力。 大家好,我是黃文堅,今天給大家講講深度學習。我不講技術原理,講講技術應用。深度學習是我們明略重要的研究方向,是未來實現很多令人驚嘆的功能的工具,也可以說是通向人工智能的必經之路。...
摘要:為什么我又要重新開始寫機器學習相關的文章了最主要的原因是現在的機器學習和五年前十年前區別很大。深度學習帶來了什么深度學習最重要的東西就是自帶了特征學習,有時候也被翻譯為表征學習,簡單來說就是,不需要進行特別的特征抽取。 1.為什么我開始寫這個系列博客說五年前我還在某A云公司的時候,身在一個機器學習算法組,對機器學習懷有濃厚的興趣。花了好多的時間來試圖搞清楚各種流行的機器學習算法,經常周末也跟...
閱讀 3336·2021-11-25 09:43
閱讀 3025·2021-10-15 09:43
閱讀 1978·2021-09-08 09:36
閱讀 2930·2019-08-30 15:56
閱讀 758·2019-08-30 15:54
閱讀 2697·2019-08-30 15:54
閱讀 2989·2019-08-30 11:26
閱讀 1260·2019-08-29 17:27