模仿飛蛾識別味道的神經網絡，說明了為什么飛蛾學習速度遠超機器

hizengzeng 發布于2019-04-25 18:24 / 880人閱讀

摘要：在飛蛾腦中，章魚胺可以幫助加強產生成功的神經線路。廣泛來說，此項研究成果可能給人工神經網絡領域帶來極大的影響。

作為現代機器學習基石的深度神經網絡，雖然模仿的是生物神經網絡，但其實這兩者之間有著極大的區別。拋開僅有的一些相似處，有些重要的機器學習機制沒有任何自然界的版本，而這兩者學習過程之間也有著大量的不同。

這些區別很有可能解釋了為什么機器學習系統在某些領域中的表現遠遜于自然系統。就拿昆蟲來說，昆蟲僅需接觸幾次新的氣味就能學會如何識別這些新氣味。而機器則需要海量的數據集才能學會。因此，計算機科學家希望通過加深對自然學習方式的了解來減少這兩者之間的距離。

為了進一步找出自然與機器學習之間的差距，華盛頓大學研究科學家Charles Delahunt與他的團隊創造出了一款模仿煙草天蛾（學名：Manduca sexta）嗅覺學習系統的結構與行為的人工神經網絡。他們表示，他們的系統可以對自然神經網絡的學習方式提供一些重要的見解，為機器學習帶來突破。

與其他動物相比，飛蛾的嗅覺系統比較簡單，并已被神經科學家們很好地繪制出來。它是由5個獨特的網絡組成，由每個網絡向下一個網絡一層一層的傳輸信息。

飛蛾嗅覺系統的首層網絡，是一個由3萬多個用于檢測氣味的化學受體所組成的系統。它會把一套嘈雜的數據傳輸到下一層：天線葉（antenna lobe）。天線葉含有大約60個叫Glomeruli的單元，每一個單元都會專注于一種氣味。

天線葉會把分析過一邊的氣味數據傳輸給含有4000個kenyon細胞的蘑菇體（Mushroom Body），把它編成記憶。

作為記憶，這些關于氣味的信息最終會被一層僅有兩位數的外在神經元讀取。它們將把來自蘑菇體的信號轉化為行為，比如“向上飛”。

這個系統在多個方面與機器學習網絡完全不同。就拿天線葉來說，它會把信息編碼到低維參數空間中，把信息傳輸給蘑菇體；但蘑菇體卻會把信息編碼到高維參數空間中。相比之下，人工神經網絡每層的維度都十分相似。

此外，一旦飛蛾成功的識別一種氣味，這將出發一個獎勵機制，導致神經元向天線葉與蘑菇體噴射一種叫“章魚胺”（octopamine）的化學神經遞質。

這種獎勵機制在學習過程中起到了至關重要的作用。在飛蛾腦中，章魚胺可以幫助加強產生成功的神經線路。這也是赫布學習（Hebbian learning）中最重要的理論之一，即“一起激發的神經元也會連在一起”（Cells that fire together, wire together）。確實，神經科學家早就知道去掉章魚胺的飛蛾是無法學習的。我們只是不知道章魚胺的具體工作方式。

而機器的學習方式則十分不同。它依賴的是一種叫“反向傳播”（backpropagation）的過程，通過調整每個神經元之間的連接來提高結果。但是在這個過程中，信息是在神經網絡中進行反向流動的，而它在自然中也沒有任何相似的存在。

為了更好地了解飛蛾學習的方式，Delahunt的團隊創造出了一款模仿自然神經網絡的工作方式的人工神經網絡。“我們創造出來一款端到端的計算模型來模仿煙草天蛾的嗅覺系統，包括天線葉與蘑菇體在章魚胺刺激之下的互動行為”，他們說道。

這款模型的設計理念就是在每一層百分百重現自然系統的一切行為。比如由氣味受體所產生的嘈雜信號，以及數據從天線葉傳輸到蘑菇體時所產生的維度變化。它甚至還包含了一個模仿章魚胺作用的機制。

最終的結果十分有意思，這款模型顯示，氣味受體所產生的嘈雜信號會受到天線葉的前置放大。但是，這些信號在傳輸到蘑菇體時所經歷的維度變化可以有效的排除一切噪聲。因此，這些干凈的信號可以讓該系統輸出“向上飛”這種明確的指令。

而章魚胺所起到的作用也更明確了。這款模仿系統顯示，在沒有章魚胺的情況下其實也可以實現學習，但由于它的速度極慢，相當于不存在。這意味著章魚胺是一種強效學習加速劑。

但是章魚胺具體是如何實現加速功能的呢？Delahunt與團隊認為“這可能是一種讓飛蛾繞開新增突觸在赫布生長時固有的有機約束的方式，否則這種約束可能將飛蛾學習的速度限制在一個難以接受的速度。”

此外，章魚胺還有另外一個作用。赫布學習只能加強現有的神經連接，因此無法解釋新的神經線路是如何產生的。Delahunt表示章魚胺還可以打開新的傳輸通道來形成連接：“這會擴展系統學習時能夠探索的解空間”。

總體來說，這款模仿自然神經網絡的人工神經網絡系統完美的實現了它的設計目標，以一個自然的方式學會了分別氣味。“我們的模型可以學習新的氣味，通過模仿出來的整合-激發神經元也與飛蛾體內激發率的統計特征一致”，Delahunt說道。

廣泛來說，此項研究成果可能給人工神經網絡領域帶來極大的影響。“從一個機器學習角度來看，該模型提供了一個由自然啟發的機制，并將十分利于建設需要用極少樣本實現迅速學習的神經網絡”，該團隊總結道。

所以，未來的機器學習網絡很可能將會包含章魚胺等神經遞質的仿品。

當然，神經遞質并不只在學習時有著重要的地位。神經科學家們十分了解它們在情緒與情緒調節等機制中的地位。而這，則可能成為機器學習研究者的下一個研究方向了。

歡迎加入本站公開興趣群

商業智能與數據分析群

興趣范圍包括各種讓數據產生價值的辦法，實際應用案例分享與討論，分析工具，ETL工具，數據倉庫，數據挖掘工具，報表系統等全方位知識

QQ群：81035754

云服務器 GPU云服務器說明了圖像識別機器學習機器學習圖像識別圖像識別和機器學習書籍

文章版權歸作者所有，未經允許請勿轉載,若此文章存在違規行為，您可以聯系管理員刪除。

轉載請注明本文地址：http://m.specialneedsforspecialkids.com/yun/4727.html

[C語言—調試技巧]

摘要：臭蟲中文常稱為缺陷。與相對應，人們將發現并加以糾正的過程叫做中文稱作調試，意即捉蟲子或殺蟲子。于是，霍珀詼諧的把程序故障統稱為臭蟲，把排除程序故障叫，而這奇怪的稱呼，后來成為計算機領域的專業行話。各位小伙伴們大家好，我是澤奀(￣o￣) . 相信大家在編寫C程序中會遇到很多代碼的Bug.所以...

chengtao1633 2021-09-26 09:55 評論0 收藏0
AI技術說：人工智能相關概念與發展簡史

摘要：如何看待人工智能的本質人工智能的飛速發展又經歷了哪些歷程本文就從技術角度為大家介紹人工智能領域經常提到的幾大概念與發展簡史。一人工智能相關概念人工智能就是讓機器像人一樣的智能會思考是機器學習深度學習在實踐中的應用。作為近幾年的一大熱詞，人工智能一直是科技圈不可忽視的一大風口。隨著智能硬件的迭代，智能家居產品逐步走進千家萬戶，語音識別、圖像識別等AI相關技術也經歷了階梯式發展。如何看待...

amuqiao 2019-06-26 18:23 評論0 收藏0
AI技術說：人工智能相關概念與發展簡史

摘要：如何看待人工智能的本質人工智能的飛速發展又經歷了哪些歷程本文就從技術角度為大家介紹人工智能領域經常提到的幾大概念與發展簡史。一人工智能相關概念人工智能就是讓機器像人一樣的智能會思考是機器學習深度學習在實踐中的應用。作為近幾年的一大熱詞，人工智能一直是科技圈不可忽視的一大風口。隨著智能硬件的迭代，智能家居產品逐步走進千家萬戶，語音識別、圖像識別等AI相關技術也經歷了階梯式發展。如何看待...

TANKING 2019-06-26 18:22 評論0 收藏0