相關(guān)文章

• Graph 卷積神經(jīng)網(wǎng)絡(luò)：概述、樣例及最新進(jìn)展

  摘要：是直接作用于圖的卷積神經(jīng)網(wǎng)絡(luò)，允許對(duì)結(jié)構(gòu)化數(shù)據(jù)進(jìn)行端到端的學(xué)習(xí)，也即輸入可以是任意大小和形狀的圖。圖譜卷積和圖卷積神經(jīng)網(wǎng)絡(luò)舉個(gè)例子，讓我們看下面這個(gè)十分簡(jiǎn)單的分層優(yōu)化傳播規(guī)律是神經(jīng)網(wǎng)絡(luò)層的權(quán)矩陣，是像這樣的非線性激活函數(shù)。 Graph Convolutional Network（GCN）是直接作用于圖的卷積神經(jīng)網(wǎng)絡(luò)，GCN 允許對(duì)結(jié)構(gòu)化數(shù)據(jù)進(jìn)行端到端的學(xué)習(xí)，也即輸入可以是任意大小和形狀的圖。...

  wushuiyong 2019-04-25 18:05 評(píng)論0 收藏0

• 深度學(xué)習(xí)與神經(jīng)科學(xué)相遇（三）[譯]

  摘要：例如，是一些神經(jīng)元的特征，其中突觸權(quán)重變化的符號(hào)取決于突觸前后的較精確至毫秒量級(jí)相對(duì)定時(shí)。，是大腦自身調(diào)整其神經(jīng)元之間的連接強(qiáng)度的生物過(guò)程。從他博士期間就開(kāi)始研究至今，目前可以說(shuō)深度學(xué)習(xí)占領(lǐng)著機(jī)器學(xué)習(xí)的半壁江山，而則是深度學(xué)習(xí)的核心。 上次說(shuō)到誤差梯度的反向傳播（Backpropagation），這次咱們從這繼續(xù)。需要說(shuō)明的是，原文太長(zhǎng)，有的地方會(huì)有些冗長(zhǎng)啰嗦，所以后面的我會(huì)選擇性地進(jìn)行翻譯...

  _ipo 2019-04-25 18:23 評(píng)論0 收藏0

• 深度學(xué)習(xí)與神經(jīng)科學(xué)相遇（一）[譯]

  摘要：如今在機(jī)器學(xué)習(xí)中突出的人工神經(jīng)網(wǎng)絡(luò)最初是受神經(jīng)科學(xué)的啟發(fā)。雖然此后神經(jīng)科學(xué)在機(jī)器學(xué)習(xí)繼續(xù)發(fā)揮作用，但許多主要的發(fā)展都是以有效優(yōu)化的數(shù)學(xué)為基礎(chǔ)，而不是神經(jīng)科學(xué)的發(fā)現(xiàn)。 開(kāi)始之前看一張有趣的圖 - 大腦遺傳地圖：Figure 0. The Genetic Geography of the Brain - Allen Brain Atlas成年人大腦結(jié)構(gòu)上的基因使用模式是高度定型和可再現(xiàn)的。 Fi...

  YJNldm 2019-04-25 18:21 評(píng)論0 收藏0

• 深度學(xué)習(xí)與神經(jīng)科學(xué)相遇（二）[譯]

  摘要：就像在權(quán)重?cái)_動(dòng)中，而不同于串?dāng)_的是，最小的全局協(xié)調(diào)是必須的每個(gè)神經(jīng)元僅需要接收指示全局成本函數(shù)的反饋信號(hào)。在深度強(qiáng)化學(xué)習(xí)中比如可否使用不可微分的目標(biāo)函數(shù)呢值得探索相反，反向傳播通過(guò)基于系統(tǒng)的分層結(jié)構(gòu)計(jì)算成本函數(shù)對(duì)每個(gè)權(quán)重的靈敏度來(lái)工作。 2. 大腦能夠進(jìn)行成本函數(shù)優(yōu)化許多機(jī)器學(xué)習(xí)方法（如典型的監(jiān)督式學(xué)習(xí)）是基于有效地函數(shù)優(yōu)化，并且，使用誤差的反向傳播（Werbos, 1974; Rumelh...

  mdluo 2019-04-25 18:23 評(píng)論0 收藏0