摘要:如何看待人工智能的本質(zhì)人工智能的飛速發(fā)展又經(jīng)歷了哪些歷程本文就從技術(shù)角度為大家介紹人工智能領(lǐng)域經(jīng)常提到的幾大概念與發(fā)展簡(jiǎn)史。一人工智能相關(guān)概念人工智能就是讓機(jī)器像人一樣的智能會(huì)思考是機(jī)器學(xué)習(xí)深度學(xué)習(xí)在實(shí)踐中的應(yīng)用。
作為近幾年的一大熱詞,人工智能一直是科技圈不可忽視的一大風(fēng)口。隨著智能硬件的迭代,智能家居產(chǎn)品逐步走進(jìn)千家萬(wàn)戶,語(yǔ)音識(shí)別、圖像識(shí)別等AI相關(guān)技術(shù)也經(jīng)歷了階梯式發(fā)展。如何看待人工智能的本質(zhì)?人工智能的飛速發(fā)展又經(jīng)歷了哪些歷程?本文就從技術(shù)角度為大家介紹人工智能領(lǐng)域經(jīng)常提到的幾大概念與AI發(fā)展簡(jiǎn)史。
一、人工智能相關(guān)概念
1、人工智能(Artifical Intelligence, AI):就是讓機(jī)器像人一樣的智能、會(huì)思考,
是機(jī)器學(xué)習(xí)、深度學(xué)習(xí)在實(shí)踐中的應(yīng)用。人工智能更適合理解為一個(gè)產(chǎn)業(yè),泛指生產(chǎn)更加智能的軟件和硬件,人工智能實(shí)現(xiàn)的方法就是機(jī)器學(xué)習(xí)。
2、數(shù)據(jù)挖掘:數(shù)據(jù)挖掘是從大量數(shù)據(jù)中提取出有效的、新穎的、有潛在作用的、可信的、并能最終被人理解模式(pattern)的非平凡的處理過(guò)程。
數(shù)據(jù)挖掘利用了統(tǒng)計(jì)、機(jī)器學(xué)習(xí)、數(shù)據(jù)庫(kù)等技術(shù)用于解決問(wèn)題;數(shù)據(jù)挖掘不僅僅是統(tǒng)計(jì)分析,而是統(tǒng)計(jì)分析方法學(xué)的延伸和擴(kuò)展,很多的挖掘算法來(lái)源于統(tǒng)計(jì)學(xué)。
3、機(jī)器學(xué)習(xí):專門(mén)研究計(jì)算機(jī)怎樣模擬或?qū)崿F(xiàn)人類的學(xué)習(xí)行為,以獲取新的知識(shí)或技能,機(jī)器學(xué)習(xí)是對(duì)能通過(guò)經(jīng)驗(yàn)自動(dòng)改進(jìn)的計(jì)算機(jī)算法的研究。
機(jī)器學(xué)習(xí)是建立在數(shù)據(jù)挖掘技術(shù)之上發(fā)展而來(lái),只是數(shù)據(jù)挖掘領(lǐng)域中的一個(gè)新興分支與細(xì)分領(lǐng)域,只不過(guò)基于大數(shù)據(jù)技術(shù)讓其逐漸成為了當(dāng)下顯學(xué)和主流。它是人工智能的核心,是使計(jì)算機(jī)具有智能的根本途徑,其應(yīng)用遍及人工智能的各個(gè)領(lǐng)域。
4、深度學(xué)習(xí)(Deep Learning):是相對(duì)淺層學(xué)習(xí)而言的,是機(jī)器學(xué)習(xí)研究中的一個(gè)新的領(lǐng)域,其動(dòng)機(jī)在于建立、模擬人腦進(jìn)行分析學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)。它模仿人腦的機(jī)制來(lái)解釋數(shù)據(jù),例如圖像,聲音和文本。深度學(xué)習(xí)的概念源于人工神經(jīng)網(wǎng)絡(luò)的研究。深度學(xué)習(xí)通過(guò)組合低層特征形成更加抽象的高層表示屬性類別或特征,以發(fā)現(xiàn)數(shù)據(jù)的分布式特征表示。
到了當(dāng)下,經(jīng)過(guò)深度學(xué)習(xí)技術(shù)訓(xùn)練的機(jī)器在識(shí)別圖像方面已不遜于人類,比如識(shí)別貓、識(shí)別血液中的癌細(xì)胞特征、識(shí)別MRI掃描圖片中的腫瘤。在谷歌AlphaGo學(xué)習(xí)圍棋等等領(lǐng)域,AI已經(jīng)超越了人類目前水平的極限。
為了方便大家理解,我們將上文提到的四個(gè)概念的關(guān)系用下圖表示。需要注意的是,圖示展現(xiàn)的只是一種大致的從屬關(guān)系,其中數(shù)據(jù)挖掘與人工智能并不是完全的包含關(guān)系。
二、人工智能發(fā)展歷史
(圖片來(lái)源于網(wǎng)絡(luò))
由圖可以明顯看出Deep Learning從06年崛起之前經(jīng)歷了兩個(gè)低谷,這兩個(gè)低谷也將神經(jīng)網(wǎng)絡(luò)的發(fā)展分為了幾個(gè)不同的階段,下面就分別講述這幾個(gè)階段。
1、 第一代神經(jīng)網(wǎng)絡(luò)(1958-1969)
最早的神經(jīng)網(wǎng)絡(luò)的思想起源于1943年的MP人工神經(jīng)元模型,當(dāng)時(shí)是希望能夠用計(jì)算機(jī)來(lái)模擬人的神經(jīng)元反應(yīng)的過(guò)程,該模型將神經(jīng)元簡(jiǎn)化為了三個(gè)過(guò)程:輸入信號(hào)線性加權(quán),求和,非線性激活(閾值法)。如下圖所示:
1958年Rosenblatt發(fā)明的感知器(perceptron)算法。該算法使用MP模型對(duì)輸入的多維數(shù)據(jù)進(jìn)行二分類,且能夠使用梯度下降法從訓(xùn)練樣本中自動(dòng)學(xué)習(xí)更新權(quán)值。1962年,該方法被證明為能夠收斂,理論與實(shí)踐效果引起第一次神經(jīng)網(wǎng)絡(luò)的浪潮。
1、 第二代神經(jīng)網(wǎng)絡(luò)(1986~1998)
第一次打破非線性詛咒的當(dāng)屬現(xiàn)代Deep Learning大牛Hinton,其在1986年發(fā)明了適用于多層感知器(MLP)的BP算法,并采用Sigmoid進(jìn)行非線性映射,有效解決了非線性分類和學(xué)習(xí)的問(wèn)題。該方法引起了神經(jīng)網(wǎng)絡(luò)的第二次熱潮。
1989年,Robert Hecht-Nielsen證明了MLP的萬(wàn)能逼近定理,即對(duì)于任何閉區(qū)間內(nèi)的一個(gè)連續(xù)函數(shù)f,都可以用含有一個(gè)隱含層的BP網(wǎng)絡(luò)來(lái)逼近該定理的發(fā)現(xiàn)極大的鼓舞了神經(jīng)網(wǎng)絡(luò)的研究人員。
同年,LeCun發(fā)明了卷積神經(jīng)網(wǎng)絡(luò)-LeNet,并將其用于數(shù)字識(shí)別,且取得了較好的成績(jī),不過(guò)當(dāng)時(shí)并沒(méi)有引起足夠的注意。
值得強(qiáng)調(diào)的是在1989年以后由于沒(méi)有特別突出的方法被提出,且神經(jīng)網(wǎng)絡(luò)(NN)一直缺少相應(yīng)的嚴(yán)格的數(shù)學(xué)理論支持,神經(jīng)網(wǎng)絡(luò)的熱潮漸漸冷淡下去。
1997年,LSTM模型被發(fā)明,盡管該模型在序列建模上的特性非常突出,但由于正處于NN的下坡期,也沒(méi)有引起足夠的重視。
3、統(tǒng)計(jì)學(xué)建模的春天(1986~2006)
1986年,決策樹(shù)方法被提出,很快ID3,ID4,CART等改進(jìn)的決策樹(shù)方法相繼出現(xiàn)。
1995年,線性SVM被統(tǒng)計(jì)學(xué)家Vapnik提出。該方法的特點(diǎn)有兩個(gè):由非常完美的數(shù)學(xué)理論推導(dǎo)而來(lái)(統(tǒng)計(jì)學(xué)與凸優(yōu)化等),符合人的直觀感受(最大間隔)。不過(guò),最重要的還是該方法在線性分類的問(wèn)題上取得了當(dāng)時(shí)最好的成績(jī)。
1997年,AdaBoost被提出,該方法是PAC(Probably Approximately Correct)理論在機(jī)器學(xué)習(xí)實(shí)踐上的代表,也催生了集成方法這一類。該方法通過(guò)一系列的弱分類器集成,達(dá)到強(qiáng)分類器的效果。
2000年,KernelSVM被提出,核化的SVM通過(guò)一種巧妙的方式將原空間線性不可分的問(wèn)題,通過(guò)Kernel映射成高維空間的線性可分問(wèn)題,成功解決了非線性分類的問(wèn)題,且分類效果非常好。至此也更加終結(jié)了NN時(shí)代。
2001年,隨機(jī)森林被提出,這是集成方法的另一代表,該方法的理論扎實(shí),比AdaBoost更好的抑制過(guò)擬合問(wèn)題,實(shí)際效果也非常不錯(cuò)。
2001年,一種新的統(tǒng)一框架-圖模型被提出,該方法試圖統(tǒng)一機(jī)器學(xué)習(xí)混亂的方法,如樸素貝葉斯,SVM,隱馬爾可夫模型等,為各種學(xué)習(xí)方法提供一個(gè)統(tǒng)一的描述框架。
4、快速發(fā)展期(2006~2012)
2006年,深度學(xué)習(xí)(DL)元年。是年,Hinton提出了深層網(wǎng)絡(luò)訓(xùn)練中梯度消失問(wèn)題的解決方案:無(wú)監(jiān)督預(yù)訓(xùn)練對(duì)權(quán)值進(jìn)行初始化+有監(jiān)督訓(xùn)練微調(diào)。其主要思想是先通過(guò)自學(xué)習(xí)的方法學(xué)習(xí)到訓(xùn)練數(shù)據(jù)的結(jié)構(gòu)(自動(dòng)編碼器),然后在該結(jié)構(gòu)上進(jìn)行有監(jiān)督訓(xùn)練微調(diào)。但是由于沒(méi)有特別有效的實(shí)驗(yàn)驗(yàn)證,該論文并沒(méi)有引起重視。
2011年,ReLU激活函數(shù)被提出,該激活函數(shù)能夠有效的抑制梯度消失問(wèn)題。
2011年,微軟首次將DL應(yīng)用在語(yǔ)音識(shí)別上,取得了重大突破。
5、爆發(fā)期(2012~至今)
2012年,Hinton課題組為了證明深度學(xué)習(xí)的潛力,首次參加ImageNet圖像識(shí)別比賽,其通過(guò)構(gòu)建的CNN網(wǎng)絡(luò)AlexNet一舉奪得冠軍,且碾壓第二名(SVM方法)的分類性能。也正是由于該比賽,CNN吸引到了眾多研究者的注意。
AlexNet的創(chuàng)新點(diǎn):
(1)首次采用ReLU激活函數(shù),極大增大收斂速度且從根本上解決了梯度消失問(wèn)題;
(2)由于ReLU方法可以很好抑制梯度消失問(wèn)題,AlexNet拋棄了“預(yù)訓(xùn)練+微調(diào)”的方法,完全采用有監(jiān)督訓(xùn)練。也正因?yàn)槿绱耍珼L的主流學(xué)習(xí)方法也因此變?yōu)榱思兇獾挠斜O(jiān)督學(xué)習(xí);
(3)擴(kuò)展了LeNet5結(jié)構(gòu),添加Dropout層減小過(guò)擬合,LRN層增強(qiáng)泛化能力/減小過(guò)擬合;
(4)首次采用GPU對(duì)計(jì)算進(jìn)行加速。
結(jié)語(yǔ):作為21世紀(jì)最具影響力的技術(shù)之一,人工智能不僅僅在下圍棋、數(shù)據(jù)挖掘這些人類原本不擅長(zhǎng)的方面將我們打敗,還在圖像識(shí)別、語(yǔ)音識(shí)別等等領(lǐng)域向我們發(fā)起挑戰(zhàn)。如今,人工智能也在與物聯(lián)網(wǎng)、量子計(jì)算、云計(jì)算等等諸多技術(shù)互相融合、進(jìn)化,以超乎我們想象的速度發(fā)展著。而這一切的發(fā)生與演變,只用了幾十年的時(shí)間……
文章版權(quán)歸作者所有,未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請(qǐng)注明本文地址:http://m.specialneedsforspecialkids.com/yun/19721.html
摘要:如何看待人工智能的本質(zhì)人工智能的飛速發(fā)展又經(jīng)歷了哪些歷程本文就從技術(shù)角度為大家介紹人工智能領(lǐng)域經(jīng)常提到的幾大概念與發(fā)展簡(jiǎn)史。一人工智能相關(guān)概念人工智能就是讓機(jī)器像人一樣的智能會(huì)思考是機(jī)器學(xué)習(xí)深度學(xué)習(xí)在實(shí)踐中的應(yīng)用。 作為近幾年的一大熱詞,人工智能一直是科技圈不可忽視的一大風(fēng)口。隨著智能硬件的迭代,智能家居產(chǎn)品逐步走進(jìn)千家萬(wàn)戶,語(yǔ)音識(shí)別、圖像識(shí)別等AI相關(guān)技術(shù)也經(jīng)歷了階梯式發(fā)展。如何看待...
摘要:同時(shí)該版本在安全性和等關(guān)鍵功能上作出了改進(jìn)年月日,發(fā)布。盡管谷歌這些年來(lái)是的主要貢獻(xiàn)者,但現(xiàn)在其他技術(shù)人員在這個(gè)項(xiàng)目上的貢獻(xiàn)量已經(jīng)幾乎和谷歌持平了。這些舉動(dòng)都在表明云計(jì)算市場(chǎng)的戰(zhàn)火將繼續(xù)蔓延,已經(jīng)成為兵家必爭(zhēng)之地。年月日,宣布推出。Kubernetes 在過(guò)去幾年中一直是云計(jì)算領(lǐng)域最著名的開(kāi)源項(xiàng)目之一。 2018 年,Kubernetes 度過(guò)了自己的 4 歲生日。從 2014 年開(kāi)源...
閱讀 1728·2021-11-22 12:09
閱讀 1458·2019-08-30 13:22
閱讀 2091·2019-08-29 17:00
閱讀 2641·2019-08-29 16:28
閱讀 2952·2019-08-26 13:51
閱讀 1180·2019-08-26 13:25
閱讀 3242·2019-08-26 12:14
閱讀 3013·2019-08-26 12:14