摘要：對年奇點的描述是由生物技術，納米技術以及最強大的人工智能領域同時發生的三場革命引起的。如果人類是巨大的巨人，頭部可以達到國際空間站，它們將比現在大萬倍。

當我了解人工智能的世界時，我發現有很多人站在這里：

在自信角落里面的人們興奮地嗡嗡作響。他們把目光投向了平衡木的樂趣的一面，他們確信這就是我們所有人的目標。對他們來說，未來就是他們所希望的一切。

這些人與我們后面討論的其他思想家的不同之處在于，并不是他們對幸福生活的欲望，而是他們相信這就是我們未來生活的方向。

這種信心從何而來還有待商榷。批評人士認為，它來自于一種令人眼花繚亂的興奮，以至于他們忽略或否認潛在的負面結果。但是相信這一觀點的人表示，如果設想世界末日的情景是天真的，那么技術在接下來肯定會幫助我們，而不是傷害我們。

Nick Bostrom描述了超級人工智能系統的三種功能:

作為一個回答者，幾乎可以準確回答任何問題，包括人類無法輕易回答的復雜問題 - 即如何制造更高效的汽車發動機？谷歌就是一種原始的回答者。

作為一個執行者，執行給出的任何高級指令 - 使用一個分子匯編程序來構建一種新的、更高效的汽車引擎 - 然后等待它的下一個命令。

作為一個自由者，它被賦予了廣泛而開放的追求并被允許在世界上自由運作，自己決定如何最好地選擇 - 發明一種比人類汽車更快，更便宜，更安全的方式供人類自己出行使用。

這些問題和任務對我們來說似乎很復雜，聽但是對一個超級智能系統來說就像有人要求你解決“我的鉛筆從桌子上掉下來”的問題，你可以輕松的將鉛筆從地上撿起來。

在自信角落里有很多熱切的科學家，發明家和企業家 - 但是為了參觀人工智能中最光明的一面，我們需要一個人作為我們的導游。

Ray Kurzweil是非常兩極分化的。在我的閱讀中，我聽到了一切，從神的崇拜、他的想法以及鄙視的事務。其他人在作家Douglas Hofstadter的某書中討論Kurzweil的想法時，雄辯地提出“就好像你吃了很多非常好的食物和一些狗屎并將它們混合起來這樣你就不能分辨出來什么是好什么是壞“

無論你是否喜歡他的想法，大家都任務Kurzweil的觀點令人印象深刻。他在青少年時期發明東西，在接下來的幾十年里，他想出了幾項突破性的發明，包括第一臺平板掃描儀，第一臺將文本轉換為語音的掃描儀（允許盲人閱讀標準文本），著名的Kurzweil音樂合成器（第一個真正的電子琴），以及第一個商業營銷詞匯量語音識別。他是五本全國暢銷書的作者。他以其大膽的預測而聞名，并且在實現這些預測方面有這良好的記錄 - 包括他在80年代后期的預測，當時互聯網是一個不起眼的東西，到21世紀初，它才成為一種全球現象。Kurzweil被華爾街日報稱為“永不停歇的天才”，被福布斯稱為“終極思考機器”，被Inc雜志稱為“愛迪生的合法繼承人”，以及比爾蓋茨口中的“我所知道的預測人工智能未來的最佳人選”。2012年，谷歌聯合創始人Larry Page找到了Kurzweil并要求他擔任谷歌工程總監。 2011年，他與人共同創辦了奇點大學，由NASA主辦，谷歌贊助，對于一個人來說這樣的一生還不錯。

他的這本傳記很重要。當Kurzweil闡述他對未來的看法時，他聽起來完全像個瘋子，而瘋狂的是，他不是一個瘋子 - 他是一個非常聰明，知識淵博，與世界息息相關的人。你可能認為他對未來的看法不對，但他并不傻。知道他是一個正人君子讓我很開心，因為當我了解到他對未來的預測時，我非常希望他是對的。你也一樣。當你聽到Kurzweil的預測時，很多在自信角落里面思考的如Peter Diamandis和Ben Goertzel這樣的人都會贊同他的觀點，不難看出為什么他有如此多的，熱情的追隨者 - 這些追隨者被稱為奇點主義者。

以下是他認為會發生的事情：

Kurzweil認為計算機將在2029年達到AGI，到2045年，我們不僅會有ASI，而且還會擁有一個全新的世界 - 他稱之為奇點。他的人工智能相關時間表在過去被認為過分狂熱，但現在被大多數人認為就應該這樣，但在過去的15年，ANI系統的快速發展讓更大范圍內的人工智能更接近Kurzweil的時間表。他的預測仍然比穆勒和博斯特羅姆調查的中位數受訪者（2040年擁有AGI，2060年擁有ASI）更加雄心勃勃，但是并沒有那么多。

Kurzweil對2045年奇點的描述是由生物技術，納米技術以及最強大的人工智能領域同時發生的三場革命引起的。

在我們繼續前進之前，納米技術幾乎出現在你所讀到的有關人工智能未來的所有內容中，所以我們接下來進入納米技術的部分，對它進行一些討論

納米技術指的是處理涉及操縱尺寸在1到100納米之間的物質。納米是米的十億分之一，或毫米的百萬分之一，DNA（10納米寬），DNA（10納米寬），以及像血紅蛋白（5納米）這樣的大分子和中等分子如葡萄糖（1 nm）。如果/當我們征服納米技術時，下一步將是操縱單個原子的能力，這些原子將比納米小一個數量級（~1nm）

為了理解人類試圖操縱該范圍內的物質所面臨的挑戰，讓我們在更大范圍內采取相同的措施。國際空間站距離地球268英里（431公里）。如果人類是巨大的巨人，頭部可以達到國際空間站，它們將比現在大25萬倍。如果你將1nm - 100nm納米技術范圍擴大250，000倍，你會得到0。25毫米--2。5厘米。因此，納米技術相當于一個像國際空間站一樣高大的人類巨人，如何使用一粒沙粒和一個眼球之間的材料仔細地建造復雜的物體。為了達到下一級操縱單個原子 - 巨人必須仔細定位1/40毫米的物體 - 如此小的物體需要正常尺寸的人用顯微鏡才能看到它們。

Richard Feynman在1959年的一次談話中首次討論了納米技術，他解釋說：“就我所見，物理學原理并不反對以原子為單位操縱物質的可能性。原則上，物理學家合成化學家寫下的任何化學物質都是可能的。“就這么簡單。如果你能弄清楚如何移動單個分子或原子，你可以做任何事情。

納米技術于1986年首次成為一個嚴肅的領域，當時工程師Eric Drexler在他的開創性著作《Engines of Creation》中提供了基礎，但Eric Drexler建議那些希望了解納米技術最現代想法的人，最好讀一讀他2013年的著作《Radical Abundance》

灰色粘性

我們現在討論一下有趣的灰色粘性。

無論如何，我把你們帶到了這里，是因為我需要告訴你關于納米技術傳說中的不可思議的部分。在納米技術理論的舊版本中，提出的納米組裝方法涉及創建數萬億個微小的納米機器人，這些微型納米機器人可以協同工作來構建某種東西。創造數萬億納米機器人的一種方法是制造一個可以自我復制的納米機器人，然后讓復制過程將一個變為兩個，然后將這兩個變成四個，四個變成八個，并且在大約一天內，就會有他們準備好了幾萬億。這是指數增長的力量。非常聰明，對嗎？

這是很聰明的，直到它導致了宏大的完整的地球范圍內的大災難意外。問題在于，指數增長的能力使得快速創建萬億納米機器人變得非常方便，這也使得自我復制成為一個可怕的前景。因為如果系統出現故障，當總數達成預期的數量時，并沒有啟動停止程序，那么它們只會繼續復制。納米機器人將被設計為消耗任何碳基材料以供給復制過程，并且令人不快地，所有生命都是基于碳基的。地球的生物量含有約1045個碳原子。納米機器人將由約106個碳原子組成，因此1039 個碳原子納米機器人將消耗地球上的所有生命，這將在130次重復中發生（2 130次約為10 39次），因為大量的納米機器人在地球上滾動。科學家認為納米機器人可以在大約100秒內復制，這意味著這個簡單的錯誤會在3。5小時內簡單地終止地球上的所有生命。

更糟糕的情況 - 如果一個恐怖分子以某種方式獲得了納米機器人的技術并擁有編程技術，他可以制作最初的幾萬億，然后安排他們悄悄地花幾周時間在全世界范圍內均勻地傳播。然后，他們一下子全部開工，只需要90分鐘就可以消耗所有東西 - 而且隨著它們全部散開，我們將沒有辦法打擊它們。

雖然這個恐怖故事一直被廣泛討論，但好消息是它可能被夸大了 - 創造了“灰色粘性”一詞的Eric Drexler在這篇帖子后給我發了一封電子郵件，上面寫著他對灰色粘性劇情的看法：人們喜歡恐怖故事，而這個想法就是一個來自大腦的恐怖故事。

一旦我們真正得到納米技術，我們可以用它來制造技術設備，服裝，食品，各種生物相關產品 - 人造血細胞，微型病毒或癌細胞破壞者，肌肉組織等等 - 任何存在的的東西。在一個使用納米技術的世界中，材料的成本不再與其稀缺性或制造工藝的難度聯系在一起，而是由其原子結構的復雜程度決定。在納米技術領域，鉆石可能比鉛筆橡皮擦便宜。

我們還沒有到那一步。目前尚不清楚我們是否低估或過高估計到達這一目標會有多困難。但我們似乎距離目標并沒有那么遙遠。Kurzweil預測，到2020年我們將實現這一目標。各國政府都知道納米技術可能是一個驚天動地的發展，他們已投入數十億美元用于納米技術研究（迄今為止，美國，歐盟和日本已投資超過50億美元）。

僅僅考慮到超級智能計算機可以訪問強大的納米級匯編程序的可能性很大，就已經很讓人緊張了。但納米技術是我們提出來的，我們正處于獲得這項技術的邊緣，而且由于我們所能做的任何事情都是對ASI系統的一個笑話，我們必須假設ASI會提出更強大的技術。我們的大腦要這么去理解。出于這個原因，當考慮“如果人工智能革命對我們來說是好是壞的”情景時，我們幾乎不可能高估可能發生的范圍 - 所以如果以下對ASI未來的預測看起來言過其實的話，請記住，他們可以用我們無法想象的方式完成。而且最有可能的是，我們的大腦無法預測將會發生的事情。

擁有了超級智能和所有的技術，超級智能將明白如何創建ASI，并解決人類的每一個問題。全球暖化？ASI首先提出更好的方法來生產與化石燃料無關的能源，從而阻止二氧化碳的排放。然后，它可以創建一些方法開始移除大氣中多余的二氧化碳。癌癥和其他疾病？ASI來說沒有任何問題會發生超乎想象的革命性變化。世界饑餓？ASI可以使用納米技術等技術從無到有的制造出分子與真正的肉完全相同結構的東西，換句話說他們就是真正的肉。納米技術還可以將一堆垃圾編程一個巨大的桶，里面裝滿了新鮮的肉類或其他食物（這些食物不需要有正常的形狀-比如一個巨大的立方體蘋果） - 并使用超先進的運輸方式將所有這些食物分配到世界各地。當然，對于不再需要被人類殺死的動物來說，這也是非常好的，ASI可以做很多其他事情來拯救瀕臨滅絕的物種，甚至通過保存DNA的工作來拯救滅絕的物種。ASI甚至可以解決我們最復雜的宏觀問題 - 我們關于如何運行經濟以及如何最好地促進世界貿易的辯論，甚至是我們在哲學或道德方面最模糊的爭論 - 對于ASI來說都是非常明顯的。

但有一件事，我認為它對他們是那么的誘人，我所認知的一切都被它給改變了：

幾個月前，我提到了我對更先進的潛在文明的季度，他們已經戰勝了自己的死亡，但我從未考慮過我后來會寫了一篇文章，真正的讓我相信這是人類在我的有生之年中可以做的事情的帖子。但閱讀人工智能的有關書籍會讓你重新考慮你認為確定的一切 - 包括你對死亡的概念。

進化沒有充分理由來延長我們的壽命，使我們的壽命比現在更長。如果我們活得足夠長，可以繁殖并照顧我們的孩子到一個他們可以照顧自己的年齡，從進化的角度來看這就足夠了 - 從進化的角度來看，這個物種可以茁壯成長到30多年的壽命，因此在自然選擇過程中沒有理由會受到青睞突變異常壽命。因此，我們就像WB Yeats所描述的那樣，“一個與瀕死動物緊密相連的靈魂。” 沒那么有趣。

因為每個人都會死，我們生活在“死亡與稅收”的假設之下，死亡是不可避免的。我們認為老化就像時間一樣 - 都在不斷的向前運動，你無力阻止它們。但這種假設是錯誤的。Richard Feynman寫道：

在所有的生物科學中，沒有關于死亡必然性的線索，這是最值得注意的事情之一。如果你說我們想做永動機，但我們在學習物理的過程中已經發現了足夠多的定律，這些定律要么是不可能的，要么是錯的。但是生物學中沒有任何證據可以表明了死亡的必然性。這對我來說，這根本不是不可避免的，生物學家發現導致我們麻煩是什么只是一個時間問題，人類身體上的這張可怕的疾病或著是暫時性的疾病將會被治愈。

事實上，衰老并不是一成不變的。時間將繼續前進，但衰老并不一定會繼續。仔細想想，這是有道理的。所有的老化都是身體物質的磨損。隨著時間的推移汽車也會磨損 - 但它的老化是不可避免的嗎？如果汽車其中一個零件開始磨損但是如果你能完美的修理或更換汽車的零件那么汽車將永遠運行下去。人體沒有任何不同 - 只是復雜得多。

Kurzweil談到了血液中智能wifi連接的納米機器人，他們可以為人類健康執行無數任務，包括定期修復或更換身體任何部位的磨損細胞。如果完善，這個過程（或ASI會提出更智能的一個過程）不僅可以保持身體健康，還可以逆轉衰老。一個60歲的身體和一個30歲的身體之間的區別只是一堆物理的東西，如果我們有這項技術可以改變這些東西。ASI可以建立一個60歲的老人可以走進去的“年齡清洗劑，他們會帶著30歲的身體和皮膚走出來。即使是那些迷迷糊糊的大腦也可以被ASI這樣智能的設備所刷新來回復活力，ASI會在不影響大腦數據（個性，記憶等）的情況下弄清楚如何做到這一點。患有老年癡呆癥的90歲患者可能會進入返老還童階段，并且能夠以全新的姿態出現，準備開始一段全新的生涯。這看起來很荒謬 - 但身體只是一堆原子，ASI可能很容易操縱各種原子結構 - 所以這并不荒謬。

Kurzweil將事情向前推進了一大步。他認為，隨著時間的推移，人造材料將越來越多地融入身體。首先，器官可以被超級先進的機器版本取代，這些機器版本將永遠運行并且永不失敗。然后他認為我們可以開始重新設計身體，例如用完善的紅細胞納米機器人替換紅血細胞，這些機器人可以為自己的運動提供動力，根本不需要心臟。他甚至可以進入大腦增強我們的大腦活動，使人類能夠比現在更快地思考數能力的十億倍并訪問外部信息，因為大腦的人工智能可以添加云中的所有信息。

人類新體驗的可能性將是無窮無盡的。人類將性與其目的分開，允許人們為了樂趣而進行性行為，而不僅僅是為了繁衍后代。Kurzweil相信我們能夠對食物做同樣的事情。納米機器人將負責為身體細胞提供完美的營養，智能地指導任何不健康的事物通過身體而不會影響任何事物。就好像一個萬能的避孕套。納米技術理論家Robert A。 Freitas已經設計了一種血細胞替代品，如果有一天在體內實施，將允許人類在不呼吸的情況下沖刺15分鐘 - 所以你只能想象ASI可以為我們的身體能力做些什么。虛擬現實將呈現一種新的意義-體內的納米機器人可以抑制來自我們感官的輸入，并用信號取代它們，讓我們完全進入一個新的環境，一個我們可以看到，聽到，感覺到和聞到的新環境。

Kurzweil認為，人類最終能夠達到完全人工的程度;當我們看到生物材料的時候，我們回想到人類曾經是多么原始，多么的難以置信 ; 當我們讀到人類歷史的早期階段時，微生物或事故或疾病或人體磨損可能會違背自己的意愿殺死人類; 人工智能革命可能隨著人類和人工智能的融合來結束。這就是Kurzweil認為人類將最終征服我們的生物學并變得堅不可摧和永恒的方式 - 這是他對平衡木另一側的愿景。而且他確信我們很快就可以成功的。

當你發現Kurzweil的想法引起了很多批評時，你不會感到驚訝。他對2045年的奇點以及其后人類達到永生的可能性預測被嘲笑為“書呆子的狂喜”或“140智商的智能設計”。其他人質疑他樂觀的時間表，或者他對大腦和身體的理解，或他對Moore’s law定律模式的應用，Moore’s law定律模式通常應用于硬件的進步，包括軟件在內的廣泛的事物。對于每一位狂熱相信Kurzweil正確的專家來說，可能有三個人認為他錯了。

但令我驚訝的是，大多數不同意他的專家并不是真正的反對他所說的一切都是可能的。讀到如此一個對未來的古怪愿景，我原以為他的批評者會說，“顯然，這些事情是不會發生的”，但他們說的話，“是的，如果我們安全地過渡到ASI，所有的這一切都會發生，但這是最難的部分。“Bostrom是警告我們人工智能危險的最突出的聲音之一，但他仍然承認：

很難想象一個超級智能無法解決或至少不能幫助我們解決任何問題。疾病，貧困，環境破壞，各種不必要的痛苦：這些是配備先進納米技術的超級智能能夠消除的東西。此外，超級智能可以通過使用納米醫學來阻止和逆轉衰老過程，或者為我們提供上傳自己的選項，從而為我們提供無限期的生命。超級智能也可以為我們創造機會，大大增加我們自己的智力和情感能力，它可以幫助我們創造一個極具吸引力的體驗世界，在這個世界中，我們可以過著充滿快樂的游戲生活，彼此相關，體驗，個人成長，更貼近我們的理想。

這是一個焦慮角落的人的說的一句話，但這就是我一直遇到的 - 專家們嘲笑Kurzweil有很多原因，但他們并不認為他所說的是不可能的，如果我們能夠安全的到達ASI。這就是為什么我發現Kurzweil的想法如此具有感染力的原因-因為他闡述了這個故事光明的一面，也因為實際上他們是可能的，如果這是一個好神的話。

我聽到有關自信角落的思想家的最著名的批評是，他們在評估ASI的不利方面可能是危險的錯誤。Kurzweil著名的書“ The Singularity is Near” 長達700多頁，他將這些頁面中的大約20頁用于潛在的危險。我之前說過，當這種巨大的新力量誕生時，我們的命運取決于誰將控制這種力量以及他們的動機將是什么。Kurzweil巧妙地用一句話回答了這兩個問題，“ASI正在從許多不同的努力中產生，并將深深融入我們文明的基礎設施中。實際上，它將深入地嵌入我們的身體和大腦中。因此，它將反映我們的價值觀，因為它就是我們自己。“

但如果這就是答案，為什么這么多世界上最聰明的人現在如此擔心呢？Stephen Hawking為什么說ASI的發展“可能意味著人類的終結”，Bill Gates說他不“理解為什么有些人不關心”，而Elon Musk則害怕我們“召喚惡魔”？那么為什么這么多專家就這個話題稱ASI是對人類是最大的威脅？這些人，以及焦慮道路上的其他思想家，并沒有相信Kurzwei對人工智能危險的拒絕。他們非常非常擔心人工智能革命，他們并沒有專注于平衡木的樂趣一面。他們太忙于盯著另一邊，他們看到了一個可怕的未來，一個不確定我們能否逃脫的未來。

針對于未來人工智能對人類的好的一面就先到這里，系列文章的下篇將描述為什么人工智能在未來可能會是我們的噩夢，探討了人工智能可能對人類的不好的一面，歡迎大家到時候繼續觀看。