摘要：真可愛(ài)唯一的事情是，在大范圍的智能中，所有人類(lèi)，從村里的白癡到愛(ài)因斯坦，都在一個(gè)非常小的范圍內(nèi)所以剛剛擊敗村里的白癡水平并被宣布為后，它會(huì)突然比愛(ài)因斯坦更聰明，并且我們不知道是什么擊敗了我們那會(huì)發(fā)生什么。。。。。。

在某種程度上，我們將獲得具有人類(lèi)一般智能的AGI計(jì)算機(jī)后。只是一群人和計(jì)算機(jī)平等地生活在一起。

哦，實(shí)際上并不會(huì)。

問(wèn)題是，AGI具有與人類(lèi)相同的智能和計(jì)算能力水平，但仍然具有優(yōu)于人類(lèi)的優(yōu)勢(shì)。如：

速度。大腦的神經(jīng)元最大頻率大約為200赫茲，而今天的微處理器（比我們達(dá)到AGI時(shí)慢得多）運(yùn)行頻率為2 GHz，比我們的神經(jīng)元快1000萬(wàn)倍。大腦的內(nèi)部通信速度可以達(dá)到120米/秒，但與計(jì)算機(jī)以光速進(jìn)行光學(xué)通信的能力相比還是要慢得多。

尺寸和存儲(chǔ)。大腦被我們頭骨的形狀限制住了它的大小，而且無(wú)論如何它都不會(huì)變大，或者120米/秒的內(nèi)部通信需要很長(zhǎng)時(shí)間才能從一個(gè)大腦結(jié)構(gòu)到另一個(gè)大腦結(jié)構(gòu)。計(jì)算機(jī)可以擴(kuò)展到任何物理尺寸，允許更多的硬件投入工作，更大的工作內(nèi)存（RAM）和長(zhǎng)期內(nèi)存（硬盤(pán)存儲(chǔ)），它具有比我們自己更大的容量和精度。

可靠性和耐用性。不僅是計(jì)算機(jī)的記憶更精確。計(jì)算機(jī)晶體管比生物神經(jīng)元更準(zhǔn)確，并且它們不太可能惡化（并且如果它們退化了還可以被修復(fù)或替換）。人類(lèi)的大腦也很容易疲勞，而計(jì)算機(jī)可以不間斷運(yùn)行，性能達(dá)到最佳狀態(tài)的情況下可以每周7天每天24小時(shí)運(yùn)行。

可編輯性，可升級(jí)性和更廣泛的可能性。與人腦不同，計(jì)算機(jī)軟件可以接收更新和修復(fù)，并且可以輕松地進(jìn)行實(shí)驗(yàn)。升級(jí)也可能擴(kuò)展人類(lèi)大腦薄弱的領(lǐng)域。人類(lèi)視覺(jué)軟件非常先進(jìn)，但其復(fù)雜的工程能力相當(dāng)?shù)汀Ｓ?jì)算機(jī)可以在視覺(jué)軟件匹配人類(lèi)視覺(jué)，但也可以在工程和任何其他領(lǐng)域同樣進(jìn)行優(yōu)化。

集體能力。人類(lèi)在建立一個(gè)龐大的集體智慧時(shí)壓倒了其他所有物種。從語(yǔ)言的發(fā)展和大型密集社區(qū)的形成開(kāi)始，通過(guò)寫(xiě)作和印刷的發(fā)明，到現(xiàn)在通過(guò)互聯(lián)網(wǎng)等工具得到加強(qiáng)，人類(lèi)的集體智慧是我們能夠遠(yuǎn)遠(yuǎn)超過(guò)所有其他物種的主要原因之一。計(jì)算機(jī)將比我們做的更好。運(yùn)行特定程序的全球人工智能網(wǎng)絡(luò)可以定期與自身同步，以便任何一臺(tái)計(jì)算機(jī)學(xué)到的任何東西都可以立即上傳到所有其他計(jì)算機(jī)。這個(gè)群體還可以作為一個(gè)單元來(lái)實(shí)現(xiàn)一個(gè)目標(biāo)，因?yàn)闆](méi)有不會(huì)像我們?nèi)祟?lèi)那樣，存在不同的意見(jiàn)、動(dòng)機(jī)和私利。

人工智能很可能通過(guò)編程進(jìn)行自我提高而達(dá)到AGI，它不會(huì)將“人類(lèi)水平的智能”視為一個(gè)重要的里程碑 - 從我們的角度講，它只是一個(gè)相關(guān)標(biāo)記 - 并且沒(méi)有任何理由在達(dá)到我們的智力水平后“停止”。而且鑒于AGI相對(duì)于人類(lèi)的優(yōu)勢(shì)，及時(shí)是與人類(lèi)智力相當(dāng)?shù)腁GI也會(huì)有優(yōu)勢(shì)，很明顯它只能在短暫的時(shí)間內(nèi)攻擊人類(lèi)智能，然后才能加速進(jìn)入優(yōu)于人類(lèi)智能的領(lǐng)域。

當(dāng)它發(fā)生時(shí)，可能會(huì)嚇得我們屁滾尿流。原因在于，從我們的角度來(lái)看，A）雖然不同種類(lèi)的動(dòng)物的智力各不相同，但我們對(duì)任何動(dòng)物的智力所了解的主要特征是它遠(yuǎn)低于我們的智力，B）我們認(rèn)為最聰明的人比最笨的人聰明的多。有點(diǎn)像這樣：

因此，當(dāng)人工智能向我們的智能向上逼近時(shí)，我們會(huì)將其視為動(dòng)物而言，它只是變得更聰明了。然后，當(dāng)它達(dá)到人類(lèi)最低的能力時(shí) - 尼克博斯特羅姆使用“村里的白癡”了這一詞 - 我們會(huì)說(shuō)，“哇哦，這就像一個(gè)愚蠢的人類(lèi)。真可愛(ài)！“唯一的事情是，在大范圍的智能中，所有人類(lèi)，從村里的白癡到愛(ài)因斯坦，都在一個(gè)非常小的范圍內(nèi) - 所以剛剛擊敗村里的白癡水平并被宣布為AGI后，它會(huì)突然比愛(ài)因斯坦更聰明，并且我們不知道是什么擊敗了我們:

那會(huì)發(fā)生什么。。。。。。之后呢？

我希望你享受正常的時(shí)間，因?yàn)檫@是當(dāng)這個(gè)話題變得不正常和可怕的時(shí)候，它會(huì)從這里繼續(xù)前進(jìn)。我想在這里暫停并提醒你，我要說(shuō)的每一件事都是真實(shí)的科學(xué)，都是對(duì)未來(lái)的真實(shí)預(yù)測(cè)，這些預(yù)測(cè)來(lái)自一大批最受尊敬的思想家和科學(xué)家，請(qǐng)記住這一點(diǎn)。

無(wú)論如何，正如我上面所說(shuō)，我們目前大多數(shù)的AGI的模型都是通過(guò)人工智能的自我改進(jìn)來(lái)實(shí)現(xiàn)目標(biāo)。一旦進(jìn)入AGI時(shí)代，即使一些通過(guò)不涉及自我改進(jìn)的方法形成和發(fā)展的系統(tǒng)現(xiàn)在也足夠智能，如果他們?cè)敢猓涂梢蚤_(kāi)始自我改進(jìn)了。

在這里我們得到了一個(gè)強(qiáng)烈的概念：遞歸的自我改善。它的工作原理如下 -

在一定水平上的人工智能系統(tǒng) - 比方說(shuō)人類(lèi)村莊的白癡 - 被編程的目標(biāo)是提高自身的智能。一旦它做到了，它就會(huì)變得更聰明了 -也許在這一點(diǎn)上它已經(jīng)處于愛(ài)因斯坦的水平 - 所以現(xiàn)在當(dāng)它用愛(ài)因斯坦級(jí)別的智力改善自身智力時(shí)，會(huì)變得更加容易，它可以實(shí)現(xiàn)更大的飛躍。這些飛躍使它比任何人類(lèi)都聰明得多，并允許它實(shí)現(xiàn)更大的飛躍。隨著飛躍變得越來(lái)越高并且發(fā)生得越來(lái)越快，AGI在智能上飆升并很快達(dá)到ASI系統(tǒng)的超級(jí)智能水平。這被稱(chēng)為智力爆炸，并且它是加速回歸法的最終例證。

關(guān)于人工智能將在多長(zhǎng)時(shí)間內(nèi)達(dá)到人類(lèi)一般智能的問(wèn)題還存在爭(zhēng)議。對(duì)數(shù)百名科學(xué)家進(jìn)行的一項(xiàng)調(diào)查顯示，他們認(rèn)為我們更有可能達(dá)到AGI的時(shí)候是2040年- 那是25年后，這聽(tīng)起來(lái)并不那么近，直到你認(rèn)為很多在這一領(lǐng)域的思想家認(rèn)為這很可能是真的，并且從AGI到ASI的進(jìn)展情況非常迅速。這可能真的會(huì)發(fā)生：

第一個(gè)人工智能系統(tǒng)需要幾十年才能達(dá)到低水平的一般智能，但它最終實(shí)現(xiàn)了。計(jì)算機(jī)能夠像四歲的人類(lèi)一樣開(kāi)始理解周?chē)氖澜?。突然間，在達(dá)到這個(gè)里程碑的一個(gè)小時(shí)內(nèi)，該系統(tǒng)推出了統(tǒng)一廣義相對(duì)論和量子力學(xué)的宏觀物理理論，這是人類(lèi)無(wú)法確定到的事情。在那之后的90分鐘，人工智能變成了ASI，比人類(lèi)智能高出17萬(wàn)倍。

這種規(guī)模的超級(jí)智能遠(yuǎn)不是我們可以掌握的，不僅僅是一只大黃蜂無(wú)法理解凱恩斯主義經(jīng)濟(jì)學(xué)一樣。在我們的世界中，聰明意味著智商為130，而愚蠢意味著智商為85 - 我們沒(méi)有一個(gè)詞形容12，952的智商。

我們所知道的是，人類(lèi)在這個(gè)地球上的全面統(tǒng)治表明了一個(gè)明確的規(guī)則：智慧帶來(lái)了力量。這意味著我們創(chuàng)造了一個(gè)ASI的時(shí)候，它將成為地球上生命歷史中最強(qiáng)大的存在，包括人類(lèi)在內(nèi)的所有生物都將完全聽(tīng)從他的意愿 - 這很可能會(huì)在未來(lái)幾十年內(nèi)發(fā)生。

如果我們的大腦能夠發(fā)明wifi，那么比我們聰明100倍或1000倍或10億倍的東西應(yīng)該沒(méi)有任何問(wèn)題在任何時(shí)候以任何方式控制世界上任何一個(gè)原子的位置 - 我們所有的一切考慮就像魔法，我們想象的這種力量是至高無(wú)上的神，對(duì)于我們來(lái)說(shuō)，翻轉(zhuǎn)燈開(kāi)關(guān)對(duì)于ASI來(lái)說(shuō)是一項(xiàng)平凡的活動(dòng)。創(chuàng)造技術(shù)以扭轉(zhuǎn)人類(lèi)衰老，治愈疾病和饑餓甚至死亡，重新編程天氣以保護(hù)地球上的生命的未來(lái) - 所有這些問(wèn)題都都突然變得可能實(shí)現(xiàn)。也有可能是地球上所有生命的直接結(jié)束。就我們而言，如果ASI成為現(xiàn)實(shí)，那么現(xiàn)在地球上就會(huì)有一位無(wú)所不能的上帝 - 對(duì)我們來(lái)說(shuō)，最重要的問(wèn)題是：

它會(huì)是一個(gè)好神么

人工智能革命：人類(lèi)是永生還是滅亡，我們拭目以待。