我聽說(shuō)未來(lái)的計(jì)算機(jī)人工智能會(huì)變得比我們還要聰明得多，它們將奪走我們所有的工作和資源，而人類將會(huì)滅絕。這是真的嗎？
這是我每次談?wù)撊斯ぶ悄軙r(shí)最常碰見的問題。提問者是認(rèn)真的；他們的擔(dān)心部分源自于一些會(huì)問自己同樣問題的專家。這些人都是當(dāng)今世上中最聰明的一部分群體，比如史蒂芬·霍金、埃隆·馬斯克、馬克思?泰格馬克（譯注：Max Tegmark，MIT 物理學(xué)家，著有《平行世界，平行生命》）、薩姆·哈里斯（譯注：Sam Harris，《自由意志》一書作者、神經(jīng)科學(xué)家、哲學(xué)家）和比爾·蓋茨，而他們認(rèn)為這種情況很可能是真的。最近，在一個(gè)有關(guān)人工智能問題的討論會(huì)上，一組由九位最知名的人工智能大師組成的專家小組一致認(rèn)為，這種超人類智能是不可避免的并且離我們并不遙遠(yuǎn)，可在這里查看他們的討論：
然而，超人類人工智能接管人類的情況是有五個(gè)假設(shè)作為前提的，如果一一對(duì)其進(jìn)行檢查的話會(huì)發(fā)現(xiàn)它們并不基于任何證據(jù)。這些說(shuō)法在未來(lái)可能是真的，但到目前為止還沒有證據(jù)作為依托。即將成真的超人類智能背后的這些假設(shè)是：
如果對(duì)一個(gè)超人類人工智能接管人類的預(yù)期是建立在五個(gè)沒有證據(jù)基礎(chǔ)的關(guān)鍵假設(shè)之上，那么這個(gè)想法更類似于一個(gè)宗教信仰——一個(gè)神話（myth）。在下面的段落中，我分別擴(kuò)展了對(duì)這五個(gè)反假設(shè)的證據(jù)，并舉例說(shuō)明，事實(shí)上一個(gè)超人類人工智能就是一種神話。
一
關(guān)于人工智能最常見的誤解始于對(duì)自然智能的普遍誤解。這種誤解認(rèn)為智能是單一維度的。大多數(shù)技術(shù)人員往往以 Nick Bostrom 在他的書《超級(jí)智能（Superintelligence）》中所使用的方法——作為表示幅度增加的一個(gè)逐字的單維線性圖——來(lái)描繪智能。其中一端是低智能，比如某種小動(dòng)物；另一端是高智能，比如一個(gè)天才——就好像智能是一個(gè)以分貝來(lái)表示的聲音大小等級(jí)。當(dāng)然，之后就很容易進(jìn)行延伸想象，智能的響度繼續(xù)增長(zhǎng)，最終超過我們自己的高智能，成為一個(gè)超越人類的超級(jí)響亮的智能方式——一聲咆哮！——甚至可能越出圖表的范圍。
這種模型的拓?fù)浣Y(jié)構(gòu)相當(dāng)于一個(gè)梯子，因而智能的每一個(gè)梯級(jí)就是一層層地遞增。劣等動(dòng)物位于我們下面的較低層，而更高級(jí)別的智能（也即人工智能）將不可避免地超越我們而登上更高的階梯。這種情況發(fā)生的時(shí)間尺度并不重要；重要的是排名——這是智能增加的指標(biāo)。
這個(gè)模型的問題在于其本身是虛構(gòu)的，就像進(jìn)化的階梯。在達(dá)爾文之前人們假定自然世界有一架生物存在（being）階梯，其中低等動(dòng)物居于人類下面的階梯上。即使在達(dá)爾文之后，一個(gè)非常普遍的概念是進(jìn)化階梯，其中魚類進(jìn)化成爬行動(dòng)物，然后進(jìn)入哺乳動(dòng)物階段，繼而進(jìn)化為靈長(zhǎng)類動(dòng)物，最后進(jìn)入人類階段，每一次進(jìn)化都比之前更加高級(jí)（當(dāng)然也更加聰明）。所以智能的階梯與存在的階梯是平行的。但這兩種模式都提供了一個(gè)完全不科學(xué)的觀點(diǎn)。
一張更精確的物種自然進(jìn)化圖是一個(gè)向外輻射的圓盤，就像由德克薩斯大學(xué)的 David Hillis 首次設(shè)計(jì)的這張圖（上圖）那樣，它是基于 DNA 的。這個(gè)深度宗譜曼陀羅以最原始的生命形式從中間開始，然后在一段時(shí)間之后向外分支。時(shí)間向外移動(dòng)，使得居于該星球上最近期的生命物種構(gòu)成了此圈圓周的周長(zhǎng)。這幅畫著重強(qiáng)調(diào)了一個(gè)難以理解的進(jìn)化方面的基本事實(shí)：現(xiàn)世存在的每一個(gè)物種的進(jìn)化程度都是相等的。人類與蟑螂、蛤、蕨類植物、狐貍和細(xì)菌一起存在于這個(gè)外環(huán)上。其中的每一個(gè)物種都經(jīng)歷了一個(gè)跨度三十億年的成功繁殖的完整鏈條，這意味著現(xiàn)在的細(xì)菌和蟑螂與人類的進(jìn)化程度是同等高級(jí)的。并不存在階梯。
