讀古今文學網 > 人工智能:改變世界,重建未來 > 奇點來臨 >

奇點來臨

古德的論文發表後一年,一篇短篇小說發表在1966年3月科幻期刊《模擬科學》(Analog Science Fiction)上。《書獃子快跑》這篇小說講述了一個大腦的故事,由於被直接放進了計算機數據源之中,大腦的能力被人工增強了。這是科幻作家、數學教授及計算機科學家韋爾諾·文奇(Vernor Vinge)出版的第一本小說,小說名字直接源自「漫威漫畫」(Marvel Comics)中的頭韻玩笑。文奇隨後成了一個成功的小說家,但他仍然以1993年的紀實散文《技術奇點即將來臨:後人類時代生存指南》而聞名於世。這篇散文敘述了許多古德已經提出的超級智能機器的理念,但增加了時間軸。「30年內,我們就將獲得創造超級智能的技術方法,」文奇寫道,「之後不久,人類時代就將終結。」

「奇點」(Singularity)這個術語指的是機器在智能方面超過人類的那個點,它已經成了人工智能的一個參考,其被應用的普遍性不亞於「圖靈測試」。通常人們認為這是文奇的功勞,但實際上使用這個概念的第一位計算機科學家是約翰·馮·諾依曼。在馮·諾依曼人生的最後10年裡,他和波蘭裔美國數學家斯坦·猶拉姆(Stan Ulam)有過一次會談,他們共同參與了「曼哈頓計劃」(Manhattan Project)。猶拉姆隨後在回憶這次對話時指出,馮·諾依曼曾癡迷或者說擔心「不斷加快的技術發展與人類生活模式的變化,這看起來似乎接近了人類歷史上某個必要奇點,到了那個時候,就我們所知,與人類有關的事務會難以為繼」。

和古德一樣,韋爾諾·文奇在其1993年的文章裡並沒有得出明確的結論。如果出現奇點,他承認它的影響可能是好的,也可能是壞的。「從某個角度看,其前景符合我們很多最幸福的夢想。」他寫道:「(它很可能)營造一個無限美好的地方,讓我們能夠真正瞭解彼此,並瞭解最神秘的事物。但是從另一個角度,它也很可能造成最糟糕的情況。」

這是奇點這個術語如此貼切的一個原因。在將這個詞用在人工智能方面前,「奇點」通常用於理論物理,用來描述黑洞中央的重力中心:在這個點上,物質自行坍塌。技術奇點就像一個黑洞,對人類思維而言完全深不可測。

由於這個原因,推測通用人工智能可能將我們引向何方成了一件非常有趣的事情,但是這個話題最終淪為科幻小說的素材。這有點像汽車之父亨利·福特的揶揄:在汽車誕生之前詢問人們想要什麼,最普遍的回答可能是「快馬」。就像人們在曙光來臨前圍坐一團,猜測創造一種語言會將我們帶向何處時,他們絕不可能想到推特標籤的細微之處。因此,我們現在也想不到超級智能將如何看待世界,但是,毫無疑問它將改變世界。