我曾在我的家鄉奧斯汀舉辦的西南偏南大會（SXSW）上發表過關於人工智能的演講。不久之後，就有抗議者舉著「不要機器人」和「人類才是未來」的標牌大喊「拒絕機器人」。那一年是2015年，相似的場景還出現在1980年、1967年、1950年甚至更早的19世紀。歷史上，技術進步既讓我們感到欣喜，又讓我們對未來機器在人類文化中所扮演的角色感到深深的擔憂。
歷史上，每一項具有時代意義的技術進步在帶來機器自動化的同時，都會引起我們情緒上的大起大落。兩個多世紀前，蒸汽機的發明使社會陷入了混亂，文化評論家、預言家和企業紛紛試圖解析「機器問題」。與英國青年一代運動相關的作家與勞動者站在了一起，他們將手工製作上升到愛國情懷的高度。蒸汽機和動力織布機等機器成了泯滅人性的象徵，甚至威脅著國民品格。
算盤、錘子和鋤頭用得真順手，
樸實的人們依靠辛勤的汗水生活。2
在英國脫歐的背景下，這首《歡樂的老英格蘭》顯得格外合拍。反對技術創新者會讓我們不可避免地懷念和憧憬簡單的生活。正是在工業革命這場巨大變革的中期，瑪麗·雪萊（Mary Shelley）在1818年出版了她的經典恐怖小說《弗蘭肯斯坦》（Frankenstein）。這本小說通過第一位現代科學家維克多·弗蘭肯斯坦（Victor Frankenstein）的視角探討了在技術不斷進步的社會中產生的非人道力量。
● ○ ●
瑪麗·雪萊寫那本小說時只有18歲。1815年的夏天是有氣象記錄以來最冷、最沉悶的一個夏季，一座位於印度尼西亞的大火山爆發，噴出了大量的火山灰。這些火山灰在第二年來到了北半球，而瑪麗·雪萊當時被困在瑞士的一棟高級別墅中，有一群志同道合的朋友做伴，包括拜倫勳爵、她的繼妹克萊爾·克萊爾蒙特（Claire Clairmont）以及她的愛人珀西·雪萊（Percy Shelley）。在度過了無數個雷雨交加的夜晚之後，拜倫勳爵建議大家一起寫鬼故事。瑪麗·雪萊剛剛離開她父親家不久，而她的父親是著名的進步主義思想家威廉·戈德溫（William Godwin）。她看過當時偉大科學家的作品，吸收瞭解剖學、電療學（一門研究用電流使肌肉萎縮的學科）等領域的各種思想。在拜倫勳爵的建議下，瑪麗·雪萊以自己的知識和靈感創造了維克多·弗蘭肯斯坦這個角色。3
在20世紀的電影和舞台劇中，弗蘭肯斯坦的怪物頭上的脈衝電極和結節被渲染得更加誇張，但在雪萊的原版小說中，科學家維克多·弗蘭肯斯坦利用基本的生命原理，為沒有生命之物注入了生命。她甚至還特意強調弗蘭肯斯坦在工作中使用的是科學方法，但她對看到怪物那一刻的描述借鑒了古希臘神話中的普羅米修斯或《聖經·舊約》中的《創世記》：
我看到這瀆神的信徒臉色蒼白地跪在一堆東西旁邊。我看到那如夢魘般的景象，一個男人探身而起，隨後，伴著那些動力設備的工作，顯現了生命的跡象，混合著僵硬的、半生半死的運動。這當然很可怕，因為再也沒有什麼比人類試圖創造發明、嘲諷並效仿造物主的偉大規則更恐怖的了。4
在這段文字中，我們看到的是一個重大的哲學困境，我們不安的根源：誰是造物主？我們所創造的東西什麼時候才能真正具有自我意識？
《弗蘭肯斯坦》將這些問題拋給了不斷進步的現代社會，但只要人類在不停地創造，我們就會繼續與我們的創造者發生身份衝突。全球的許多影響力巨大的宗教都圍繞「無偶像論」頒布了命令與行為準則，禁止以任何物質代表生物和神明。《希伯來聖經》中有無數反對偶像崇拜的段落，比如第二戒律：
除了我之外，你們不可有別的神。5你們不可為自己建造任何偶像，也不可仿造天地間和水中的萬物。
你們絕不可向任何偶像跪拜，我是主，我是你們的上帝，我是忌邪的上帝，我必降禍於罪人的子孫，恨我的人，我要追討他們的罪，直到第三四代子孫。
而古希臘神話故事中則充滿了各種具有代表性的自動化機械。6在古希臘神話中，火神赫菲斯托斯等角色的發明都是作為奇妙的創新受到讚頌的。赫菲斯托斯甚至設計了全世界首個全自動侍者，侍者通過20個輪子在奧林匹斯山上移動，在眾神沉溺於美酒時服侍他們。
歷史學家兼作家帕梅拉·麥考達克（Pamela McCorduck）用了大半生時間記錄人工智能的歷史，從兩個角度分析了我們所創造的生命機器，它們既奇妙、實用，同時又兼具狂妄性和危險性，直到今天，這兩個極端仍是衝突的根源。7我們敢篡奪這一神或大自然的力量嗎？即便我們敢於這麼做，我們是否做好了面對意外結果的準備呢？
《創世記》的故事講述神用泥土塑造了亞當的身，然後將自己的靈魂吹入泥土。然後，神教會了亞當一切事物的本質。由於具有了知識和知識所帶來的思考能力，神將亞當視為最高等的生物。在這個故事中，神命令天使和惡魔伊比利斯（相當於撒旦）服從這個具有自我意識的新生命。當天使天真地詢問為什麼要服從他時，神的解釋是亞當可以學習知識。他的思想並非靜止不動，這使他能夠學習、成長和改變。因此，從這段對生命的創造性敘述中，第一種除神以外具有自我意識的生物——人，出現在了宇宙中。
當然，我們今天不研究神話和寓言，我們要談的是人工智能的爆炸性發展，其發展速度已經超越了人類理解其後果的能力，這在現實中意味著什麼？連硅谷最強大的公司似乎也在技術方面持有不同的立場。2014年，特斯拉和SpaceX（太空探索技術公司）的創始人埃隆·馬斯克（Elon Musk）在麻省理工學院發表演講，將人工智能稱為人類「最大的生存威脅」。8他在演講中指責人工智能是在「召喚魔鬼」。
「大家都熟悉這種故事，一個人拿著五芒星和聖水，然後他覺得自己拿著這些就能控制魔鬼了，」他接著說，「但這些人最後都以失敗告終。」埃隆·馬斯克並非唯一一個「拉響警報」的人。持這一觀點的知識界重量級人物還有斯蒂芬·霍金（Stephen Hawking）、比爾·蓋茨（Bill Gates）、牛津大學教授和生存主義哲學家尼克·波斯特洛姆（Nick Bostrom）以及亨利·基辛格（Henry Kissinger）。2014年，霍金對BBC（英國廣播公司）說：「全面人工智能的開發可能會給人類帶來滅絕。」 9在2015年接受硅谷熱門網站Reddit的採訪時，比爾·蓋茨表示：「我屬於擔心超級人工智能的一方。首先，機器應該代替人類完成大量的工作而不是具有超級智能。如果我們能夠有效地控制它，那結果應該會很好，但過了幾十年後，人工智能將強大到讓我們擔心的程度。我同意埃隆·馬斯克和其他人對此的看法。我不知道為什麼有些人一點都不擔心。」10
2015年下半年，馬斯克宣佈自己有意提供10億美元，用於資助一家專門致力於安全人工智能研究的新型非營利性組織。該組織名為OpenAI 11，這裡匯聚了大批該領域中天賦極高的人才，而且他們提出將公佈自己的設計與代碼。不久後，馬斯克、霍金和其他1 000名技術界的泰斗和重量級人物聯合簽署了一份呼籲禁止自動武器的公開信。12 2015年秋，那些硅谷最著名的技術公司共同建立了「人工智能聯盟」，圍繞即將到來的智能機器時代，探討所有與之相關的問題、危險和道德倫理事宜。13
然而，在本書中，我們將一同探索「反人工智能運動」如何威脅到了人類開發急需的技術，而此類技術可以解決21世紀最複雜的問題。在第二章，我將解釋為何限制人工智能或採取限量監管措施將對我們的文明造成巨大的破壞，但在討論這些問題前，我們先要將自己置身於當前圍繞著人工智能盛行的文化恐懼中。然後，我們要深入瞭解算法如何超越人類大腦，完成人類大腦難以企及的工作。機器智能到底是什麼？
● ○ ●
有一個問題我們已經司空見慣，關於人工智能的探討大多以人類為中心：它與我們有多相像？它能「冒充」人類嗎？這種思想要追溯到20世紀50年代。當時著名的數學家艾倫·圖靈（Alan Turing）（電影《模仿遊戲》就是為了紀念這位數學家而拍攝的）發表了他的論文《計算機與智能》（Computing Machinery and Intelligence）14，並且提出了今天所謂的「圖靈測試」。在「圖靈測試」中，一個人類詢問者分別與一個人類和一台機器進行交流，且交流方式僅限於通過屏幕使用純文本通道。
圖靈在論文中指出，當計算機的回答可以欺騙人類詢問者，使詢問者相信它是人類時，計算機勝利。我們仍在使用各種版本的「圖靈測試」作為人工智能獲得成功的晴雨表。當人類使用電話通話時，會傾向於認為與自己說話的是一名內布拉斯加州的友好的銷售代表，而不是計算機算法，這便是語音識別軟件程序的一次重大成功。
這是一種奇怪的自我陶醉。我們真的認為只有人類的智能才是唯一值得模仿的智能嗎？模仿真的是最終目標嗎？關於思想，機器可以教給我們很多東西，而這些思想跟人類的思想沒有任何關係。
「圖靈測試」和其他此類機器學習「模擬」指標，可能與如今的人工智能實際應用關係不大，但這些指標還是深深地吸引了文化界的關注。想一想最近所有關於人類臣服於機器強大模仿能力的電影，比如史蒂文·斯皮爾伯格（Steven Spielberg）的《人工智能》（Artificial Intelligence: AI）和斯派克·瓊斯（Spike Jonze）的《她》（Her）。
我們需要說明人工智能如何以截然不同的方式設計思想。我們可能認為我們已經理解了人類世界的「認知多樣性」，但無論是哪一流派的人類思想者，都擁有用來激發恐懼的杏仁核、激發未來責任感的前額葉皮層以及將我們眼中的數據轉換成圖像的視覺皮層。機器的工作模式截然不同，甚至其基板使用的都是硅，而不是組成人類大腦基礎的碳。因此，機器思維與生俱來的優勢就是速度、不受約束的能耗、無限的記憶（短期和長期記憶），這些都與生物意識有著本質區別。我們目前的人工智能發展到了什麼階段？我們距離真正的人工智能還有多遠？