我們所看過的所有科幻電影和書籍將一個預期深深地植入我們的腦海中，讓我們相信某個奇點式的「臨界點」最終將會到來，到時候，通用人工智能就會出現。設備將越來越智能，直至有一天，在硅谷一間秘密研究實驗室的深處，一條消息突然出現在馬克·扎克伯格或謝爾蓋·布林的電腦顯示器上，該消息稱通用人工智能已經實現。就像厄內斯特·海明威（Ernest Hemingway）寫過的關於破產的內容，通用人工智能先是逐漸地醞釀，然後就突然誕生了。這是電影慣用的敘事手法，如詹姆斯·卡梅隆（James Cameron）的力作《終結者2：審判日》（Terminator 2: Judgment Day）裡描繪的那樣。在這部影片裡，觀眾獲悉超級計算機「天網」於美國東部時間1997年8月4日凌晨2點14分具有了自我意識。當天凌晨2點13分的時候，計算機用戶可能都對自己搜索引擎的搜索結果史無前例的精確而感到驚奇，或者對《命令與征服之紅色警報》（Command and Conquer: Red Alert）裡人工智能採取的超級戰略感到驚奇（嗨，這是1997年！）。2點15分，喀——彭——！生命終結了！
在摩爾定律主導的世界裡，計算力量的發展像鐘錶一樣可以預測，超級智能也很難掙脫這種預測。就像蘋果的新一代iPhone的發佈，人人都想知道預計的發佈日期。比如，上一章裡所提及的雷·庫茲韋爾就預測奇點會在2045年出現。
庫茲韋爾之於奇點就像史蒂夫·喬布斯之於智能手機：他們都不是第一個想到創意的人，但卻是推廣它的人。作為11家公司（包括為Siri提供語音技術支持的人工智能公司Nuance）的創始人，庫茲韋爾一直被不亞於比爾·蓋茨的權威人士贊為「預測人工智能未來的最佳人選」。《福布斯》雜誌的稱讚甚至更上一層樓，它稱庫茲韋爾是「托馬斯·愛迪生的後繼者」，甚至是「終極思考的機器」。與悲觀主義者截然相反，庫茲韋爾認為奇點對人類而言絕對是有益的：技術人員會經歷《聖經》中所形容的狂喜，在這種狂喜之中，一切問題都迎刃而解，而且我們所有人，甚至是技術大亨，也永遠都不必再運用自身的智慧了。
但是，並非所有人都相信奇點會如此神奇。正如艾倫·圖靈通過圖靈測試所指出的那樣，「機器能否思考」這一問題毫無意義，因為幾乎不可能評估出任何肯定的結果。在上一章裡，我們可以發現，認為隨著計算機的速度越來越快，計算機自然而然地會產生意識的看法有些過於簡單了。考慮到區分弱人工智能與強人工智能的難度，一些人錯誤地認為，在弱人工智能中，人工智能得到的結果是預編程後的結果，是用一種算法執行特定的一系列步驟進而獲得一個可預知的結果。這就意味著，如果訓練過程執行恰當，人工智能基本不可能產生不可預知的結果。然而，基因算法可能生成我們意料之外的解決方案。程序員以「目標函數」的方式設立了算法目標，但並不完全知道計算機會如何實現這個目標。這同樣適用於人工智能為了實現目標而創建的種種策略，和第三章所討論的強化學習領域一樣。在兩個場合裡，人類創建者都無法按部就班地預測人工智能的「自發」行為。
當涉及意識的跡象時，一切都變得更加複雜了。舉例來說，如上一章所述，如果在計算機內部成功複製線蟲的神經系統，這是否代表實現了通用人工智能？儘管這種突破可能產生種種改進現有機器學習工具的見解，但或許回答仍是：這不能代表實現了通用人工智能。線蟲的行為中可以被視為智能行為的相對較少。處於食物鏈高層的動物也是如此。儘管我們堅持認為，目前的狹義人工智能僅能在嚴格指定的領域中運行，但是這一點同樣可以適用於幾乎所有生命形式。蜜蜂可以建築蜂巢，但不能建造水壩或土堆；海狸可以建造水壩但不能建造蜂巢和土堆；白蟻能建造土堆卻不會建造蜂巢和水壩。到目前為止，在所有動物中，人類擁有的技能最通用，但我們仍有某些更為擅長的行為和較不擅長的行為。如果我們構建一個單用途人工智能，這個人工智能在一個領域中擁有「意識」和推理能力，而在其他領域中沒有「意識」和推理能力，那是否實現了通用人工智能？鑒於今天的神經網絡越來越擅長執行感知任務，卻仍然無法理解倫理等話題，這一假設十分合理。
即使假設庫茲韋爾關於指數級增長的理論繼續適用，那麼所有事物也不可能一次同時出現，更不用說制定準確的時間表了。
「他對最近幾年發展情況的預測能力令我大為震驚。」當我向傑夫·辛頓問及他對庫茲韋爾的奇點理論的看法時，他略微遲疑了一下，隨後說：「這是個諷刺。」
「看透未來就像看穿迷霧，」辛頓繼續說道，「當你置身迷霧中，咫尺距離可能看得非常清楚。如果你看向稍遠的地方，就會有些模糊。但如果你再將目光放得更遠，你根本什麼都看不到。這是因為看透迷霧的難度呈指數級增長。每穿透一段距離的迷霧都將失去一定比例的光線。」那麼，這就意味著我們完全找錯目標了嗎？並不全是。「我們的技術將越來越好。」他說，「我看不到有任何理由表明生物大腦必須成為終極的思考機器。我認為，最終他們能夠設計出比自身好的東西。那麼，問題就成了：政策是什麼以及人們決定要用技術去做什麼。如果國家掌權人希望建造入侵小國家的機器人殺手，從而不犧牲任何美國人，那麼這就是我們要面對的結果。」
但這不只是人工智能在遙遠未來的應用，或者通用人工智能的發展，它現在就帶來了挑戰。