2014年11月，時年43歲的特斯拉汽車和太空探索技術公司首席執行官埃隆·馬斯克在未來學網站Edge.org上發出一條在線評論。「人工智能的進步……快得出人意料，」他寫道，「除非你直接接觸DeepMind這樣的團隊，否則你根本不知道這種步伐有多快，人工智能正在以近乎指數級的速度增長。未來5年就有可能發生一些非常危險的事情，最多不會超過10年。我並不是在對著我不懂的事情高喊『狼來了』，也不是只有我一個人在考慮我們應該警惕起來。領先的人工智能公司已經在大力採取措施確保安全。它們意識到了危險，但它們是否可以規劃和控制數字超級智能，並能夠阻止惡意智能逃進互聯網，這一點還有待證實……」
幾分鐘之後，他刪除了這條消息。馬斯克有很多特點，而且許多特點都很不錯，而這些特點中絕對不包括孤陋寡聞。過去幾年間，他領導的這家電動汽車企業對多家機器智能公司進行了投資，包括上文提及的DeepMind，這是一家深度學習公司，在前面章節已經介紹過它的工作內容。馬斯克個人資產淨值約為112億美元，他說，他對人工智能進行投資不是為了獲得投資回報，而是為了獲得消息。「我喜歡密切注意人工智能的發展進程，」他對美國CNBC（全球性財經有線電視衛星新聞台）如是說道，「我認為人工智能可能會造成比較危險的後果。」
埃隆·馬斯克並非唯一擔心製造會思考的機器可能會造成尚不為人所知的危險的人。著名物理學家斯蒂芬·霍金（Stephen Hawking）是另一位表達保留意見的名人。「人們可以設想這樣一種技術，它比金融市場更聰明，發明能力比人類研究人員更強，控制能力比人類領導更強，而且可以開發我們無法理解的武器。」他在2014年5月寫道，「人工智能的短期影響由其控制人員決定，而長期影響則由人工智能是否完全被人控制所決定。」
霍金的許多觀點都與本書一直討論的人工智能的發展密切相關。如上文所說，伴隨著神經網絡的崛起，人工智能在金融市場的應用發生在20世紀80年代。在某些場合，人工智能確實證明了其無與倫比的發明能力，尤其是在處理基因算法時。人類的操控者可以只將重要的任務移交給即將管理我們生活的人工智能助理，與此同時，自人工智能出現之日起，人工智能武器的開發就一直是這個領域的目標之一。
霍金與馬斯克著重強調了所謂的通用人工智能（Artificial General Intelligence，簡稱AGI）。到目前為止，本書中描述的所有人工智能應用都屬於「狹義人工智能」或「弱人工智能」。這種稱呼與該技術是否強大無關。正如我們在前幾章看到的，今天，深度學習神經網絡比構成傳統人工智能的符號處理人工智能穩定許多倍。而「狹義」與「廣義」或「強」與「弱」之分歸結於智能的通用性。人工智能現在可以在很多特定領域打敗人類，包括下棋和在電視節目《危險邊緣》上回答問題。人工智能的應用範圍一直在不斷壯大，而且未來數十年內可能會覆蓋當前一半的就業領域。
然而，儘管不同於只在小範圍內有用的早期人工智能，這種狹義人工智能仍然可以進行擴展，從而在現實世界中發揮作用，但是這種人工智能仍然有明顯的局限性，那就是只能用於單一且嚴格限定的領域。這裡有個簡單的例子，下棋人工智能雖然可以擊敗人類象棋大師，但它們在簡單的翻譯任務中則一無是處。如果你突然要求生產iPhone的機器人去畫畫，它可能也同樣會非常失敗。即使是旨在處理多任務的人工智能助手Siri等人工智能，如果你偏離了程序所預設的腳本，它也會變得混亂。儘管這些系統已經獲得了驚人的海量數據和計算能力，但是它們缺乏基本的人類特質，比如不能從少量訓練例子中總結規律，這就是為什麼計算機科學家正在構建更多類生物學大腦算法。
那麼通用人工智能中的「通用」有什麼含義呢？與狹義、單領域人工智能應用相比，通用智能將表現出更廣的、類人的智能。「通用問題解決者」就是這樣一款人工智能。1959年赫伯特·西蒙、J. C. 肖（J. C. Shaw）和艾倫·紐維爾（Allen Newell）將一款人工智能軟件樂觀地命名為「通用問題解決者」，它能夠在很多環境中運行，甚至在許多我們沒有預測到的環境中運行。一言以蔽之，通用人工智能不是要建造思考的機器，而是要建造比我們人類更聰明的機器。