讓我們在這裡暫停一下並思考目前技術發展到了什麼程度。比如波士頓動力公司（Boston Dynamics）所製造的「機械騾」，還有經過編程後能從美國國家廣場到達華盛頓特區林肯紀念堂的無人機。無人機已具備了足夠的智能，可以識別自己是否碰到了一群人或動物等，還可以進入子目標狀態，找到繞過障礙的線路。在實現子目標之後，無人機會繼續執行主目標，即到達林肯紀念堂。具備較低智能的機器能夠完成簡單的、小範圍的目標，而具備較高智能的機器可以完成難度更高的、更複雜的目標。如果你詢問無人機為何要穿過廣場到達紀念堂，它不會做出任何回答。讓我們人類成為人類的特點，也就是讓我們具備通用智能的特點就是我們能為自己設定目標範圍。
廣義人工智能與狹義人工智能的本質區別之一就在於是否能夠為自己設定宏大的目標。人類社會之所以偉大，是因為所有公民都朝著有價值的目標奮鬥。如果無法設定複雜的目標並實現它們，那麼人類社會就會崩塌並停滯不前。我認為感知是一種辨別「我」與其他事物的能力，也是一種將目標視為存在的證明、設定「自我」目的的能力。
目前已經有各種狹義人工智能增強了人類的機能。計算機在開車、下棋、解方程式、識別手寫輸入等方面做得更好。我們為這些狹義人工智能提供的是意圖或者理解和設置技能目標的能力。換言之，意圖是目標的前提。目前，最複雜的目標設定工作由人類完成，而在未來，計算機也可以很好地制定宏大的意圖和目標。假設目標是向一個銀河系超星系團移民，人類甚至可能不知道這是否真的有必要，而未來的人工智能可以對此類任務進行準確的判斷。
狹義人工智能向廣義人工智能的轉變就是從沒有思想和自我意識變成有思想和自我意識的過程。當哲學家笛卡兒第一次說出「我思故我在」時，他告訴了我們一個存在的證據。思考的能力或者說思考這一行為本身出現之時，就是產生感知之時。這類似於宇宙起源時的大爆炸，第一顆物質逸出之時就是宇宙開始之時。
當機器進行第一次思考時，它就成了廣義人工智能，也就是出現了感知，出現了能夠設定宏大目標的「自我」。
即使人工智能界的領導者也很難想像這種「大爆炸」是什麼樣的，以及它可能會帶來什麼結果。貝寶（PayPal）的聯合創始人、硅谷的重要人物彼得·蒂爾（Peter Thiel）認為，我們甚至難以描述廣義人工智能以何種形態出現。在接受《紐約時報》專欄作家莫琳·多德（Maureen Dowd）的《名利場》（Vanity Fair）專訪時，蒂爾表示：「在某種意義上，人工智能問題涵蓋了人們對計算機時代的所有希望與恐懼。我認為當被逼到這些極限時，人的直覺就會崩塌，因為我們在這個星球上從沒有遇到過比人更聰明的東西。」28著名的人工智能研究者埃利澤·尤得考斯基（Eliezer Yudkowsky）在接受多德的採訪時表達了他的預測分析：「人工智能不必控制整個網絡。它不需要無人機。它之所以危險，不是因為它有槍，而是因為它比我們聰明。假設它可以從DNA信息中預測蛋白質結構，那它只需要向合成自定義蛋白質的實驗室發幾封電子郵件。很快它就會擁有自己的分子機械，然後製造出更精密的分子機械……我只希望這樣的情況不會發生。我無法準確預測我們會如何輸給人工智能，因為人工智能將比我聰明。」29
人工智能研究者對這一「大爆炸」發生的時間持不同意見。人工智能「傳教士」的代表人物、《奇點臨近》（The Singularity Is Near）的作者雷·庫茲韋爾（Ray Kurzweil）認為廣義人工智能即將出現，而像本·格策爾（Ben Goertzel）這樣的保守人士則認為我們只有投入比現在多得多的資源進行研究，才能在不久的將來實現廣義人工智能。30
不管是需要20年、70年還是200年，大部分業內人士都同意廣義人工智能即將到來，但為何那麼多科學家與技術人員把這一成就稱為零和博弈呢？我們為何堅持認為人類將輸給人工智能呢？難道我們不應該慶祝人工智能的降臨並把它視為一個奇跡嗎？人類——這一在宇宙中自然出現的生物，在一個相對較短的時期所創造出來的東西比通過138.2億年進化所產生的生物更加複雜。無論你是科學家還是普通公民，這對你來說難道不是一項大快人心的、值得慶賀的成就嗎？為何慶祝的人這麼少？隨著關於人工智能降臨的日報標題和時事短評越來越多，我們的社會陷入了焦慮和恐懼。我將我們的恐懼分成兩類，「感知機器」的出現可能會：（1）讓人類變得毫無用處；（2）殺死我們。