在結束這一精彩紛呈的章節之前，讓我們再次回到超級智能這一話題，繼續推斷。假如我們解決了所有理論和實際問題，掃除了所有科學和工程學障礙，最終造出一台擁有甚至超越人類智慧的計算機系統，會怎麼樣呢？
受人工智能災難電影的影響，我們的第一反應可能是它們與人類之間會爆發激烈的衝突，而且人類在這種衝突中獲勝的概率不高。說實話，這和我們想像中與外星智慧的接觸沒什麼兩樣。（電影《第三類接觸》算是個非常典型的例外。）
我對這一看法並不認同，並不是因為我對未來的發展趨勢過於樂觀。因為不難發現，我們假想自己遭到人工智能的侵略，其實是將自己的心理狀態投射到了人工智能或外星智慧身上。由於我們沒有和比人類更先進的智慧生物打交道的經驗（從與尼安德特人[1]遭遇起直到現在），所以就不由自主地會認為人工智能和我們一樣，甚至比我們更聰明。
而且，人類確實是個具有侵略性的好鬥物種。我們與其他動物一樣，將大部分時間用在與其他物種以及人類自己之間的衝突上。在物競天擇、適者生存的原則下，我們是進化的產物，這種進化鼓勵的是鬥爭，以獲取支配地位。雖然我們熱愛大自然、熱愛自然世界，但是如果深入思考你會發現，這其中是一場你死我活的生存之戰，我們生活在一個弱肉強食的野蠻世界。人類智慧也是進化的產物，當然也最為關心鬥爭及其支配地位。
將這一分析應用於人工智能，就會出現一個問題：除非我們刻意為之，否則人工智能絕對不是進化的產物。若堅持認為我們別無選擇，只能開發出具有侵略性的人工智能系統（如借助某種人工進化的形式），就等於相信我們自己也別無選擇，只能成為好鬥的物種。
不過，雖然我們是進化的產物，但我們依然有所選擇。回想第2章中的巨型拼圖問題，如果你認為人類的心智可以通過進化理論得到解釋，那就大錯特錯了。當我們大聲疾呼，譴責適者生存理論的殘酷，伸出援手幫助無依無靠的弱者時，再編造故事來說明這是幫助我們提高進化適應能力就沒有意義了，因為人類的心智遠遠超出了進化論的範疇。在電影《非洲女王號》（The African Queen）中，當亨弗萊·鮑嘉（Humphrey Bogart）對凱瑟琳·赫本（Katharine Hepburn）表示，自己的失敗無非是人類天性所致時，她回答道：「天性，奧爾納特先生，正是我們在這個世界上需要提升的東西。」時刻關注自己的所作所為，探究其中的深層次原因，這讓我們在生物進化的競賽中變得強大，並超越了其他漫無目的的競爭者。但是，沒有被植入侵略性好鬥基因的人工智能——與我們在沉著冷靜的狀態下一樣——明白，不參與這場競爭反而更好。
[1] 尼安德特人是古人類的一種，在約3萬年前滅絕。——譯者注