請與我一起回顧最初發表在美國海軍學院期刊《報告》（Proceedings）上的一個思想實驗，該實驗由我的朋友兼合作夥伴、四星上將、美國中央司令部前副司令、現服役於美國海軍陸戰隊的約翰·艾倫將軍（John Allen）設計。32
2018年1月2日，一位船長在遭受一次突然襲擊後正在評估船的受損情況，他發現這並不是一次普通的攻擊，而是一次大規模戰略性突然襲擊。船長和船員沒有預料到此次攻擊，因為他們都沒有發現船的系統遭到了網絡攻擊。這次未被發現的網絡活動不僅破壞了傳感器，而且還「鎖住」了防禦系統，使船孤立無援。隨著一群無人機對船發起攻擊，動力學打擊一波接一波襲來。船被一套有行動目的且能夠與船發生交互的自主系統攻擊了。
不僅如此，此次攻擊的速度也令水手感到震驚。雖然船上的技術專家能夠在網絡入侵時啟動部分防禦系統，但剩下的船員只有幾秒鐘時間做出決定。幾秒鐘後，一些水手憑借有限的態勢感知設備，查明敵人的自主網絡和運動系統正在合作，但就在幾分鐘後，整個攻擊結束了。
船長得以倖免，並且勇敢地留在了艦橋，但他與許多船員都身受重傷。火勢失去了控制，船已經開始嚴重漏水。由於系統被損壞，船長無法聯繫到受傷的損害控制助理。部分敵方自主攻擊平台似乎完全瞭解應該攻擊船的什麼部位，才能造成最大破壞並且降低存活率。船長的指揮能力嚴重下降，水的漫延也已失去控制。
在對整個情況進行調查後，他意識到自己必須做出一個幾代美國船長從未做出過的決定：棄船。
戰爭方式的改變
在歷史長河中，人類的戰爭方式已經歷了數次根本性的轉變，比如騎兵的運用、線膛步槍的出現、裝甲車加空中支援以及第二次世界大戰中閃電戰執行過程中的實時無線電通信等。不同領域的技術進步共同實現了這些巨大的轉變，而今天我們又處在這一轉變的交匯處。正如伊拉克軍隊苦於應對智能精確制導武器、隱形技術和電子戰等「第二個抵消」技術一樣，如今的軍隊必須面對已發生巨大改變的戰爭。
我們可以在今天的戰爭中看到這些變革的基本輪廓。計算機視覺等技術得到了機器學習算法的輔助，包括深度學習、人工智能自主決策、先進的傳感器、部署在「邊緣」的微型高性能計算能力、高速網絡、進攻和防禦網絡能力以及其他各種人工智能能力。自主群行和傳感器數據認知分析等技術的實現將成為這一新革命的核心。所有這些能力的聚集將帶來一個令人難以置信的結果：人類在戰爭中的作用最小化。在這一即將到來的時代，我們將看到人類提供廣泛的、高級別的輸入，而機器將被用於規劃、執行和適應任務，並在沒有其他輸入的情況下做出數千個獨立決定。人類最終可能會從決策循環中退出。
超級戰爭
艾倫將軍是第一個將這種人工智能推動的、機器發動的衝突稱為超級戰爭的人。在第二次世界大戰期間，這個詞指的是包含多個戰區的全球性戰爭，但如今，這種新型超級戰爭的獨特之處在於其史無前例的速度，而正是自動化決策加上多個行動同時發生使這種速度得以實現。隨著人工智能和機器認知技術的應用，該過程將進一步提升效率。
因此，在描述未來戰爭時，將軍們會使用「超級」這個詞。在希臘語中，這個詞的意思是「超越」或「在……之上」。超級戰爭指的是一種新型戰爭，此類戰爭在一些非常重要的方面超越了我們之前所看到過的戰爭形式。在軍事領域，超級戰爭可以被重新定義為一種人類決策幾乎完全脫離OODA循環的衝突。因此，與整個OODA循環相關的時間被縮短到幾乎為零。
OODA循環
直到21世紀，戰爭行動的決策才開始不完全取決於人類的認知。雖然人類有巨大的決策潛力，但在速度、注意力和勤勉度上有所限制。正如我們之前所述，人類的決策速度存在極限，而且在做出重大決策時，「認知負擔」不可避免。在做出一定次數的決策後，人類決策者需要休息和調整，才能恢復到更高的認知水平。心理學家丹尼爾·卡尼曼（Daniel Kahneman）發表了與法官有關的這一現象的研究報告，報告表明，單一因素，比如缺少葡萄糖等，可能使人類無法正確做出裁決。疲憊的大腦會變慢，甚至停止分析思考，退回到依靠直覺的「快速思考」階段，從而可能犯錯。33正如我們之前所討論的，機器沒有這些限制。機器智能的形式類似於軟件，它可以經常在廉價的硬件上運行，並可以輕鬆複製，因此它可以實現無限次的戰術、行動和戰略決策部署。
人工智能讓「大衛」能夠殺死「巨人」
「壓制敵人」是我們在戰爭題材的文學作品中經常見到的一個短語。在軍事領域，這個短語指的是在一段時間內將兵力集中在一個有限的區域，憑借人數優勢或火力優勢使對手無法反擊或抵抗。這不一定是因為攻擊力量比整個防禦力量更強大，但肯定是因為其兵力在合適的時間出現在合適的地點。這將帶來非常重要的區別。如果可以快速「完美協調」較少的兵力，並將兵力應用於一個敵人無法加固的精確地點，那麼即便用較少的兵力也能夠取得成功。如果此類行動可以複製，那麼對方的大部隊會被有效地蠶食，並且對方會在心理上遭受打擊。兵力多的一方將無法佔據優勢，並且持續的時間越長，其兵力就會越快地減少。這就是「大衛與巨人」戰爭模型。
這個問題中的兩個關鍵變量是時間和空間，即形成和執行攻擊行動所需的時間，以及執行此類行為的空間。這兩種變量都是根據重大戰略、行動和戰術決策計算出的結果。首先要確認部署兵力的合適候選空間，選定後要計算一大批可能性，這在軍事中被稱為「分支」和「後續」。通過基於機器的決策，我們可以同時協調調動大量傳感器和狙擊手，從而快速形成或聚集兵力，並對敵人進行攻擊和後續的驅逐。這種基於機器的決策是超級戰爭的主要推動力，其效果遠遠超過了人類的控制和指揮效果。
● ○ ●
俗話說：「業餘人士討論的是戰術，專業人士討論的是物資輸送。」這句話為我們理解所有戰爭的運作方式提供了有用的指導。自古以來，發動戰爭所需的人類軍隊都需要食物、衣服和保護。人類士兵的各種需求就產生了各種物資方面的要求。部隊保護、醫療撤離和憲兵隊更是讓原本就複雜的供應鏈雪上加霜。相對粗俗地講，一個士兵＝人類智能 + 移動 + 火力。現代軍隊當然不再使用人類的肌肉作為火力，而大多數情況下，部隊轉移過程中也不會用到人類的肌肉。機器人士兵將具備這些功能，並擁有各種形狀和大小的體形。它們的需求不像人類士兵那麼豐富，它們也不像人類士兵那樣不能被拋棄。在幾乎所有情況下，人類指揮官都不會願意冒著生命危險去戰場上回收機器，這項危險的任務可能會葬送他的性命。
如今，大部分無人機都需要人類操控，只是人類飛行員不再需要登上飛機，他們可以在遠程做出決策。這雖然實用，但仍有許多缺點。第一，由於會出現延遲，如今的無人機可能只能執行部分類型的任務，很難執行高速空對空戰鬥。第二，該系統依然容易發生擁堵並讓無人機失去聯絡。最後，人類飛行員可能難以承受真實戰爭所帶來的壓力。無人機飛行員頻繁地執行任務導致創傷後應激障礙（PTSD），這已經成為當前模式的一大弊端。
真正具有自主能力的機器和機器人具有各種不同的類型和尺寸，並且搭載了人工智能，它們將成為未來超級戰爭中的士兵。它們像商業四軸飛行器一般大小，並且能夠穿越森林和曠野，還可以快速聚集、行動和隱藏。它們將配備精密的傳感器，為群體作戰和在集合地點時的視覺和決策算法提供信息。除此之外，它們還配備了各種網絡和動力負載。大部分此類系統都可以通過群集算法協調，使「一個集體」能夠完成任務並使無人機能夠提供支援且根據損失情況進行調整。
人工智能的技能與訓練
「二戰」時期的德國陸軍元帥、「沙漠之狐」埃爾溫·隆美爾（Erwin Rommel）曾說過：「一流的訓練是軍人所能得到的最好的福利。」沒有訓練，就沒有勝利。先進的軍事訓練能幫助創建戰爭中所必需的專業角色。面對人工智能技術及其帶來的超級戰爭，我們的訓練方式將出現兩種突破性的變化。第一，基於自然語言等人工智能技術的對話系統，將能夠消化幾十萬頁的手冊、指南、研究等資料。在設備維護等非戰鬥領域增強人類操作員的能力。第二，當使用完全自主的系統時，系統之間可以輕鬆複製人工智能戰術和戰略。這相當於經驗最豐富的老兵向從未參加過戰鬥的士兵實時傳達經驗和知識。另外，它們還可以快速更換技能和專業領域。一個自主飛行平台既可以在壓制敵人對空防禦體系時成為專業飛行員，又可以快速更換神經網絡控制器，從而成為全球最厲害的制空權奪取專家。另外，如果一個專家級的人工智能飛行員需要犧牲自己才能完成任務目標，那就儘管讓它去做。除了硬件之外，沒有任何損失。畢竟人工智能的「模式」，也就是這名「飛行員」的「大腦」，可以被輕鬆地複製到另一個硬件上。
人工智能系統既可以在現實世界中接受訓練，也可以使用模擬器進行訓練。AlphaGo在歷史悠久的圍棋中擊敗多位人類圍棋大師，它所使用的強化學習也被用於製造更好的無人駕駛汽車。無人駕駛汽車不需要經歷每一名人類駕駛員必須經歷的痛苦學習過程。搭載高性能神經網絡的汽車或者模擬汽車可以將其經驗和學習成果發送給所有其他汽車。這種快速的「轉移式學習」將在未來的超級戰爭中成為另一種通過人工智能實現的無可匹敵的能力。
一個新的、更好的思維實驗
由於即將到來的超級戰爭時代將出現的這些技術進步，艾倫將軍設計了另一種思維實驗幫助我們預測未來。想像一下，如果現在是2028年5月28日，新型戰艦的人工智能網絡防禦系統剛剛探測到疑似的網絡入侵，甚至可能是網絡攻擊。這種入侵無處不在，它不但可以「鎖住」戰艦的傳感器和大部分防禦系統，還可以「鎖住」戰艦的反蜂群炮台和支援系統。最初的網絡攻擊和成功的防禦在不超過一秒鐘的時間裡就完成了。防禦系統完全執行了其設計功能，因此戰艦能夠「感應」、探測到即將發生的大規模複雜集群攻擊，即動態跟蹤隱形攻擊。該系統甚至可以將威脅信息發送給艦隊中的其他船隻，使它們能夠更充分地準備保護自己。
新任艦長以及指揮所其他船員從艦橋快速移動到主甲板，他們都頭戴增強現實頭盔和船員手套，這些設備能幫助他們掌握將要面對的總體情況，並針對複雜形勢做出反應。艦長首先想到的是武器的狀態。他只有幾秒鐘時間，因為一些發起攻擊的飛行器可以達到超聲速甚至極超聲速（聲音速度的5倍）。由於威脅等級的提高，艦長已獲得高度的自治權以應對任何潛在的攻擊者。他很快通過頭盔轉到「武器狀態視圖」，這裡不斷提供來自戰艦火力控制系統的瞄準信息，一切就緒。艦長必須採取行動，因此他轉到了「狀態視圖」。他通過手勢進入虛擬現實中，然後啟動視圖並在那一刻做出了超級戰爭中仍取決於人類的一個決定：他「決定」開火。現在，在得到開火命令後，戰艦武器系統中的所有武器都轉向了戰艦外的天空。空中佈滿了各種完全自主的飛行器。其中一些戰艦武器快速奔向攻擊方向，將敵人的蜂群攻擊阻擋在戰艦之外；另一些則待在戰艦的周圍組成最後一道防線。戰艦上沒有一名美國海軍軍人看到過戰艦火力全開時的情景。當所有武器朝空中開火時，整艘戰艦戰慄、震動，發出史無前例的巨大聲響。這一刻所具有的革命性意義就如同1862年漢普頓錨地海戰時，北軍和南軍海軍用鐵甲艦永遠改變了戰爭，或者如同其後近100年「二戰」中的早期航母戰爭——艦隊行動第一次發生在視野範圍之外。
● ○ ●
讓我們回到這艘戰艦上。艦長將頭盔轉移到「目標視圖」並觀察眼前的情況。他在模擬器訓練時一直對此類工具持有一點懷疑，但現在他所看到的現實超出了他的想像。完全自主的空戰系統之間展開了生死之戰：藍色軌跡代表己方系統，紅色軌跡代表的是敵人。隨著戰鬥的開始，一個個紅色和藍色標記在幾秒鐘內以驚人的速度熄滅，這表示它們已經被摧毀，比如發生碰撞或者近距離爆炸等。戰局以極快的速度朝他的戰艦傾斜。武器官以迅雷不及掩耳之勢通過他的頭盔朝戰艦的人工智能發出命令，各種近戰武器系統萬箭齊發，其中也包括對抗敵方蜂群攻擊的自動武器系統。
第一波短兵相接震耳欲聾。敵人蜂群中的一些飛行器在戰艦上空爆炸，摧毀了戰艦的多根天線。這些飛行器顯然是在尋找特定的天線以降低船的通信能力。第二波攻擊炸毀了戰艦的主要防禦武器—— 20毫米方陣格林炮。第三波攻擊貼近海面，造成大量船員傷亡，船體也開始進水，並燃起熊熊大火。而戰艦周圍激戰正酣，動態捕捉系統自動調整武器系統，不停地開火，而在戰艦內，緊急損害控制和醫療救援措施均已啟動。
艦長快速切換到「損害控制視圖」並查看人工智能損害儀表盤，而戰艦的系統正在滅火和控制進水。憑借先進的人工智能系統，他能夠立刻看到戰艦的哪些系統已下線，哪些系統正在重啟恢復，哪些系統正通過交叉連接恢復功能和能力。戰艦的系統自動分配動力負荷，並啟動緊急系統。現在，系統可以在幾秒鐘內做出損害控制決策，而在幾年前則需要好幾分鐘，那樣會使情況變得更加危險。
最後，艦長轉到他所擔心的視圖：「船員狀態」。艦上的每名成員都穿著可以測量體溫、心率、血壓和呼吸的無線「健康狀態繫帶」，因此他可以馬上看到船員的整體狀態以及各位水手的狀態儀表盤。他在這裡停了幾分鐘，為傷亡的船員默哀。他快速瀏覽了船員情況子視圖，看到死亡者和受傷者，他清楚哪些軍官已經倒下，並開始思考如何重新建立指揮鏈。這些軍官和水手都是他寶貴的家人。通過該視圖，他可以瞭解每一名船員目前的位置。他還可以看到醫療人員正在緊張地施救，他們也配備了同樣的監控系統，可以瞭解傷亡情況，瞭解目前傷者正在接受何種急救措施，以及整艘戰艦上陣亡和受傷士兵的具體位置，便於前往實施手術。
● ○ ●
數小時後，艦長的傷口得到了處理，火被撲滅，進水情況也得到了控制。他開始反思剛才所發生的一切。他對現實感到震驚，但沒有感到恐懼。這次攻擊令人猝不及防。網絡防禦系統已經探測到第一次網絡入侵，它不僅保護了戰艦，而且推斷出此次攻擊之後更是大規模的攻擊。系統向戰艦的指揮者發出警告，提醒他們之後可能發生的情況。這種假設在一秒內形成、分析並得到驗證。在10秒內，戰艦自動啟動了戰鬥部署，艦長已戴上增強現實裝備。從那一刻起到戰鬥的爆發也就兩三分鐘時間。武器系統的自主性和戰艦的防禦系統阻止了一次複雜的網絡和自主蜂群聯合攻擊。艦長意識到，如果幾乎每一個環節都需要人類採取行動和做出決策，那麼這艘戰艦的境遇可能要比現在危險得多。他剛剛體會到了人工智能與深度學習影響下的戰爭，其發展的速度是多麼不可思議。他突然意識到自己是第一個在超級戰爭中戰鬥過的美國指揮官，但他絕不會是最後一個。
一場軍事革命
這種情況僅僅是人工智能推動下的一次戰爭革命的多種方式之一。高機動性平台結合分佈式機器智能，給軍事行動帶來了前所未有的速度和規模。人工智能技術的進步能夠從根本上改變人類的境遇，並由此深刻改變人類的戰爭。
勢均力敵的對手已經開始大力投資這些技術，甚至已經開始部署一些人工智能武器系統，如巡航導彈等。現在，自主算法有能力將危害性一般的武器系統變成無法被忽視的威脅。
正如我們的思維實驗所證明的那樣，開戰後，戰術方面的速度將大大加快，決策 –行動循環的時間將被縮短到一秒內，自主決策 –行動能力更強大的一方將具備巨大優勢。在運行層面，指揮官能夠通過人工智能算法更快速地感知、看見和干擾敵人的陣型。由此而來的結果就是，大批量複雜的、自主的武器系統應運而生，它們可以在運行深度內，同時對敵人展開攻擊。
在戰略層面，得到這種能力支持的指揮官將通過整個戰局中的傳感器看到戰略環境。智能助理、高級互動虛擬化、虛擬現實技術以及能夠快速更新地圖投影的實時顯示等人工智能輔助技術共同作用，將實時態勢感知變為現實。
這些都再度引發了我們對戰爭本質的老生常談式討論。如果我們已經處在超級戰爭的邊緣，就必須探索適應這種新衝突環境的方法，尤其是在道德層面。完全自主的機器（整個動作範圍，包括致命反應都完全自主的機器）的發展前景令許多人感到不安，因此就這一主題所展開的公開辯論中加入了一些「緩和劑」，比如「半自動」和「人類介入」等安慰性的詞語，雖然這些詞聽起來讓人舒服一些，但它們會造成誤導。它們偽裝成答案，但其實根本沒有涉及問題。如果要讓機器在各種情況下都能有效運行，那就肯定需要完全自主的系統。參與決策循環的人類眨一次眼、點一次頭都不利於正確對抗，也不利於滿足上述需求。比如，當一群無人水下航行器發現一個關鍵目標，如一艘潛艇正準備發射帶有核彈頭的導彈，同時通信受阻時，這些無人水下航行器如何能夠採取行動呢？它們在無法聯絡人類指揮官的情況下該如何消除威脅？或者它們如何自己採取行動來保護我們？
為了進一步探討此類問題，我們還需要理解，我們已經生活在一個只有依靠人工智能才能防禦部分智能導彈的時代了。比如，美國海軍艦隊目前的密集陣近防武器系統（Phalanx CIWS）帶有雷達和一台與射速極快的格林炮連接的計算機。啟動後，該系統可專用於防止船被掠海飛行的巡航導彈和其他空中威脅打擊。當一枚導彈進入距離船約2.5英里[3]的半徑範圍時，人類無法有足夠的反應時間。密集陣近防武器系統必須完全自主運行，它必須能自己追蹤導彈、瞄準並開火。
超級戰爭還將改變我們對空戰的理解。在20世紀中葉的小規模衝突中，飛行員的技術決定著生死。如果戰鬥機飛行員要開火，那就必須佔據位置和機動性上的優勢，因為目標的反擊和機動性優勢會使其無法從下方擊落對方，但在20世紀80年代和90年代，飛行員訓練的重點開始轉向超視距空戰（BVR）技術。飛行員在小規模衝突中無須看到另一架飛機上的飛行員，而是通過雷達技術發現長距離目標後發射導彈即可。最早的超視距空戰導彈模型缺少精密的傳感器和算法，但這些能力目前已經大幅進化。最新的導彈制導系統可以提供真正的「一勞永逸」（.re–and–forget）的能力。像美國先進中程空對空導彈（AMRAAM）這樣的導彈可以在沒有發射器的情況下擊中目標，即便是處於敵機目標視野範圍內也不例外。戰鬥機在導彈接近敵機前就已掉頭並消失在敵機視線外。這種技術被稱為「一勞永逸」是有原因的：武器負責思考，飛行員負責遺忘。
當然，全球戰爭中一些威脅的技術含量並不高，但即便是這些技術也需要越來越先進的自動瞄準系統。在2012年，伊朗人警告美國海軍不要將航母駛入波斯灣。他們展示了幾百艘可以在水上以極快速度行駛的水翼船。34伊朗通過此舉向美國釋放威脅信號，它們可能會讓500個甚至1 000個人乘上這些船，通過人數壓制美國的航母。由於水翼船本質上就是「自殺船」，這種戰術就如同日本在「二戰」時期的神風敢死隊飛行員戰術。這種戰術根本不可能阻止航母，但會讓許多人失去生命。
與我們未來軍事領域的例子一樣，除了人工智能之外，沒有能夠有效對抗蜂擁戰術的策略。總不可能在航母甲板上放幾十門大炮吧，即便可以這麼做，人類炮手的反應速度也無法跟上蜂擁而至的水翼船和它們所發射的武器。唯一能夠應對蜂擁戰術的就是反蜂擁，或者一個控制了美國海軍激光武器系統（LaWS）的自動瞄準系統。毫無疑問，並不是只有美國會面對這種超級戰爭。比如在2016年，中國航天科工集團公司的王常青告訴《中國日報》，中國正在開發基於人工智能的巡航導彈。他表示：「我們計劃在研發新巡航導彈時採用『即插即用』的方式，這樣我軍領導可以按照戰鬥條件和具體要求配置巡航導彈。此外，未來的巡航導彈將實現高度的人工智能和自動化。指揮官可以實時控制它們或者使用『一勞永逸』模式，甚至給飛行中的導彈增加更多任務。」35
這些軍事技術的發展傳遞出一個信息：我們需要訓練和教育年輕的與年長的領導者如何以不同的方式思考並適應這些即將到來的快速決策環境。狹義人工智能時代近在眼前，如果我們堅持讓人類介入，那必將帶來劣勢。正如我們要在後面的章節中討論的，像人工智能巡航導彈這種狹義人工智能技術必然會被應用到未來的一些衝突中，人類的介入不僅是不必要的，而且是危險的。
● ○ ●
如果人類已無須介入戰爭的一些方面，那麼普通公民該如何參與軍事技術的發展呢？為了回答這個重要的問題，我聯絡了我在美國軍方的另一位同事——前空軍官員與前美國國家安全局局長肯·米尼漢（Ken Minihan）將軍。36米尼漢將軍在美國軍隊和政府工作了50年，有著漫長而傳奇的經歷。在為比爾·克林頓政府服務期間，他是首批公開承認21世紀安全威脅的顧問之一。
他告訴我：「20年前，沒有人會不斷地討論新技術的漏洞。進入後冷戰時期後，政府因預算問題而放棄了解決這些新威脅的努力。當時我們的公司正在開發所有這些新技術，但我們沒有試圖將這些技術私有化或秘密研發。我希望隱私和安全責任能夠從政府轉移到行業，我們應當努力創造條件，讓私人企業感到責無旁貸。」
根據米尼漢將軍的描述，我們在網絡時代仍在引導這一責任的轉移。不幸的是，威脅變得越來越多。有的國家正在培養自己的網絡戰爭部隊，更不用說那些恐怖組織了，但因為隱私問題，米尼漢將軍的目標——讓私人企業承擔更多安全責任，變得更加複雜。在美國這樣的民主國家，《1984》中所描述的那種針對個人的監視會遭到民眾的強烈反對。雖然我同意公開討論所有這些問題，因為辯論是民主制度取得進步的過程中必不可少的，但我也對這種獨特話語的缺陷感到遺憾。民主國家無法像極權國家那樣運作。如果一個真正的極權國家為了自己的利益而使用並將繼續使用先進技術，那會發生什麼？在將保護公民放在第一位的同時，我們是否也應該增強政府防禦外國反對勢力的能力？
我們看到布什在任職期間對基因和干細胞研究施加了類似的限制，但他國並沒有施加此類限制，我們一直引以為傲的技術優勢已逐漸消失，而這都是因為堅持以二分法討論這個問題。我們只能在以下問題上二選一：安全或隱私，人工智能或人類，永遠的烏托邦或糟糕的反烏托邦。
「我認為安全和隱私更像是鐵軌的兩根軌道，」米尼漢將軍告訴我，「它們一個向上，一個向下，但保持對稱。它們總是同時存在，你可以根據威脅和新技術調整平衡。所以我更喜歡談論『我能相信這項技術嗎』，而不是『它安全嗎』或『它能保護隱私嗎』。」
我認為智能軟件和人工智能可以在這方面幫助建立更加細緻入微的第三種方法。比如在2013年，美國運輸安全管理局（TSA）在機場安檢口使用「反散射」身體掃瞄器，引發了群眾抗議。37它們被公眾稱為「虛擬裸體掃瞄器」，最終美國運輸安全管理局撤下了所有機器。對大部分公眾而言，信息被另一個人解讀就是侵犯隱私。
正如在本書闡述中人工智能推動了大量科學技術的發展一樣，人工智能也可以化解人們對隱私洩露的擔心。我們可以使用帶有認知軟件的身體掃瞄機器，其認知軟件能自動分析捕捉到的圖像。只有在軟件確認出現異常情況時，才會向人類顯示圖像。這能夠限制暴露在政府監視下的公民人數，從而解決很多問題。人工智能和智能軟件可以被用於實現隱私和安全之間的平衡。這種信任是我所說的更加細緻入微的討論的一個重要組成部分。開發更好的軟件和更加智能的分析技術不會解決所有安全問題，也不會毀滅我們。實際情況介於兩者之間：是的，我們可以並且應該控制科技所產生的風險，但碰巧的是，要做到這一點的最佳方式是開發更多技術，尤其是更加值得信賴的技術。
讓我們再來看一下目前馬斯克、霍金等重量級人物禁止自動武器的提議。該提議認為，種族清洗是自動武器最危險的用途之一，其危險性甚至超越了以特定類型的DNA為目標的生物武器，比如自動武器系統可以被設置為搜索特定種族的成員並消滅他們。的確，具備類似功能的無人機距離商業化已經很近，可能只需要幾千美元就能買到。如果它配備了來自像DIY Drones〔由前《連線》雜誌編輯克裡斯·安德森（Chris Anderson）創立的控制系統開發網絡論壇〕這樣的社區所提供的自主導引軟件，就可以很輕鬆地創建出這樣的系統，但這不是未來的人工智能，而是目前的人工智能。當無人機碰巧看到一個特定顏色、膚色或具有表示其種族屬性的生理特徵的人時，無人機可以通過免費提供的圖像識別軟件將這個人確認為目標。這項技術只需要一個預算有限的小型私人團體花費數周時間就能開發出來。
看到這些，你可能會認為我是站在馬斯克和霍金那邊的，畢竟這些都是可能會出現的威脅，但事實上，這項技術能夠如此方便地獲取，以致我要提出質疑了，歸根結底，這項禁令該如何執行呢？前聯合國秘書長潘基文的話就能阻止朝鮮開發自動武器？期待一個機制或一項國際公約可以有效監督此類活動是不切實際的。我再次聲明，人工智能創新已經開始並且無法被阻止。
● ○ ●
在我們最近的一次談話中，米尼漢將軍讓我產生了一些激進的想法。「當我和美國現在這代領導人交談時，」他說，「我總是會問『你們準備在智能技術上花多少錢，你們對網絡攻擊有多擔心』。我知道在工業時代如何解決這些問題，但那無法解決網絡時代的問題。這一代領導人必須站出來得出一些結論，就像你們的祖父輩們在『一戰』和『二戰』後那樣。現在的問題是：我們的策略是什麼？現在輪到你們這代人決定如何在21世紀保護我們的世界了。」我能夠回答米尼漢將軍的問題。我希望我們這代人做好準備，也就是開發出能夠控制這些潛在威脅的技術。我們無法依靠那些不可執行的禁令和條約。我們需要下一代人工智能技術。我們需要引導公眾更辯證地看待人工智能。
幸運的是，對軍人和公民而言，在計算機科學部門以及得克薩斯州的奧斯汀和硅谷等科技創業公司熱點區域之外，全新的技術發展和人工智能創新的環境正在出現。我們將在下一節瞭解到，今天的一些最先進的人工智能算法已在低摩擦係數且有即時反饋機制的領域得到了應用，比如金融市場。