上一章簡單回顧了近來的科學發現對自由主義哲學有何傷害，現在則該來審視這些發現對實際生活有何影響。自由主義推崇自由市場和民主選舉，是因為自由主義相信每個人都獨一無二、各有價值，而且每個人的自由選擇就是權威的本源。但在21世紀，有三項“務實”的發展，可能會讓這種信念成為明日黃花：
1.人類將會失去在經濟和軍事上的用途，因此經濟和政治制度將不再繼續認同人類有太多價值。
2.社會系統仍然認為人類整體有其價值，但個人則無價值。
3.社會系統仍然會認為某些獨特的個人有其價值，但這些人會是一群超人類的精英階層，而不是一般大眾。
讓我們仔細審視這三個威脅。第一，科技發展將使人類不再具備經濟和軍事上的用途：這一點雖然不會從哲學層面推翻自由主義，但在實際生活中，很難想像民主制度、自由市場和其他自由主義制度如何能承受這記打擊。畢竟，自由主義之所以能成為意識形態的主流，並不只是因為它的哲學論證最合理，更是因為它賦予每個人價值，這一點在政治、經濟和軍事上大有好處。在現代工業戰爭的大規模戰場、現代工業經濟的大規模生產線上，每個人都很重要。只要能拿起步槍或是扳動拉桿，每雙手都有價值。
1793年春天，歐洲各王朝派出軍隊，希望將法國大革命扼殺於襁褓之中。巴黎革命分子則宣佈全國總動員，發動第一波全面戰爭。8月23日，法國國民公會（National Convention）下令：“從現在起到一切敵人被逐出共和國領土時止，全法國人民始終處於征發狀態，以便為軍事服務。動員是普遍的。18歲至25歲的未婚公民或無子女的鰥夫應首先參軍，青年人則去打仗；已婚男子則製造武器和運送糧食；婦女則製造帳篷、衣服和服務於醫務；兒童則將舊布改成繃帶；老年人則至廣場鼓舞戰士們的勇氣，宣傳痛恨國王和共和國的統一。” 1
法國大革命最著名的文件《人權和公民權宣言》（The Declaration of the Rights of Man and of the Citizen）認定所有公民擁有同等價值，享有平等政治權利。但與國民公會所下的命令兩相對照，足堪玩味。在這歷史上的同一時刻，一方面宣告普世人權，另一方面下令不分男女老幼全國總動員，難道真是巧合？雖然學者對於兩者究竟有何確切關係還多有爭辯，但在接下來的兩個世紀中，一種維護民主的常見論點認為讓公民擁有政治權利是件好事，因為民主國家的士兵和工人會比獨裁政權中的士兵和工人表現更好。據稱，讓人民享有政治權利，就能增強動機和進取心，而這在戰場上和工廠裡都大有益處。
哈佛大學校長查爾斯·艾略特（Charles W. Eliot，任期為1869——1909年）曾於1917年8月5日在《紐約時報》發文：“民主軍隊的戰鬥力高於用貴族方式組織、獨裁方式統治的軍隊……由民眾決定立法、選舉公務員、解決和平與戰爭問題的國家，比起靠世襲或全能的神所委託的獨裁者，前者的軍隊戰鬥力也要更強。” 2
第一次世界大戰後，基於類似的理由，婦女獲得了各項權利。各國意識到女性在這場全面工業戰爭裡扮演重要角色，認為有必要在和平時期也賦予女性政治權利。因此在1918年，美國總統伍德羅·威爾遜支持女性擁有投票權，向參議院表示，在第一次世界大戰中，“若不是因為有女性在各個領域提供服務，美國或其他任何參戰國家都不可能贏得勝利；而且這裡指的不只是我們一般習於見到的女性工作領域，而是所有過去屬於男性的工作領域。如果不讓女性享有盡可能完整的權利，我們不僅會失去民眾的信任，更是咎由自取” 3 。
但到了21世紀，不論男女，大多數人都可能不再具有軍事和經濟上的價值。兩次世界大戰投入大量人力的時代已經過去，21世紀最先進的軍隊，主要靠的是尖端科技。現在的戰爭需要的不再是人數無上限的炮灰，而是精挑細選少數訓練精良的士兵，甚至人數更少的特種部隊超級戰士，加上幾個知道如何生產和使用先進科技的專家。由無人機和蠕蟲病毒組成的高科技部隊，正在取代20世紀的人海戰隊，而指揮作戰的將軍也將越來越多關鍵決定交給算法處理。
有血有肉的戰士除了行事難以預測，還容易受到恐懼、飢餓和疲勞的影響，思考及行動的速度也越來越無法趕上現代戰爭的步調。從古巴比倫的尼布甲尼撒二世到現代伊拉克的薩達姆·侯賽因，雖然科技已有各式進展，但戰爭仍然處於人類的步調。討論得花上幾小時，一場戰役得花上幾天，戰爭得拖上幾年。但網絡戰一場戰爭的時間可能只有幾分鐘。在網絡指揮中心值勤的中尉發現有異常狀況後，就算立刻致電上級，上級再立刻上報白宮，最後還是只能一聲哀歎，因為等到總統接到消息，這場戰爭早已一敗塗地。只要短短幾秒，計劃精密的網絡攻擊就能夠讓全美電網斷電，破壞航空管制中心，造成核電廠和化學工廠大量事故，干擾警察、軍隊和情報通信網絡，甚至是抹除所有金融記錄，讓數萬億美元就這樣消失於無形，沒人知道究竟誰擁有什麼。這種時候，唯一讓民眾還不會歇斯底里的原因，就是網絡、電視和廣播也全面斷線，所以大家連情況有多慘都不知道。
如果是比較小的規模，假設空中有兩架無人機正在交戰。其中一架需要先接收到遠方地堡內操作人員的命令才能開火，另一架則能完全自主開火。你覺得哪一架勝算大？假設到了2093年，已經老舊迂腐的歐盟決定派出無人機和機器人來對抗新時期的法國大革命，新的巴黎公社可能會招募所有的黑客、計算機和智能手機參戰，但大多數人大概已經都派不上用場，頂多只能當人肉盾牌。這是事實：在今天的許多不對稱衝突中，大多數公民只能作為各式先進武器的人肉盾牌。
圖43 左圖：1916年，索姆河戰役（Battle of the Somme）中的作戰士兵；右圖：無人機
此外，就算不管勝敗問題，單單為了正義，也該支持用機器人和無人機取代士兵和飛行員。人類士兵可能犯下謀殺、強姦、劫掠等罪行，而且就算他們守規矩，誤殺平民仍然在所難免。相較之下，如果是搭載倫理算法的計算機士兵，遵守國際刑事法院最新規約的可能性就高多了。
經濟領域也有相同情形，能夠舉起錘子或按下按鈕的能力已經不如以往有價值。這也就危害了自由主義和資本主義之間重要的合作關係。在20世紀，自由主義認為倫理和經濟能夠兼得，保護人權和自由既是倫理道德的必要之舉，也是經濟發展的關鍵因素。自由主義認為，英美法等國正是因為開放經濟和社會而繁榮，而如果土耳其、巴西或中國也想達到同樣程度的繁榮，就該起而傚法。許多甚至是絕大多數的專制君主或軍人政府，也是出於經濟而非道德因素，才最終願意走向開放。
到了21世紀，自由主義的影響力將會大不如前。隨著大眾在經濟上不再重要，僅靠倫理道德，是否足以保護人權和自由？無法從中獲得經濟利益後，精英階層和政府還會認定每個人都有價值嗎？過去有許多事情只有人類才能做得到，但現在機器人與計算機正迎頭趕上，可能很快就會在多數的任務上超越人類。確實，計算機的運作方式與人類的行為方式非常不同，而且看來短期內計算機也不會變得更像人類，特別是應該並不會獲得意識或是具備情緒和感覺。過去半個世紀，計算機智能（computer intelligence）已經有了巨大進展，但在計算機意識（computer consciousness）方面卻仍在原地踏步。據我們所知，2016年的計算機並未比20世紀50年代的計算機原型意識更強。然而，一場重大革命一觸即發。“智能”即將開始與“意識”脫鉤，人類因此面臨失去經濟價值的危險。
高度的智能與發達的意識一向是兩個形影不離的概念。必須是具有意識的個體，才能執行需要高度智能的任務，例如下棋、開車、診療，或是辨認出恐怖分子。然而，我們正在開發新型的“無意識智能”，做起這些事來比人類更快更好。原因在於，這些任務是基於“模式識別”，而無意識的算法很快就能在這一點上超越人類。
科幻電影通常假設計算機如果想趕上甚至超越人類的智能，就必須發展出意識。但真正的科學卻有另一種看法。想達到超級智能可能有多種方式，並不是每一種都需要通過意識。數百萬年來，生物進化一直順著意識這條道路緩緩前行，但非生物的計算機卻可能完全不會走這條窄路，而是走向另一條通往超級智能的捷徑。這就產生了一個新問題：智能和意識，究竟哪個才真正重要？在兩者仍然攜手同行時，討論兩者的價值孰高孰低，大概只會是哲學家的有趣消遣。但在21世紀，這正成為一個急迫的政治和經濟問題。至少對軍隊和企業來說，答案再簡單不過：智能是必要的，但意識可有可無。
軍隊和企業需要具有智能的代理人才有辦法運作，但這樣的代理人卻不見得需要有意識和主觀體驗。舉例來說，如果是有血肉之軀的出租車司機，個人有意識的體驗絕對比毫無感覺的自動駕駛汽車豐富。出租車司機可以一邊在首爾繁忙的街道上開車，一邊享受音樂。他抬頭望見星空，思考著宇宙的奧秘，內心因敬畏豁然開朗。而看到自己的小寶寶跨出第一步，他的眼睛也可能充滿喜悅的淚水。只不過，這一切都不是社會系統需要出租車司機具備的特質。社會系統需要的只是把人從A點運到B點，而且要最快、最安全、成本最低。就這一點而言，自動駕駛汽車很快就能做得比人類司機更好，就算它不能享受音樂，也不會因為存在的奧秘而深感敬畏，又有什麼關係呢？
我們回想一下，馬匹在工業革命開始後命運如何。任何一匹農場裡的馬，不論是在嗅覺、愛的能力、認人的能力、跳過柵欄的能力或是其他上千件事情上，絕對都遠高於史上首款平民汽車福特T型車，或是價值百萬美元的蘭博基尼。然而，馬匹仍然被汽車取代，原因就在於汽車在社會系統真正需要的那少數幾個領域中勝出。出租車司機很有可能也會步馬匹的後塵。
事實上，如果規定所有車輛都不得由人駕駛，並將整個交通控制權交給計算機算法，就能將所有車輛連接成單一網絡，大大降低車禍發生率。2015年8月，谷歌實驗中的無人駕駛汽車發生車禍。當時這輛車正接近一個十字路口，發現有位行人想過馬路，於是剎了車。但接著這輛車就遭到後方車輛追尾，後面那輛車的人類司機心不在焉，可能正思索著宇宙的奧秘，結果就忘了看路。如果兩輛車都是由互相連接的計算機來指揮，這種事就不可能發生。控制駕駛的算法能夠清楚掌握每輛車在路上的位置和行動方向，絕不可能允許自己操縱的兩輛車就這樣相撞。如果能有這樣的系統，就能大幅節省時間和金錢，並且拯救人的生命；只不過，這也會剝奪人類開車的體驗，砍掉幾千萬人的工作機會。 4
一些經濟學家預測，人類若不能變得更強大，遲早會變得完全沒有用途。機器人和3D打印已經開始取代人力，就像以前的製衣等手工業，而高智能的算法也即將在白領職業中掀起同樣的風潮。不久之前，銀行工作人員和旅行社工作人員似乎還不受自動化影響，但現在他們卻瀕臨失業。如果我們只要用智能手機就能買到機票，為何還需要旅行社人員？
股票交易員同樣面臨這種危險。現在大多數的金融交易都已經通過算法來管理，只要一秒，能處理的數據量就比個人花上一年處理的數據量還要大，而且瞬間就能做出反應。2013年4月23日，敘利亞黑客入侵美聯社官方推特賬戶。當天13點07分，他們發出推文，稱白宮遭到攻擊、奧巴馬總統受傷。各個持續監控所有新聞媒體的交易算法瞬間做出反應，瘋狂拋售股票。道瓊斯指數如同自由落體，短短60秒大跌150點，相當於有1360億美元瞬間蒸發！13點10分，美聯社澄清，表示該推文並不屬實。於是算法開始倒車，到了13點13分，道瓊斯指數幾乎已經完全收回先前的損失。
2010年5月6日，紐約證券交易所還經歷過更劇烈的震盪。在14點42分到14點47分這不過五分鐘的時間內，道瓊斯指數狂跌1000點，1萬億美元煙消雲散。但接著，只花了三分多鐘，指數就回到了狂跌前的水平。把我們的錢交給超高速計算機程序來操作，就是會發生這種事。這次事件被稱為“閃電崩盤”（Flash Crash），而專家還在努力研究這一切究竟是怎麼回事。他們知道一定是算法出了問題，但無法確認錯在哪裡。美國部分交易商已經對算法交易（algorithmic trading）提起訴訟，認為這種做法是對人類的歧視，人類在反應速度上絕不可能與之匹敵。僅是討論這是否真正構成侵權，就會給律師帶來大量的工作，當然也有大量的收入。 5
這裡講的律師也不一定是人。在電影和電視上，似乎律師整天在法庭上喊著“反對”，然後發表慷慨激昂的演講。然而，大多數普通律師得花上最多時間的，反而是翻閱海量文件，尋找判例、漏洞，或是那一絲絲可能相關的證據。有些得忙著找出某人被殺的當晚究竟發生了什麼事，也有些忙著寫出厚度驚人的商業合約，確保客戶避開任何目前可知的風險。如果有一天，複雜的搜尋算法只要一天時間，找到的判例就能比一個人花一輩子找到的還要多，而且只要按個按鈕進行腦部掃瞄，就能戳破所有的謊言和欺騙，這些律師該何去何從？僅靠觀察臉部表情和說話語調，就算是經驗極其豐富的律師和偵探，也很難準確判斷對方是否心口一致。然而，說謊用的腦部區域和說實話的腦部區域大有不同，雖然目前尚未實現，但已經可以想像，在不太遙遠的未來，功能性磁共振成像掃瞄就能用作幾乎絕對精準的測謊議。這樣一來，幾百萬的律師、法官、警察和偵探還能做什麼？豈不是得回學校再學個新的專業？ 6
但等到他們進了教室，卻很可能發現等著他們的還是算法。Mindojo之類的公司，正在開發互動算法，不只能教授數學、物理、歷史，還能同時研究教授對像這個人。這種數字教師會仔細監測我答了什麼，花了多長時間。一段時間後，它們就能判斷出我個人獨特的優缺點，也知道什麼能讓我精神一振，什麼會叫我眼皮下垂。它們可以用最適合我人格類型的方式來教我熱力學或幾何學，無須擔心這種方式並不適合其餘的99%的學生。這些數字教師永遠不會失去耐心，永遠不會對我大吼大叫，也永遠不會罷工。問題在於，都已經有了這樣有智慧的計算機程序，我為什麼還需要學習熱力學或幾何學？ 7
就連醫生也無法倖免。大多數醫生最主要的任務，就是正確診斷疾病，制定最好的治療方案。如果我因發燒、腹瀉去診所，病因可能是食物中毒。然而，同樣的症狀也可能是因為腸胃病毒、霍亂、痢疾、瘧疾、癌症，或是什麼未知的新疾病。醫生只有幾分鐘時間就要做出正確的診斷，因為我的保險就只付得起這麼多時間。所以，醫生只能問幾個問題，或許再快速做個簡單檢查，接著就得用這少得可憐的信息，結合我的病史以及所有人類的疾病來做出判斷。唉，不管醫生再怎麼認真，又怎麼可能記得住我以前生過什麼病、做過什麼檢查？同樣，沒有哪位醫生能夠熟悉每種疾病和藥物，也不可能讀過醫學期刊上的所有最新文章。最重要的是，醫生如果累了、餓了，甚至生病，都會影響判斷。也就難怪醫生有時會誤診，又或是給出的並非最理想的療法。
現在讓我們來看看IBM著名的超級計算機“沃森”，這套人工智能系統2011年在電視益智搶答節目《危險邊緣》（Jeopardy!）中獲勝，擊敗該節目史上最強的兩位參賽者。而目前“沃森”的工作則嚴肅許多，主要就是診斷疾病。像“沃森”這樣的人工智能，比起人類醫生會有某些巨大的潛在優勢。第一，人工智能可以將史上所有已知疾病和藥物的信息全部存在數據庫裡。而且這種數據庫還能每天更新，不僅包括最新研究結果，還能接收到世界上所有相關診所和醫院收集到的醫療統計信息。
圖44 2011年，IBM的“沃森”在《危險邊緣》中擊敗兩位人類對手
第二，“沃森”不僅能熟知我的整個基因組、完完整整的病史，甚至連我的父母、兄弟姐妹、表親、鄰居和朋友的基因組和病史，它也一樣瞭如指掌。“沃森”能立刻知道我是不是最近去過熱帶國家，是否胃部感染痼疾，家族是否有腸癌病史，又或者是不是最近全城的人都在抱怨腹瀉。
第三，“沃森”永遠不會說它累了、餓了或病了，它能隨時為我診斷。我可以舒舒服服坐在沙發上，回答幾百個問題，告訴“沃森”我究竟感覺如何。對大多數患者來說（或許除了疑病症患者），這會是個天大的好消息。但如果你是今天進醫學院學習，希望自己在20年後能當個家庭醫生，或許就該重新考慮。有了這樣的“沃森”，哪還有福爾摩斯出場的機會？
這種威脅影響的不僅是家庭醫生，就連專科醫生也無法倖免。而且事實上，鑽研於相對專精領域（如癌症診斷）的醫生，可能更容易被取代。最近一項實驗中，計算機算法能夠正確診斷90%的肺癌病例，但人類醫生的正確率只有50%。 8 所謂的未來，其實已經來臨。目前，用專門算法處理電子計算機斷層掃瞄（CT）和乳房X射線照相檢查已是常規，不僅能夠為醫生提供參考意見，有時還能抓到醫生未注意到的腫瘤。 9
目前仍有許多技術問題，讓“沃森”及類似的人工智能不可能明天一早就忽然取代大多數的醫生。然而，雖然這些技術問題確實棘手，解決後卻是一勞永逸。人類醫生的培訓是一個複雜而昂貴的過程，費時多年。而且，經過大約10年的學習、實習，終於完成整個過程之後，也只是培養出了“一位”醫生。想要兩位醫生，只能從頭再來一遍整個過程。相對地，只要解決了阻礙“沃森”的技術問題，能得到的不是一位而是無數位醫生，能夠在全世界每個角落、全年無休提供服務。因此，就算得花上1000億美元才能解決這個問題，長遠看來，還是比培訓人類醫生便宜得多。
當然，並不是所有的人類醫生都會就此消失。至少在可預見的未來，那些需要創意而不只是日常診斷的工作，還會繼續由人類完成。正如21世紀的軍隊逐步擴增精英特種部隊，未來的醫療也可能有更多等同於醫療界游騎兵或海豹突擊隊員的醫生。但正如軍隊已不再需要幾百萬士兵，未來的醫療也不會需要幾百萬名家庭醫生。
醫生面臨的情境，對藥劑師來說更是如此。2011年，舊金山就開了一家藥店，由機器人擔任藥劑師。顧客上門之後，機器人只要幾秒就能接收到這位顧客的所有處方、服用藥物的詳細信息，以及顧客可能對哪些藥物過敏。機器人會先確認新的處方不會造成過敏，也不會與其他藥物產生不良反應，接著才會為顧客配藥。開業第一年，機器人藥劑師開出超過200萬張處方，一個錯都沒犯。而平均來說，人類藥劑師配藥錯誤的比例大約占所有處方的1.7%。也就是說單單在美國，每年就會有超過5000萬張處方配錯！ 10
又會有人說，就算算法在專業技術方面優於醫生和藥劑師，卻永遠無法取代人性的溫暖。假設CT掃瞄顯示你得了癌症，你希望告訴你這個消息的是一台冰冷的機器，還是一個會注意到你情緒的人類醫生？如果還有另一台機器，能注意到人類情緒，會依據你的感受和人格特質而調整用詞，這下該怎麼選？請別忘了，生物也是由各種算法構成，而“沃森”探測人類情緒的準確度，可以和探測腫瘤的準確度一樣高。
“沃森”分析這種外部信號的準確度不僅高於人類醫生，甚至還能同時分析一般人看不到、聽不到的內部指標。“沃森”能夠靠著監測你的血壓、腦部活動和其他無數生物統計資料，清楚知道你的感覺。而在分析數百萬筆過去收集的社交信息後，“沃森”就能用最適當的音調、你最想聽的詞彙，告知你需要知道的事情。雖然人類總對自己的情緒智能洋洋得意，卻也常常受情緒影響，做出消極反應。比如你遇到一個憤怒的人，自己也開始大吼大叫；聽一個憂慮的人講話，自己也憂慮了起來。“沃森”永遠不會被這種誘惑影響，它沒有自己的情緒，所以永遠只會依據你的情緒狀態做出最恰當的反應。
這種概念目前已經應用到某些客戶服務上，比如芝加哥的Mattersight公司就設計出此類軟件。Mattersight的產品廣告詞就是：“是否曾和某個人說話，覺得真是觸動心弦？那種神奇的感受，正是人格匹配的結果。Mattersight將讓全世界的客服中心都能創造這種感受。” 11 通常，打電話咨詢客服或投訴的時候，大概要花個幾秒鐘，把電話轉給專員。而在Mattersight的系統裡，電話會由一套聰明的算法來負責轉接。算法會先請你說出致電原因，接著聆聽問題，分析你用的詞彙和語調，以此推斷你當時的情緒狀態甚至性格類型（內向、外向、反叛或依賴）。根據這套信息，算法再為你轉接至最適合你當時心情並符合你個性的專員。算法能夠判斷，你需要的該是具備同情心、能夠耐心聽完投訴的客服，還是毫不廢話、立刻提出技術解決方案的客服。搭配越得當，顧客就越滿意，客服也就能降低服務時間和成本。 12
無用的階級
21世紀經濟學最重要的問題，可能就是多餘的人能有什麼功用。一旦擁有高度智能而本身沒有意識的算法接手幾乎一切工作，而且能比有意識的人類做得更好時，人類還能做什麼？
縱觀歷史，就業市場可分為三個主要部門：農業、工業和服務業。在大約公元1800年前，絕大多數人屬於農業部門，只有少數人在工業和服務業部門。到了工業革命時期，發達國家的人民就離開了田野和牧群。大多數人進入工業部門，但也有越來越多的人走向服務部門。到了最近幾十年，發達國家又經歷了另一場革命：工業部門的職位逐漸消失，服務業大幅擴張。2010年，美國的農業人口只剩2%，工業人口有20%，佔了78%的是教師、醫生、網頁設計師等服務業從業人員。但等到機械的算法在教書、診斷病情和設計方面比人類更在行的時候，我們能做什麼？
這個問題以前就出現過。自工業革命爆發以來，人類就擔心機械化可能導致大規模失業。然而，這種情況在過去並未發生，因為隨著舊職業被淘汰，會有新職業出現，人類總有些事情做得比機器更好。只不過，這一點並非定律，也沒人敢保證未來一定會繼續如此。人類有兩種基本能力：身體能力和認知能力。在機器與人類的競爭僅限於身體能力時，人類還有數不盡的認知任務可以做得更好。所以，隨著機器取代純體力工作，人類便轉向專注於需要至少一些認知技能的工作。然而，一旦等到算法在記憶、分析和辨識各種模式的能力上超過人類，會發生什麼事？
如果認為人類永遠都能有自己獨特的能力，無意識的算法永遠無法趕上，這只能說是一廂情願。對於這種空想，目前的科學反饋可以簡單概括為三項原則：
1.生物是算法。每種動物（包括智人）都是各種有機算法的集合，經過數百萬年進化自然選擇而成。
2.算法的運作不受組成物質的影響。算盤的算珠無論是木質、鐵質還是塑料質，兩個珠子加上兩個珠子還是等於四個珠子。
3.因此，沒有理由相信非有機算法永遠無法複製或超越有機算法能做的事。只要運算結果有效，算法是以碳來表現還是硅來表現又有何差別？
確實，目前還有許多事情是有機算法比非有機算法做得更好，也有專家反覆聲稱，有些事情非有機算法“永遠”都無法做到。但事實證明，通常這裡的“永遠”都不超過一二十年。就像在不久之前，大家還很喜歡用面部識別舉例，說這項任務連嬰兒都能輕鬆辦到，可是最強大的計算機卻無力完成。但到了今天，面部識別程序辨認人臉的速度和效率都已經遠超人類。警方和情報機構現在已經很習慣使用這種程序，掃瞄監控錄像機無數小時的視頻資料，追蹤嫌犯和罪犯。
20世紀80年代討論到人類的獨特之處時，很習慣用國際象棋作為人類能力更強的主要證據。他們相信計算機永遠不可能在國際象棋領域打敗人類。但在1996年2月10日，IBM的超級計算機“深藍”（Deep Blue）就打敗了世界國際象棋大師加裡·卡斯帕羅夫（Garry Kasparov），推翻了這個認為人類能力更強的論點。
“深藍”算是有些取巧，因為編寫程序的人不僅寫入了國際象棋的基本規則，還加入了詳細的棋局策略。但新一代的人工智能更喜歡讓機器自己學。2015年2月，由Google DeepMind人工智能公司所開發的一個程序，就自己學會了如何去玩49款經典的Atari遊戲。開發者之一戴米斯·哈薩比斯（Demis Hassabis）博士解釋道：“我們提供給系統的唯一信息就是屏幕上的原始像素，以及指示系統要努力得到高分。剩下的一切都是它自己解出來的。”而這套程序也成功找出了交給它的所有遊戲的規則，從《吃豆人》（Pac-Man ）、《太空入侵者》（Space Invaders ）到各種賽車和網球遊戲。而且，這套程序得到的分數多半都能打平甚至超過人類，有時候還會使出人類玩家從未想到的策略。 13
圖45 “深藍”擊敗加裡·卡斯帕羅夫
不久之後，人工智能又獲得了更驚人的成就：谷歌的AlphaGo軟件自學圍棋這種古老的中國棋類遊戲，而圍棋的複雜度遠超國際象棋，一般認為這並不在人工智能程序能夠處理的範圍內。2016年3月，AlphaGo和韓國棋王李世石在首爾舉行了一場比賽，AlphaGo憑借出奇的下法、創新的戰略，以4比1擊敗李世石，令各方大跌眼鏡。賽前，大多數專業棋手都確信李世石能贏得比賽，但在賽後分析AlphaGo的棋路後，多數人的結論則是人類在圍棋上已不再有希望能打敗AlphaGo或其後來者。
近來，計算機算法也證明了自己在球類競賽中的價值。幾十年來，棒球隊挑選球員靠的是專業球探和經理的智慧、經驗和直覺。頂尖球員的身價高達數百萬美元，自然財力雄厚的球隊才能搶下一流球員，而經濟拮据的球隊只能勉強起用二線球員。但在2002年，預算有限的奧克蘭運動家隊（Oakland Athletics）總經理比利·比恩（Billy Beane）嘗試要打破這個格局。他決定根據經濟學家和計算機怪才所開發的一套神秘計算機算法，找出人類球探忽視或低估的球員，打造一支常勝隊伍。在保守派看來，比恩的算法根本是玷污棒球的神聖殿堂，他們大感憤怒。他們堅決認為球員的選擇是一門藝術，只有長期親近棒球、相關經驗豐富的人，才有可能掌握。至於計算機程序，因為它永遠無法懂得其中的奧秘和棒球的精神，所以永遠都不可能學會這一套。
但沒多久，令這些人頗感意外的是，比恩用算法打造的這支低成本球隊（4400萬美元），不僅能與紐約揚基隊（1.25億美元）這種傳統棒球強隊平分秋色，甚至還成為美國職業棒球大聯盟史上第一支20連勝的隊伍。只不過，比恩和運動家隊沒能得意太久。很快，其他球隊也跟進使用同樣的算法策略，而且由於揚基隊和紅襪隊不管在球員還是計算機軟件上能砸的錢都遠遠勝出，現在像奧克蘭運動家隊這種低預算球隊，能打敗整個體制的機會反而更小了。 14
2004年，麻省理工學院的弗蘭克·利維（Frank Levy）教授與哈佛大學的理查德·默南（Richard Murnane）教授發表了一份關於就業市場的全面研究報告，列出最有可能走向自動化的職業。當時講到在可預見的未來不可能實現自動化的職業時舉的例子是卡車司機。他們表示，實在很難想像計算機可以在繁忙的道路上讓汽車實現安全行駛。但才不過十幾年，谷歌和特斯拉不僅想到了這一點，還在加緊研發。 15
事實上，隨著時間的推移，不僅是因為算法變得更聰明，也是因為人類逐漸走向專業化，所以用計算機來取代人類越來越容易。遠古的狩獵者只是想要生存下去，就得掌握各式各樣的技能，也正因為如此，想設計狩獵機器人的難度非常大。這種機器人得要懂如何把燧石磨出尖頭，在森林中找到可食用的蘑菇，跟蹤猛犸象，與其他十幾個獵人協調如何進攻，之後還得知道怎麼用藥草來治療傷口。但在過去幾千年間，人類已經走向專業化。比起狩獵者，出租車司機或心臟病專科醫生所做的事更為有限，也就更容易被人工智能取代。我已一再強調，人工智能目前絕無法做到與人類匹敵。但對大多數的現代工作來說，99%的人類特性及能力都是多餘的。人工智能要把人類擠出就業市場，只要在特定行業需要的特定能力上超越人類，就已足夠。
就連負責管理所有活動的經理，也可能被取代。例如Uber（優步），就因為有強大的算法，只要幾位工作人員，就能管理數百萬的Uber司機。大多數的命令都是由算法自動下達，無須人為監管。 16 2014年5月，專注於再生醫學領域的香港創投公司Deep Knowledge Ventures（DKV）另創新局，任命一套名為VITAL的算法為董事會成員。VITAL會分析候選公司的財務狀況、臨床試驗和知識產權等大量資料，據以提出投資建議。這套算法就像另外五位董事一樣，能夠投票決定是否投資某家公司。
我們查看VITAL到目前為止的記錄，發現它似乎已經學到了一個管理弊病：裙帶關係。將較多權力交給算法的公司，就更有可能得到VITAL的青睞。例如在VITAL的支持下，DKV最近就投資了製藥公司Pathway Pharmaceuticals，該公司採用了一套被稱為OncoFinder的算法來選擇及評估針對個人的癌症療法。 17
隨著算法將人類擠出就業市場，財富和權力可能會集中在擁有強大算法的極少數精英手中，造成前所未有的社會及政治不平等。在今天，人數達到數百萬的出租車司機、公交車司機和卡車司機擁有強大的經濟和政治影響力，每個人都在交通運輸市場中發揮自己的力量。如果集體利益受到威脅，他們可以團結起來、組織罷工、進行抵抗，形成重要的投票群體。然而，一旦數百萬的人類司機都由單一算法取代，這一切財富和權力都將被擁有算法的公司壟斷，放入這些公司的所有人，即極少數幾位億萬富翁的口袋。
又或者，算法自己也可能成為所有人。人類法律已經能夠認可公司或國家這種互為主體的實體，稱之為“法人”。雖然“豐田”或“阿根廷”既沒有身體也沒有心智，但都受到國際法的約束，都能擁有土地和金錢，也都可能成為法庭上的原告或被告。可能在不久之後，算法也能獲得這樣的地位。這樣一來，某一套算法就能自己擁有一個運輸帝國或是創投公司資本，而不必服從任何人類所有者的命令。
只要算法做出正確的決定，就能蓄積財富，再用來做自己認定的適當的投資，或許是把你的房子給買下來，當你的房東。而如果你侵犯了這套算法的法定權利（比如不付房租），算法就會聘請律師，把你告上法庭。如果算法的收益持續超過人類基金經理，我們最後可能就得面對一個由算法組成的上層社會，地球的絕大部分都掌控在它們手上。在你覺得這實在是癡人說夢之前，請不要忘記，目前擁有絕大部分地球的正是各種非人類的互為主體實體，也就是國家和公司。事實上，早在5000年前，恩基和伊南娜這種想像中的神，就主宰著蘇美爾的絕大部分地區。如果神也能擁有土地、僱用人力，為什麼算法就不行？
那麼，人要做什麼呢？常有人說，藝術是我們最終的聖殿（而且是人類獨有的）。等到計算機取代了醫生、司機、教師甚至地主和房東時，會不會所有人都成為藝術家？然而，並沒有理由讓人相信藝術創作是片能完全不受算法影響的淨土。人類是哪來的信心，認為計算機譜曲永遠無法超越人類？從生命科學的角度來看，藝術並不是出自什麼神靈或超自然靈魂，而是有機算法發現數學模式之後的產物。若真是如此，非有機算法就沒有理由不能掌握。
戴維·柯普（David Cope）是加州大學聖克魯茲分校的音樂學教授，也是古典音樂界極具爭議的人物。柯普寫了一些計算機程序，能夠譜出協奏曲、合唱曲、交響樂和歌劇。他寫出的第一個程序名為EMI（Experiments in Musical Intelligence，音樂智能的實驗），專門模仿巴赫的風格。雖然寫程序花了7年，但一經推出，EMI短短一天就譜出5000首巴赫風格的讚美詩。柯普挑出幾首，安排在聖克魯茲的一次音樂節上演出。演出激動人心，觀眾反應熱烈，興奮地講著這些音樂如何碰觸到他們內心最深處。觀眾並不知道作曲者是EMI而非巴赫，而等到真相揭開，有些人氣得一語不發，也有人甚至發出怒吼。
EMI繼續更新，學會了如何模仿貝多芬、肖邦、拉赫瑪尼諾夫和斯特拉文斯基。柯普還為EMI簽了合約，首張專輯《計算機譜曲的古典音樂》（Classical Music Composed by Computer ）受到意想不到的歡迎。人紅是非多，古典音樂愛好者的敵意也湧現出來。俄勒岡大學的史蒂夫·拉爾森（Steve Larson）就向柯普挑戰，來一場人機音樂對決。拉爾森提議，由專業鋼琴家連續彈奏三首曲目，作曲者分別是巴赫、EMI以及拉爾森本人，接著讓觀眾投票是誰譜了哪首曲子。拉爾森堅信，一邊是人類的靈魂之作，一邊是機器人的死氣沉沉，觀眾肯定一聽就能判斷出。柯普接下了戰書。在指定的當天，數百位講師、學生和音樂迷齊聚俄勒岡大學的音樂廳。表演結束，進行投票。結果呢？觀眾認為是巴赫的其實是EMI，認為是拉爾森的其實是巴赫，而他們認為是EMI的，其實是拉爾森。
還是有人繼續批評，說EMI的音樂雖然技術出眾，但還是缺了些什麼，一切太過準確，沒有深度，沒有靈魂。但只要人們在不知作曲者是誰的情況下聽到EMI的作品，常常會大讚這些作品充滿靈魂和情感的共鳴。
EMI成功之後，柯普又繼續寫出了更複雜的新程序：安妮（Annie）。EMI譜曲是根據預定的規則，而安妮則是基於機器學習，會隨著外界新的音樂輸入，不斷變化發展音樂風格。就連柯普也不知道安妮接下來會譜出什麼作品。而且事實上，安妮除了寫音樂，還對其他藝術形式很感興趣，比如俳句。2011年，柯普出版了《激情之夜：人和機器所作的俳句兩千首》（Comes the Fiery Night: 2000 Haiku by Man and Machine ），其中有一部分是安妮寫的，其他則來自真正的詩人。但書中並未透露具體篇目的作者是誰。如果你認為自己一定可以看出人類創作與機器產出的差異，歡迎挑戰。 18
19世紀，工業革命創造出龐大的都市無產階級，這個新的工作階級帶來前所未見的需求、希望及恐懼，沒有其他信仰能夠有效響應，社會主義因而擴張。到頭來，自由主義是靠著吸收了社會主義的精華，才打敗了蘇聯和東歐社會主義。到了21世紀，我們可能看到的是一個全新而龐大的階級：這一群人沒有任何經濟、政治或藝術價值，對社會的繁榮、力量和榮耀也沒有任何貢獻。
2013年9月，牛津大學的卡爾·弗瑞（Carl Benedikt Frey）及邁克爾·奧斯本（Michael A. Osborne）發表了《就業的未來》（The Future of Employment ）研究報告，調查各項工作在未來20年被計算機取代的可能性。根據他們所開發的算法估計，美國有47%的工作有很高的風險被計算機取代。例如到了2033年，電話營銷人員和保險業務員大概有99%的概率會失業。運動賽事的裁判有98%的可能性，收銀員97%、廚師96%、服務員94%、律師助手94%、導遊91%、麵包師89%、公交車司機89%、建築工人88%、獸醫助手86%、安保人員84%、船員83%、調酒師77%、檔案管理員76%、木匠72%、救生員67%。當然，也有一些工作還算安全。到了2033年，計算機能夠取代考古學家的可能性只有0.7%，因為這種工作需要極精密的模式識別能力，而且能夠產生的利潤又頗為微薄，因此很難想像會有企業或政府願意在接下來20年間投入足夠的資本，將考古學推向自動化。 19
當然，到了2033年也可能出現許多新職業，比如虛擬世界的設計師。然而，此類職業可能會需要比當下日常工作更強的創意和彈性，而且如果收銀員或保險業務員到了40歲中年失業，能否成功轉型為虛擬世界設計師，也實在難說。就算他們真的轉型成功，根據社會進步的速度，很有可能再過10年又得重新轉型。畢竟，算法也可能會在虛擬世界裡打敗人類。所以，這裡不只需要創造新工作，更得創造“人類做得比算法好”的新工作。 20
由於我們無法預知2030年或2040年的就業形勢，現在也就不知道該如何教育下一代。等到孩子長到40歲，他們在學校學的一切知識可能都已經過時。傳統上，人生主要分為兩大時期：學習期，再加上之後的工作期。但這種傳統模式很快就會徹底過時，想要不被淘汰只有一條路：一輩子不斷學習，不斷打造全新的自己。只不過，許多人，甚至是大多數人，大概都做不到這一點。
由於接下來的科技發展潛力極其龐大，很有可能就算這些無用的大眾什麼事都不做，整個社會也有能力餵飽這些人，讓他們活下去。然而，什麼事能讓他們打發時間，獲得滿足感？人總得做些什麼，否則肯定會無聊到發瘋。到時候，要怎麼過完一天？答案之一可能是靠藥物和電腦遊戲。那些對社會來說多餘的人，可以多花點時間在3D虛擬世界裡；比起了無生趣的現實世界，虛擬世界能夠為他們提供更多刺激，誘發更多情感投入。然而，自由主義推崇人類生命及人類體驗神聖不可侵犯，這樣的發展會是對這一信念的一記致命打擊。這些人對社會毫無用處，整天活在現實與虛幻之間，這樣的生命何來神聖？
尼克·伯斯特隆姆（Nick Bostrom）等專家和思想家就提出警告，認為人類大概還承受不住這樣的退化，因為一旦人工智能超越人類智能，可能就會直接消滅人類。人工智能這麼做的理由，一是可能擔心人類反撲、拔掉它的插頭，二是要追求某種我們現在還難以想像的目標。畢竟，等到整個人工智能系統比人類更聰明時，要再控制系統動機，實在有如天方夜譚。
就算目前看來立意全然良善的程序，也可能帶來令人恐懼的後果。常見的情節就是，某家公司設計出第一套真正的人工超級智能，對它進行了一個毫無惡意的測試，比如計算π值。但就在任何人意識到之前，人工智能已經接管整個地球、消滅人類、發動攻擊征服整個銀河系，把整個已知宇宙轉變成巨大的超級計算機，花上幾萬億年的時間，只為了算出更精確的π。畢竟，這正是它的創造者交給它的神聖使命。 21
87%的可能性
本章開頭指出幾個自由主義面對的實際威脅，第一個就是人類不再具備軍事和經濟上的用途。當然，這並非預言，只是一種可能。不論是科技上的困難還是政治上的反對，都可能減緩算法入侵就業市場的腳步。而且，由於人類心智還有大片未知的領域，我們還不確定人類是否有什麼隱藏的才能，或是能夠創造出什麼新工作來填補舊工作消失造成的缺口。然而，僅是這樣可能還不足以拯救自由主義。因為自由主義不僅相信人的價值，還相信“個人主義”。這就要指出自由主義面臨的第二個威脅：社會系統未來可能仍然需要人類，但並不需要個人。人類還是會繼續寫音樂、教物理、做投資，但社會系統會比他們更瞭解他們自己，也會為他們做大多數重要決定。也就是說，社會系統將會剝奪個人的權威和自由。
自由主義對個人主義的信念，前提就是之前討論的三個重要假設：
1.我是一個不可分割的個體，也就是說，我具備單一的本質，無法再分為各個部分或子系統。確實，這個內部核心可能有許多外層，但只要把這些外層剝掉，就能在內部找到一個清晰、單一的內在聲音，也就是真正的自我。
2.真正的自我是完全自由的。
3.根據前兩個假設，我能夠瞭解一些別人發現不了的自己。只有我能夠進入我自己內心自由的空間，只有我能聽到自己真實自我的低語。正因為如此，自由主義才賦予個人極大的權威。我不該相信其他任何人為我做出選擇，因為沒有別人能夠真正瞭解我是誰、我有什麼感覺、我想要什麼。因此，選民能做出最好的選擇，顧客永遠是對的，而且情人眼裡永遠出西施。
然而，生命科學卻對這三個假設都提出挑戰，認為：
1.生物就是算法，人類不是不可分割的個體，而是由可分割的部分組成。換句話說，人類是許多不同算法的組合，並沒有單一的內在聲音或單一的自我。
2.構成人類的算法並不“自由”，而是由基因和環境壓力塑造，雖然可能依據決定論或隨機做出決定，但絕不“自由”。
3.因此，外部算法理論上有可能比我更瞭解我自己。如果能用某個算法監測組成身體和大腦的每個子系統，就能清楚掌握我是誰、我有什麼感覺、我想要什麼。只要開發出這樣的算法，重點就不再是選民、顧客和情人；而是算法能做出最好的選擇，算法永遠是對的，算法覺得美，就是美。
在19世紀和20世紀，由於沒有任何外部算法能夠有效監測個人，因此個人主義仍然是一種很實用的選擇。雖然國家和市場可能都很想做到這一點，但當時缺少必要的科技。不論是克格勃還是美國聯邦調查局都無法完全掌握我的生物特徵、基因組和大腦，而且就算特工偷聽我每次打的電話、監視我在街頭和其他人的每次互動，也沒有足夠的運算能力來分析這些數據。因此就20世紀的科技而言，自由主義說得並沒錯，沒有人能比我更瞭解我自己。於是，人類有充分的理由認為自己是個自主的系統，聽從的是自己內在的聲音，而不是什麼權威的命令。
但到了21世紀，科技已經讓外部算法有能力“比我更瞭解我自己”。一旦如此，個人主義就即將崩潰，權威也將從個人轉向由算法構成的網絡。人類不會再認為自己是自主的個體，不再依據自己的期望度日，而是習慣把人類整體看作一種生化機制的集合體，由電子算法網絡實時監測和指揮。要發生這種情況，算法甚至不需要能夠完全瞭解我而且絕不出錯，只要比我自己更瞭解我、犯的錯更少，就已足夠。到了這個程度，合理的做法就是把越來越多的選擇和人生大事都交給算法來為我做決定。
在醫學領域，我們早已跨過這條線。在醫院裡，每位患者不再是“個人”。很有可能在我們的有生之年，就會看到許多關於身體和健康的重大決定將由計算機幫忙決定，就像IBM的“沃森”。這倒也不一定是個壞消息。目前，已有糖尿病患者安裝傳感器，每天幾次自動檢測血糖值，並在超標時發出警告。2014年，耶魯大學研究人員宣佈一種由智能手機控制的人工胰臟試驗成功。有52名糖尿病患者參與該試驗，每位患者都在腹部植入一個小小的傳感器和小小的胰島素泵。胰島素泵連接裝有胰島素和升糖素的小管，用這兩種激素來調節血糖高低。傳感器會不斷測量血糖值，將數據傳至智能手機，而智能手機安裝了能夠分析相關信息的應用程序，能在必要時對胰島素泵發出命令，釋出胰島素或胰高血糖素，完全不需人為操作。 22
就算是許多沒有嚴重疾病的人，也已經開始使用可穿戴式傳感器和計算機來監測自己的健康和活動狀況。相關設備，比如智能手機、智能手錶、智能手環、智能臂環甚至是智能內衣，記錄著血壓和心跳等生物統計數據。這些數據被傳送到精密的計算機程序中，建議穿戴者如何調整飲食和日常生活，改善健康、延長壽命。 23 谷歌與製藥巨頭諾華（Novartis）正在合作開發一種隱形眼鏡，能夠通過分析眼淚成分，每隔幾秒檢測血糖值。 24 精靈科學（Pixie Scientific）公司則推出智能尿布，能分析嬰兒的糞便，瞭解孩子的健康狀況。2014年11月，微軟也推出智能運動手環Microsoft Band，能夠監測心跳、睡眠質量、每天行走步數等信息。一個名為“Deadline”的應用程序則更進一步，它會告訴你，根據你現在的生活習慣，你大概還有幾年可活。
有些人用這些應用程序時並沒想太多，但對某些人來說，這已經構成一種意識形態甚至是宗教。“量化自我”（Quantified Self）的運動認為，所謂的自我，就是數學模式。但這些模式非常複雜，人類心智無法理解。所以，如果真想遵從德爾菲神殿的神諭“認識你自己”，就別再浪費時間研究哲學、冥想或精神分析，反而該系統性地收集自己的生物統計數據，允許算法為你分析這些數據，告訴你你是誰、該做些什麼。這波運動的箴言，就是“通過數據，認識自己”。 25
2000年，以色列歌手施洛米·沙灣（Shlomi Shavan）以一曲《亞里克》（Arik ）登上當地流行排行榜首。歌曲故事的男主人公一直很糾結於女友的前男友亞里克。他想知道，他和亞里克究竟誰床上表現更佳。女友不想回答這個問題，只說各有長處。但這傢伙並不滿意，追問：“小姐，告訴我明確的數字。”正是為了這種人，有一家名為“Bedpost”的公司，開發了一種生物計量臂環，讓你在做愛時戴著，收集心跳、排汗、性交持續時間、性高潮持續時間、消耗的卡路里等數據。這些數據會傳到計算機加以分析，用精確的數字來評估你的表現如何。這下可不能再假裝高潮，也不用再問“剛才爽不爽？”了。 26
像這樣通過設備無情揭示一切真相來瞭解自己之後，可能就會讓人開始覺得自己是許多生化系統的集合，而不是不可分割的個體；而且，這些人做的決定也越來越反映出其中各種系統需求的拉扯。 27 假設你每週有兩小時空閒，正在考慮該拿來下棋還是打網球。可能有個好友會問：“你內心的想法是什麼？”但你的回答可能是：“那當然打網球更好，而且這也能更好地控制膽固醇和血壓。只不過，我的功能性磁共振成像掃瞄說我該加強左前額皮質，畢竟我家族有這方面的病史，有個叔叔還很年輕就出現癡呆症狀了。而最新研究指出，每週下一次棋，就能預防癡呆症狀發生。”
到醫院的老年病房，還能找到更多通過設備進行外部調節的例子。人文主義總是頌揚老年，說這時期充滿智慧、洞察世情。一位理想中的長者，雖然身體可能沒那麼硬朗，但心智敏銳明快，更有可能長達80年的人生智慧可以分享，也總能為兒孫或其他訪客提出恰當的建議。但到了21世紀，80歲的人可能就不是這個形象了。隨著我們越來越瞭解人類生物學，醫學雖然能讓人延長壽命，但心智和那個“真正的自我”卻已經崩解潰散。最後剩下的，常常只是各種已經功能失調的生物系統集合，倚靠著各種監視器、計算機和調節泵，才得以勉強維持下去。
在更深的層次，隨著基因科技應用到日常生活，每個人和自己的DNA發展出日益密切的關係，過去真實的內在自我聲音，也可能潰散成基因群的眾聲喧嘩。現在再遇到兩難或困難的抉擇，我可能不會再問自己內心的聲音，而是咨詢我體內的基因有何決定。
2013年5月14日，女星安吉麗娜·朱莉在《紐約時報》上發表了一篇文章，解釋她為何決定進行雙乳乳腺切除術。多年來，由於母親和外祖母雙雙在相對年輕時因癌症過世，她一直活在乳腺癌的陰影下。而她自己做了基因測試，證實帶有致癌變異基因BRCA1。根據最近的統計調查，帶有此類變異基因的女性，罹患乳腺癌的概率高達87%。雖然當時她並未患癌，但她決定干預這種可怕的疾病，於是進行了雙乳乳腺切除手術。在文章中，朱莉解釋道：“我選擇把自己的故事說出來，是因為有很多女性並不知道自己可能活在癌症的陰影下。我希望她們也能夠進行基因測試，如果發現自己罹患癌症的風險很高，也可採取有效預防措施。” 28
乳腺切除術是一項困難也可能致命的抉擇。除了種種不適、風險、手術及術後護理的成本之外，這項決定也可能深深影響個人的健康、身體形象、情緒健康及人際關係。朱莉的這個選擇，加上當時決定公開的勇氣，引起一陣轟動，為她贏得全世界的盛譽和讚賞，特別是有許多人希望這樣的公開舉動能讓大眾更瞭解基因醫學及其潛在效益。
從歷史觀點來看，有趣的是算法在這個案例中所扮演的關鍵角色。朱莉在做出對生活如此重要的決定時，並沒有登上山巔俯瞰海洋、看著太陽沉入海中、接觸自己內心最深處的感覺，反而寧願聽聽自己的基因怎麼說，而基因的表達方式並不是用什麼感覺，而是用數字。當時，朱莉的身體並沒有任何疼痛或不適，她的感覺告訴她：“放輕鬆，不會有事的。”但醫生用的計算機算法的說法卻完全不同：“你並未感覺有任何不適，但你的DNA裡有個定時炸彈正在嘀嗒倒數。你必須處理這個問題，現在就處理！”
當然，朱莉的情緒和獨特人格也扮演著關鍵角色。如果是另一位個性不同的女性，就算發現自己也攜帶同樣的變異基因，也可能不會進行乳腺切除術。然而，現在讓我們來到灰色地帶，假設這位女性發現，自己不但攜帶有危險的變異基因BRCA1，還攜帶有另一個變異基因ABCD3（並沒有這個基因，只是假設），會損害負責評估概率的大腦區域，進而使人們低估風險，她該怎麼辦？如果又有統計學家告訴她，她的母親、外祖母和其他幾位親戚都是因為低估各種健康風險未能採取預防措施而英年早逝，這時候她又該如何抉擇？
很有可能，你在未來也需要像朱莉一樣，對自己的健康做出重大抉擇。經過基因測試、血液測試或功能性磁共振成像掃瞄，算法能根據巨大的統計數據庫來分析結果，你也會接受算法的建議。但這並不是世界末日，算法並不會忽然佔領、奴役人類，反而是能夠幫上大忙，為我們做出各種明智的抉擇。到那時候，不聽它們的，才是個不明智的決定。
*
安吉麗娜·朱莉首次擔綱主角，是在1993年的科幻動作片《無影終結者》（Cyborg 2 ）中。她的片中角色是機械人卡塞拉·瑞絲（Casella Reese），在2074年由紙風車機器人公司（Pinwheel Robotics）開發，用於竊取情報和暗殺。卡塞拉的程序設計帶有人類的情感，好讓她更好地融入人類社會、完成任務。等到卡塞拉發現公司不僅控制她還打算銷毀她時，就逃了出來，為自己的生命和自由而戰。《無影終結者》是一個自由主義的幻想，講的是個人為爭取自由和隱私，對抗國際企業無所不在的觸手。
但在現實生活中，朱莉卻寧願公開隱私和自主性，追求健康。像這種追求健康的願望，很可能讓我們大多數人都願意突破保護個人隱私的阻礙，允許國家機構或跨國公司進入我們身體的最深處。舉例來說，允許谷歌閱讀我們的電子郵件、追蹤我們的各種活動，就可能讓谷歌在流行病暴發而傳統衛生機構都還渾然不覺的時候，向我們發出警告。
英國國家醫療服務體系（National Health Service，以下簡稱為NHS）如何得知倫敦暴發流感疫情？答案是分析幾百家診所中上千位醫生提出的報告。但這些醫生又是怎麼知道相關信息的？假設瑪麗某天一早醒來覺得不太舒服，她並不會直接跑去看醫生，而是會先等上幾小時甚至是一兩天，希望喝幾杯加了蜂蜜的熱茶之後，身體就會舒服一些。等到病情一直沒改善，她才會預約掛號，去診所看病。醫生將數據輸入計算機後，理想的狀況是NHS總部的某位工作人員會分析這個報告和其他數千名醫生所通報的數據，得出流感正在蔓延的結論。但這一切得花上很長時間。
但對谷歌來說，這就是幾分鐘的事。谷歌所做的，就是監測倫敦居民在電子郵件和谷歌搜索引擎中所輸入的詞，再與疾病症狀數據庫做交叉比對。假設一般來說，“頭痛”“發燒”“噁心”和“打噴嚏”每天在倫敦居民的電子郵件和谷歌搜索中會出現大約10萬次。如果今天谷歌算法發現這些詞彙的使用次數忽然上漲到30萬，就知道這下出了問題，流感正在肆虐！我們不用再等到瑪麗去看醫生。第一天早上，她起床覺得不太舒服，就在上班前給同事發了一封電子郵件：“我頭痛，但還是會去上班。”只要這幾個字，谷歌就什麼都知道了。
然而，想讓谷歌發揮這種神力，瑪麗不僅得允許谷歌閱讀自己發出的郵件，還得允許谷歌與衛生部門分享信息。如果連安吉麗娜·朱莉都願意公開自己的隱私，提高眾人對乳腺癌的警覺，瑪麗為什麼不能做一個類似的小小犧牲，以避免流行病暴發呢？
這種想法並不停留在理論層面。在2008年，谷歌確實推出了谷歌流感預測（Google Flu Trends）服務，靠著監測谷歌搜索內容，追蹤流感暴發的跡象。這項服務目前仍在開發階段，而且出於隱私考慮，據稱只會追蹤搜索詞語，而不會閱讀私人電子郵件。但僅是這樣，已經讓它可以比傳統醫療體系早上10天發出流感警報。 29
至於谷歌基線研究項目（Google Baseline Study），則更加雄心勃勃。谷歌希望建起一個龐大的人類健康數據庫，找出“完美健康”的人類基因模型。這樣一來，只要發現健康數據與模型有出入，就能警告民眾可能健康出現問題，及早防範。基線研究又與谷歌健康（Google Fit）的整套產品系列搭配，包括服裝、手環、鞋子和眼鏡等可穿戴式裝備。谷歌健康的各項產品，正是要收集海量生物統計數據，提供給基線研究運用。 30
然而，像谷歌這樣的公司，絕不會止步於可穿戴式裝備。目前，DNA測試的市場發展飛快。市場龍頭之一是私人企業23andMe，由谷歌聯合創始人謝爾蓋·布林的前妻安妮·沃希基（Anne Wojcicki）創辦。其公司名“23andMe”指的是構成人類基因組的23對染色體，代表自己的染色體與自己有非常特殊的關係。只要有人能理解這些染色體正在說什麼，就能告訴你一些你自己從沒想過的事。
如果你想知道這些內容，只需要向23andMe支付99美元，他們就會寄給你一個檢測包，裡面有一根唾液收集試管。你向試管裡吐口水，密封，再寄到加州山景城的公司所在地，他們就會分析你唾液中的DNA，並將結果在線傳給你。你得到的是一張列表，列出你可能面對的健康危機，以及基因反映出的可能發生在你身上的各種特質及問題，從禿頭到失明不等。“認識你自己”可從來沒這麼簡單或便宜過。由於這一切都是基於統計數據，數據庫的規模也就成為預測是否準確的關鍵。因此，最早建起龐大基因數據庫的公司，就能為顧客提供最準確的預測，也就可能從此壟斷市場。美國生物科技公司越來越擔心，由於美國嚴格管控個人隱私，導致未來可能將整個基因市場拱手讓給中國。
如果我們能打破所有阻礙，讓谷歌及其競爭對手自由存取我們的各種生物統計裝置、DNA掃瞄結果和醫療記錄，就能得到全面的醫療健康服務，不僅能對抗流行病，還能對抗癌症、心臟病和阿爾茨海默病。然而，一旦有了這樣的數據庫，谷歌能做的絕不止這些。正如警察樂隊（The Police）的名曲《你的每次呼吸》（Every Breath You Take）。這樣的系統能夠監測你的每次呼吸、每個動作、掙脫的每個枷鎖；這樣的系統會仔細追蹤你的賬戶、你的心跳、你的血糖值，甚至是你每次的出軌偷情。它對你的認識，絕對遠高於你自己。人類常常因為自我欺騙和自我幻想，陷在不良的關係、不適合的職業、不健康的習慣中無法自拔，但這一切都逃不過谷歌的法眼。我們現在是由敘事自我所操控，但谷歌不一樣，它不會根據那些虛假的故事來做決定，也不會被認知捷徑、峰終定律誤導。谷歌會確確實實地記住我們走的每一步，記得我們握的每一雙手。
許多人會很樂意將大多數決策過程交給這樣的系統，或者至少是在面臨重要抉擇時參考一下意見。谷歌將能夠建議我們該看哪部電影、去哪裡度假、上大學讀什麼專業、選哪個工作機會，甚至是該和誰約會及結婚。我可能會說：“嘿，谷歌。約翰和保羅都在追我，我兩個都很喜歡，但喜歡的點不太一樣，很難做決定。根據你手上所有的資料，你怎麼建議？”
谷歌就會回答：“這個嘛，我從你出生那天起就認識你了。我讀過你所有電子郵件，聽過你所有電話錄音，知道你最愛的電影，也有你的DNA資料和完整的心跳記錄。你過去每次約會我都有精確的數據，如果你要的話，我可以把你過去和約翰或保羅約會時的資料調出來，顯示你每秒的心跳、血壓或血糖值變化。如果有必要，我甚至也能把你們每次做愛的數據調出來，用數字比較誰高誰低。當然，我對他們的認識也不少於對你的認識。所以，基於以上所有信息和我傑出的算法，加上幾十年來幾百萬對伴侶的統計資料，我建議你挑約翰。大約有87%的概率，你們長期滿意度會比較高。
“當然，因為我非常瞭解你，所以我知道你不會喜歡這個答案。保羅長得比約翰帥，而你又太看重外表，所以你其實內心希望我的答案是保羅。確實，外表很重要，但實在沒有你想的那麼重要。你體內的生化算法是從數萬年前的非洲大草原開始演化的，在對於潛在配偶的整體評價之中，外表佔了35%。至於我的算法，是基於最新的研究和統計數據，認為外表對於長期成功的浪漫關係只有14%的影響。所以，雖然我已經把保羅的外表納入考慮，但還是建議約翰是你更好的選擇。” 31
想得到這種完全掏心的咨詢服務，我們就必須改變想法，不要認為人類都是不可分割的個體，不要堅信每個人都有自由意志，能決定什麼是好、什麼是美、什麼是生命的意義。從以前到現在，人類都是自主實體，由敘事自我敘寫的故事所操縱。但在未來，每個人都將會是整個巨型全球網絡的一部分。
*
自由主義將敘事自我奉為圭臬，不論在投票站、超市還是婚姻中，都讓敘事自我來做決定。最近幾個世紀以來，這種做法很有道理，因為雖然敘事自我相信的常常是各種虛構和幻想的故事，但我們確實沒有更好的替代方案。然而，一旦有了能夠替代的系統，真正比敘事自我更瞭解我們自己，這時再把權力留在敘事自我的手中，就只能說是愚蠢的做法。
像民主選舉這種自由主義的做法將會遭到淘汰，因為谷歌會比我自己更瞭解我的政治觀點。我站在投票站裡的時候，自由主義叫我要聽聽內心真實自我的聲音，選擇能夠反映我最高期望的政黨或候選人。但生命科學卻指出，我站在投票站裡的時候，並不真正記得上次選舉以來這幾年的所有感受和想法。此外，我還被各種宣傳、公關手法和隨機想法不斷轟炸，很可能扭曲我該做的選擇。正如卡尼曼的冷水實驗，敘事自我到了政治領域，一樣會遵循“峰終定律”，忘了絕大多數的事情，只記得幾件極端的事件，並對最近的事件賦予完全不成比例的高權重。
在這四年間，我可能不斷抱怨現任總統的政策，一直告訴自己和任何願意聽我說話的人，這個總統“會毀了我們所有人”。然而，距離下次選舉投票只剩幾個月的時候，政府忽然減稅，大方開出各種“支票”。執政黨找來最好的撰稿人，舉行一波漂亮的競選活動，威脅、承諾運用得當，直接打入我大腦的恐懼中心。到了選舉當天一大早，我醒來的時候有點兒感冒，腦子不太好使，也讓我覺得安全和穩定實在比其他一切都更重要。結果出爐！我又把那個“會毀了我們所有人”的傢伙送上台，讓這個人還能再當四年總統。
如果我授權谷歌來幫我投票，就能擺脫這樣的命運了。你也知道，谷歌可不好糊弄，雖然它也會注意到最近的減稅和選舉“支票”，但過去四年的點點滴滴一樣記得清清楚楚。它會知道我每次讀早報時的血壓，也知道我看晚間新聞時多巴胺分泌量是否下降。谷歌知道怎樣看穿公關人員華而不實的口號。谷歌也瞭解人生病的時候會稍微有“右”傾傾向，會據以調整。於是，谷歌投票時，依據的不是我當下瞬間的心態，也不是敘事自我的幻想，而是集合所有生化算法真正的感受和興趣而得出的結果；而這一切生化算法的集合，正是所謂的“我”。
當然，谷歌也不見得永遠是對的，畢竟這一切都只是概率。但只要谷歌做出足夠多正確的決定，人類就會將更多權力交給它。隨著時間慢慢過去，數據庫規模會不斷擴大，統計數字會更準確，算法會繼續改進，決策的質量也會提高。雖然這套系統永遠不可能完全瞭解我，也不可能完全不會出錯，但本來就沒有這種必要，只要到了系統比我自己更瞭解我的那一天，自由主義就會頹然崩垮。而這一點其實並沒有聽起來的這麼困難，因為大多數人並不真正瞭解自己。
而臉譜網這個谷歌的死敵最近委託的一項研究就指出，如果要判斷某人的性格和性情，臉譜網算法會比這個人的朋友、父母或配偶更為準確。這項研究共有86220名志願者參與，他們都有個人的臉譜網賬號，並且填寫了有上百題的人格調查問卷。臉譜網算法會根據被測者平常在臉譜網上對網頁、圖片、影片等點讚的記錄，預測這些志願者的回答。過去點讚的次數越多，預測的準確度就越高。接著，再把算法預測的結果，與參與者的同事、朋友、家人和配偶的預測進行比較。了不起的地方在於，只需要過去點贊次數超過10次，算法預測準確度就可以高於同事；70個贊，預測準確度就會高於朋友；150個贊，準確度高於家人；到了300個贊，預測準確度就會高於配偶。換句話說，如果你至今已經在臉譜網上點了超過300個贊，臉譜網預測你的想法和期望的準確度就可能比你的另一半更高。
事實上，臉譜網算法在某些領域對人的瞭解，甚至會超過那個人自己。例如，研究也請參與者評估自己使用成癮物質的程度以及社交網絡的規模，而在這些調查項目裡，參與者自己的判斷就不如算法來得準確。該研究最後提出以下預測（這倒是由人類作者寫的，而不是臉譜網的算法預測）：“人類如果遇到重大的人生抉擇，比如要選擇從事何種活動、職業道路甚至是交往對象，可以考慮放下自己心理上的判斷，依賴計算機所做的選擇。這種數據導向的決策，有可能會讓人類生活得更好。” 32
至於比較邪惡的一面，同一份研究也暗示，在未來的美國總統大選裡，臉譜網不僅早就知道數千萬美國人的政治觀點，還知道哪些人是關鍵的搖擺選民以及他們的傾向。臉譜網會知道，共和黨和民主黨在俄克拉荷馬州的選情特別膠著，還有32417位選民尚未下定決心，甚至也知道每位候選人該說什麼，才能讓天平倒向自己這邊。臉譜網為什麼能夠得到這些有無上價值的政治數據？都是我們免費親手奉上的。
在歐洲帝國主義的全盛時期，殖民者和商人用彩色的珠子，就從當地人那裡換來了整座島嶼、整個國家。而在21世紀，個人數據可能是大多數人能夠提供的最寶貴資源，但我們正親手把這些數據交給各大科技企業，好換來免費的電子郵箱或是有趣的小貓影片。
從先知到君主
等到谷歌、臉譜網和其他算法成為無所不知的先知之後，很有可能就會進一步演化成代理人，最後成為君主。 33 為了解釋這個過程，讓我們以Waze為例。這是一個GPS（全球定位系統）導航應用程序，許多司機現在都在使用。Waze絕不只是地圖，靠著數百萬用戶的不斷更新，它能得知各種堵車、事故和警車位置的信息。因此，Waze知道怎樣讓你躲過繁忙的路段，讓你以最快速度到達目的地。你到了某個路口，直覺要你往右，但Waze要你往左，用戶遲早都會明白，最好相信Waze，而不要相信自己的直覺。 34
乍看之下，Waze算法應該只是先知的等級。你問問題，先知給你答覆，但最後還是由你決定。然而，如果先知開始贏得你的信任，合理的下一個步驟就是讓它成為你的代理人。你只是向算法指定一個最終目標，它就會在沒有你監督的情況下，自行達成目標。以Waze為例，就是你將Waze連接到自動駕駛的汽車上，並告訴Waze“走最近的路回家”或是“走風景最漂亮的路線”，又或是“走污染最小的路線”。由你來發號施令，交給Waze來執行。
最後，Waze可能就會成為君主。它手中握有大權，所知又遠超於你，就可能開始操縱你和其他駕車人，塑造你們的慾望，讓你們做出顧全大局的決定。例如，假設因為Waze實在太好用，所有駕車人都開始使用。再假設今天一號公路大堵車，而備選的二號公路車流相對順暢。如果Waze只是讓大家都知道二號公路順暢，所有駕車人就會一窩蜂開向二號公路，最後又全堵在一起。在所有人都找到同一位先知，而且每個人也都相信這位先知的時候，先知就搖身一變，成為君主。這時的Waze必須為大局著想。或許它只會告訴一半駕車人二號公路順暢，而不透露給另一半。這樣一來，一號公路的堵車壓力能夠減輕，而二號公路也不至於無法消化車流。
微軟正在開發一套更複雜的系統，名為Cortana。名稱出自微軟熱門遊戲《光暈》（Halo）當中的一個人工智能角色，現在則是一款人工智能個人助理。微軟希望Cortana能夠成為未來Windows操作系統的內嵌功能，並鼓勵用戶允許Cortana存取計算機內的所有文件、電子郵件和應用程序，好讓Cortana更瞭解用戶，進而提供對許多事務的建議，並成為能夠代表用戶興趣的虛擬代理人。Cortana可以提醒你給太太買生日禮物，幫你挑禮物，預訂餐廳，還會在晚餐前一小時告訴你該先吃藥。也可以警告你，再不放下手上的書，一個重要的商務會議你就要遲到了。而就在你開會之前，Cortana還會警告你，現在你的血壓太高、多巴胺分泌量又太低，根據過去的統計，這種時候你的商業判斷常常會出大錯，所以最好一切先別下定論，別許下什麼承諾或是簽署任何合同。
一旦Cortana從神使發展成代理人，就可能會直接代表主人進行對談。一開始可能一切都十分單純，我的Cortana聯絡你的Cortana，敲定適當的開會時間和地點之類。另外就是在求職時，僱主說不用麻煩寄簡歷了，只要允許他的Cortana問我的Cortana各種問題就行。又或者，一個潛在交往對象的Cortana跑來找我的Cortana，互相比較一下過往的記錄，看看這兩人合不合得來，但這一切可能完全沒讓人類主人知道。
隨著Cortana得到越來越多授權，就可能開始互相鉤心鬥角，好為主人謀求更多的利益。於是，你在就業市場的表現也可能越來越依賴你的Cortana質量如何。有錢人買得起最新的Cortana，在對窮人和他們的舊版Cortana上擁有絕對優勢。
然而這裡最難解的問題在於，Cortana的主人身份究竟為何？我們已經提過，人類並非不可分割的個體，也沒有單一整合的自我。這樣一來，Cortana該迎合的是誰的利益？假設我的敘事自我在新年下定決心，要控制飲食，每天去健身房。但一周後到了該去健身房的時間，體驗自我卻告訴Cortana開電視、訂比薩。Cortana該怎麼辦？是要聽從體驗自我的命令，還是一周前敘事自我做的決定？
你可能會想，Cortana不就像個鬧鐘嗎？敘事自我在晚上定了鬧鐘，好在早上把體驗自我叫醒去上班。然而，Cortana擁有的權力會遠大於鬧鐘。體驗自我只要按個鈕，就能讓鬧鐘安靜下來。但相較之下，反而是Cortana太瞭解我，知道只要按下我的某個內部按鈕，就能讓我聽它的“建議”。
在這場競賽中，不僅僅有微軟的Cortana參賽。谷歌即時資訊（Google Now）和蘋果的Siri也朝著同樣的方向前進。亞馬遜同樣會用算法研究你，再用累積的知識來向你推薦產品。逛實體書店的時候，我是自己在書架間瀏覽，憑著自己的感覺挑出想看的書。但瀏覽亞馬遜網上書店的時候，則是有算法立刻跳出來告訴我：“我知道你先前喜歡哪些書，而與你品位相似的人，也會喜歡這本或那本新書。”
這還只是開始。今天在美國，讀電子書的人數已超過讀紙質書的人數。比如亞馬遜的Kindle等電子書，就能在用戶閱讀時收集數據。舉例來說，你的Kindle會知道你在哪些地方讀得快、哪裡讀得慢，在哪一頁你休息了一會兒，又是在哪一行你放棄了這本書，再也沒讀過（最好趕快告訴作者，讓他重寫那一部分）。如果Kindle再升級，裝上面部辨識和生物統計傳感器，就能知道你讀的每個句子如何影響你的心跳和血壓。它能知道什麼會讓你笑、什麼讓你哭、什麼讓你生氣。不久之後，在你讀書的時候，書也在讀你。你很快就會忘了大部分讀過的內容，但亞馬遜卻什麼都不會忘。有了這樣的數據，亞馬遜就能更精準地幫你選書，也會讓亞馬遜清楚瞭解你是怎樣的人，如何讓你激動或平靜。 35
最後可能是我們一分一秒都無法與這個全知的網絡斷開。斷開，就等於死亡。假設醫療理想得以實現，未來的人類將會在體內植入許多生物計量裝置、仿生器官和納米機器人，以監測人體健康狀況，並避免感染、疾病和傷害。但這些裝置需要24小時全天上線，才能時時追蹤最新的醫療發展，以及抵抗網絡空間暴發的新瘟疫。一如家庭計算機會不斷受到病毒、蠕蟲和特洛伊木馬的攻擊，以後的心律調節器、助聽器和納米科技免疫系統也無法倖免。如果不去定期更新身體中的防病毒程序，可能某天早上醒來我們就會發現血管中的幾百萬個納米機器人都被操縱在某個黑客的手中。
因此，21世紀的新科技可能會徹底扭轉人文主義革命，讓人類交出權威，送到非人類的算法手中。如果你覺得這個方向實在太駭人，該怪的並不是那些計算機怪才，這其實是生物學家的責任。我們必須意識到，推動這個趨勢的主要力量來自生物學的洞察，而非計算機科學。生命科學認為，生物就是各種算法。如果生物的功能真的和算法大有不同，就算計算機在其他領域大展神威，仍然不可能瞭解人類、引導人類的生命，更不可能與人合而為一。一旦生物學家判斷生物也是算法，就等於拆除了有機和無機之間的那堵牆，讓計算機革命從單純的機械事務轉變為生物的災難，也將權威從個人轉移到了算法網絡。
確實有些人對這種發展感到恐懼，但事實上，也有數百萬人再樂意不過。今天許多人已經放棄了自己的隱私和個性，把許多生命點滴全放到網絡上，每個行動都記錄下來，與網絡的連接一中斷，就算只是幾分鐘，也會讓他們歇斯底里。就在我們身邊，處處都有由算法代替人類權威的情形，不是因為什麼重大的政府決策，而是由於狂潮般的個人日常選擇。
如果再不小心，結果可能就會是奧威爾筆下的那種警察國家，而且持續監測的還不只是我們外在的各種舉止，甚至也包括我們身體內、大腦中的活動。可以想想，如果生物統計傳感器無所不在，斯大林可能會用它來做什麼？普京又可能想做什麼？然而，雖然有許多捍衛人類個性的人擔心20世紀的噩夢重現，竭力抵抗這個似曾相識的奧威爾式敵人，但人類的個性其實還受到另一方向更大的威脅。在21世紀，與其說個人會被外界力量殘忍碾碎，還不如說會先從內部緩緩崩解。
今天，大多數企業和政府都會尊重每個人的個性，承諾依據每個人的需求和願望提供醫藥、教育和娛樂活動。但為了達到這個目的，企業和政府就得將個人解構為許多生化上的實體，用無所不在的傳感器監測這些實體，並用強大的算法加以解讀。在這個過程中，我們會發現所謂不可分割的個體只是一個宗教幻想。現實中，每個實體都是許多生化和電子算法的混合體，沒有清晰的邊界，也沒有自我中心。
不平等的再升級
在自由主義面臨的三個實際威脅中，我們已經討論了兩個：第一，人類將完全不具價值；第二，人類整體仍然有價值，但個人將不再具有權威，而是由外部算法來管理。算法系統仍然需要由你來譜寫交響樂、教歷史或編寫計算機程序，但算法系統對你的瞭解會超越你自己，也因此會為你做出大部分重要的決定；而且，你還會覺得這真是太好了。這個世界並不一定不好，但會是一個後自由主義的世界。
自由主義面臨的第三個威脅在於：有些人仍然會不可或缺，算法系統也難以瞭解，而且會形成一個人數極少的特權精英階層，由升級後的人類組成。這些超人類將會擁有前所未有的能力及創造力，讓他們能夠做出許多世上最重要的決定。他們會為算法系統執行關鍵的服務，而算法系統既無法瞭解也無法管控這些人。然而，大多數人並不會升級，於是也就成了一種新的低等階級，同時受到計算機算法和新興的超人類的控制主導。
人類如果從生物定義上分裂成不同的階級，就會摧毀自由主義意識形態的根基。有自由主義的地方，仍然可能有各種社會及貧富差距，而且因為自由主義把自由看得比平等更為重要，所以甚至也覺得有差距是理所當然。但自由主義仍然假定所有人都有同樣的價值和權威。按照自由主義的觀點，有人是億萬富翁，住在豪華的城堡裡，也有人是貧窮的農民，住在稻草屋裡，這完全沒有問題。因為對自由主義來說，農民感受到的獨特體驗，其價值並不下於億萬富翁的體驗，所以自由主義的作家才會寫出長篇小說來描述貧困農民的生活體驗，而且連富翁也會滿懷熱情地讀這種小說。如果到百老匯去看音樂劇《悲慘世界》（Les Misérables ），會發現好位子的票價可能高達數百美元，全場觀眾的身價總和可能高達數十億美元，但他們看到冉·阿讓（Jean Valjean）只為了偷麵包救活飢餓的侄子就得入獄19年時，仍然會深感同情。
同樣一套邏輯也適用於選舉，貧窮農民有一票，億萬富翁同樣也只有一票。自由主義面對社會不平等的解藥，不是讓每個人都有同樣的體驗，而是對於不同的人類體驗賦予同等的價值。然而，如果貧富差距已經不只體現在財產價值上，而且出現了真正的生物學上的差異，這一套還行得通嗎？
安吉麗娜·朱莉發表在《紐約時報》的文章中，就提過基因測試成本高昂。她進行的測試就要價3000美元（還不包括實際的乳腺切除術、重建手術和相關治療），而在這個世界上，還有10億人每天收入不到1美元，15億人每天收入在1到2美元之間。 36 就算他們一輩子努力工作，也不可能負擔得起要價3000美元的基因測試。目前貧富差距還在逐漸拉大。到2016年年初，全球62名最富有的人，擁有的財產總值等於最貧窮的36億人的總和！由於目前全球人口約為72億，也就是說，這62名億萬富翁所擁有的財富，大約就是較為貧窮的全球一半人口的財產總和。 37