我記得小時候在拉合爾時，我曾坐在父親的腳邊玩著我的美國特種部隊士兵玩具，而我的父親則坐在他最喜歡的椅子上。突然，他大聲說了些什麼。直到現在，我依然不知道他當時是在跟我說話還是在自言自語。
我父親說：「你知道嗎，西方國家非常善於分析，東方國家的思想家則主要關注融合。」
我讓他解釋了這句話的意思，而且我現在仍然清楚地記得他當時的解釋。他告訴我，西方的科學家和思想家使用科學的方法，即觀察現象，然後根據測量結果和數據仔細分析和解釋所觀察到的結果。在這方面，這些人是推理大師。東方的思想家則會融合觀察結果來進行解釋，常常不會完全理解或驗證其背後的根本原因。他告訴我，在過去的幾百年中，隨著人類對科學和科學方法的瞭解，演繹推理過程，也就是分析，被證明有用得多。它能讓我們獲得可以應用、可以作為理論基礎的深層次理解，並使我們獲得更先進的技術。
東方的融合不具有這一價值。可能是因為其基礎模塊沒有經過科學驗證或被融合者所正確理解？因此，這種來自東方的融合思維產生的更多的是故事、傳說和神話，而不是科學方法的基礎。牛頓看到蘋果，想到的是重力，而不是什麼樹神用蘋果砸他的頭來傳遞信息。
我的父親告訴我，他預見到在不久的未來，西方的分析歸納法與東方由故事和寓言組成的融合法將結合。在這個即將到來的時代，所有知識基礎模塊將一起造福全人類。
對我來說，要讓父親的願景變成鮮活的現實，最好的方法是採用他認為將會佔據上風的思維方式。在剛進入青少年時期的某一天，我就開始朝這一方向努力。我盡力構想一個未來世界，在那裡所有的科學都融為一體，所有的歸納和所有的知識基礎模塊都融合成了一座雄偉的知識金字塔。在金字塔頂端，我意識到，要想把這一切聯繫起來，還缺少一塊重要的部分。這個部分就是終極問題：這一切是為了什麼？我們已經將棋類歸納為包含算法的數學問題，人工智能已經能夠在全球最古老和最複雜的遊戲圍棋中擊敗人類，但我們仍不知道我們最基本的生存目標是什麼。這些動機來自何處？這個龐大的目標實現系統來自哪裡？像人類這樣的智能系統如何參與這類智力活動？
● ○ ●
要回答這些問題，我們首先並且必須轉向物理學領域。我們知道是什麼讓物理系統能夠運動，物理學中的力描述了物質之間的吸引和排斥關係。當物質達到一定的複雜性並且以特定的方式排列時，就會出現生物系統。最簡單的生物系統是受本能驅使的機器，它們用能量交換優化物理目標的運動，比如樹伸出樹枝以接觸最多的陽光。隨著生物形式變得越來越複雜，其目標也變得越來越複雜。對於人類，社會學家和心理學家已經概括出多個需求和願望模型，包括馬斯洛著名的需求層次模型。值得注意的是，當這些需求和願望以複雜的方式發生交互時，就會出現更複雜的突發動機，比如利他主義和道德體系。
人類生物系統中複雜的、由目標驅動的行為是否可能只是為了滿足人類更基本的生理需求呢？在這些需求中，有些是與生俱來的並且是為了保護生物系統而產生的內在需求，比如睡眠和食物。另一些需求似乎範圍更廣，比如好奇心或避免枯燥。因此，生物形式中的基本動機與人類生物系統在環境中的巨大複雜性之間的交互產生了無數的突發動機。突發動機這一洞見是否可能成為終極目標生成引擎的基礎，而這種引擎的抱負又是無限大的？根據這一猜測，預先設置的目的會錯過這一點並限制智能系統的最終潛力和抱負。
作為一種動態系統，人工智能仍然處於初級階段，以致無法產生目標，而我們人類常常使用科學、宗教和哲學框架思考宏大的目標。廣義人工智能機器人將擁有投票選舉權嗎？它們會被允許結婚嗎？當然，這些問題揭示了不斷變化的人類社會的風俗習慣，但不幸的是，這些問題讓我們無法就感知機器的智能進行更深入的探討。人們可能會問，在廣義人工智能「大爆炸」後會發生什麼？當廣義人工智能出現時，它是什麼樣子？這讓我們想起了艾薩克·阿西莫夫（Isaac Asimov）最著名的科幻故事《最後的問題》（The Last Question）1。在阿西莫夫的故事中，當宇宙最後不復存在時，廣義人工智能表示「要有光」，於是便有了一個新的開始。
正如阿西莫夫告訴我們的那樣，我們在嘗試理解感知機器時，會不可避免地使用我們目前文化想像中的圖案、模型和比喻。無論我們信奉的是無產階級、農民的權利、社會公正、全人類經濟自由還是國王的神聖權力，我們所有人都深深地沉浸在我們的歷史背景中。這些背景是人類文化的基礎，與智能機器的目標完全無關。今天，我們大部分人都追求幸福，我們相信人生而平等、個人自由至高無上，但在生物學中，這些理念都不適用。它們只是神話。在生物學中，它們與「中世紀時，下等貴族應為基督放棄自己的生命」這一理念一樣荒謬。我們會覺得，問一台感知機器是否有資格成為一名騎士很荒謬，而問人工智能是否有權投票選舉呢？這同樣是將我們自己的文化背景強加在機器身上。我們這些想法根本不是物理法則的結果。
由於沒有廣義人工智能的例子，我們就用獅群來代替舉例吧。當一頭新的雄獅成為獅群的頭領時，它一般會殺死所有上一任頭領的孩子。所有雌獅，包括幼獅的母親也接受這一事實。如果用人類的法則來看獅群現象，它無疑是極其荒謬的，但這就是生物學行為，所有從未彼此遇到過或分享過土地的獅群都是如此。沒有信仰體系、沒有「獅子聖人」或「獅子教皇」到處制定集體行為規範。獅子不會遵守此類規定，它們只是一種動物。
我們在談論廣義人工智能的感知時，指的是比獅群聰明很多的實體，但是，如果我們關於正常文化和行為的認識，我們關於有意義和不相關事件的理解，都被用作認識廣義人工智能的標準，那麼我們也同樣會感到荒謬。
可能除了專注於將這些理念強加給感知機器之外，我們更應該好好看待自己。人類的獨特之處是什麼？我們在即將到來的超級人工智能時代需要保留什麼？
在本體論和玄學這兩門研究現實基本性質的學科中，哲學家一直在思考像「圓」這樣的屬性是否能夠獨立於任何物體而存在。比如咖啡杯的圓是否能夠獨立於這個杯子而存在？同樣，讓我們來思考人性。從樂觀的角度說，我們可能會認為人性包括寬容、愛和忠誠，但真的只有人類世界有這些嗎？愛、寬容和忠誠屬於人際關係範疇，並且體現在一些行為中：一個人必須面對另一個人才能產生寬容、愛或忠誠。如果我們這樣認為，那麼就表示可以將整個人性與這個框架分離。我們都看到過小狗依偎著母親或者與兄弟姐妹愉快地玩耍。我們只需要朝起居室的窗外望去，就能看到鳥媽媽銜著蟲子餵它的寶寶，等到寶寶吃完後自己才吃。簡而言之，即便沒有人類，這些概念依然存在。當我們要不惜一切代價地保護人性時，比如因人類的存亡問題愁眉苦臉時，我們真正保護的是這些屬性，但這些屬性有多少是只屬於人類的？
當通過「湧現」這一概念進行檢驗時，這些所謂的「人類的」屬性最後都會在任何生物或任何複雜的感知體中出現。我們將這麼多屬性劃分成情感，但複雜的情感無非是複雜社會系統中的「湧現」行為。
顯然，這種哲學追求讓我們不知道該如何定義人類。人類有何獨特之處？這些屬性真的值得我們不惜一切代價去保護嗎？我不確定這些問題的答案是什麼。我所知道的是我們對人性的理解始終會根據我們的歷史和文化而發生變化。在人性方面，我們可以選擇越來越過時的理念，也可以接受未來的新理念。那些過時的人性理念只會給我們目前的職業、工作和目標造成麻煩。