讀古今文學網 > 虛擬現實:萬象的新開端 > 人類系統有人性化的用處 >

人類系統有人性化的用處

這不是說看不見的手總是比假想的AI更有用,也不是相反。人們必須停止期望任何現有的「人造神」會變得完美,我會更明確地把這些「人造神」定義為多人組織系統。

我們的信息時代喜歡像計算機一樣善於思考的人,這種思維模式並不是這個時代才有的。它一直存在,全身心地投入某一系統、某個程序中,就像之前去尋找社會主義天堂、絕對神權,或者是無人納稅但社會仍舊運行的純粹自由主義空中花園。如果你能像計算機程序一樣思考,你就可以通過現在掌控世界的計算機程序掙到大錢。

為了生存,人類還必須支持那些從模稜兩可的境況中成長起來,沒有向單一的社會組織原則宣誓的人。宗教、市場、政治、雲算法、社會、法律、群體認同、國家、教育,我們需要所有這些系統,但它們沒有一個是完美的。用工程師的話來說,所有這些系統都有故障模式。作為一個物種,我們能夠成功的唯一方法就是用看待汽車或冰箱的方式來看待這些系統。即使是那些最可靠的系統,即使是我們的雲算法!讓我們時不時平靜下來。純粹主義者會很難接受這一點。

如果商業有一天勝過算法,正如我說的那樣,我們的系統之間也可以提出和探索其他的制衡辦法。僅僅因為算法是大系統中最新出現的,並不意味著其他系統就要突然停止。

有些專家一直在說,AI將能夠在三分鐘之內摧毀所有其他系統,如果你能比那些普通人、非技術人員更瞭解我們即將到來的厄運,就會發現我們別無選擇,只能享受這一感覺優越的時刻。但這是在放棄自己的責任,尤其是作為工程師的責任。

我們有很好的系統可以利用。如果我們不摒棄前人留給我們的價值,就可以建立一個有尊嚴的、可持續的高科技社會,使其成為發射台,開啟我們難以想像的旅程,但我們這些工程師可能必須學會謙遜一些,才能做到這一點。

我在最後幾頁內容中一直十分小心,不去設想AI成「真」,成為深度通用的智能,或者擁有自己的意識。對包括我在內的一些人來說,有意識的就是真的。無論在可預見的未來中,AI將繼續依賴來自人類的大數據,還是開始使用少量的數據,變得更加「獨立」,上述論斷仍舊成立。

例如,即使AI不像現在這樣依賴大數據,用小額支付替代基本收入模型,仍然不失為一個可持續的、創造性的和有尊嚴的做法。

即使人們普遍同意AI應該在未來「承擔所有的工作」,AI算法仍然需要搜集人們的數據,為人們服務,除非人類變得十分乏味,可以預測,或者已經決定大規模自殺。所以,即使你是個書獃子,等著計算機不用糅合人類作家的措辭,就為你寫出一本理想的書,你也可以獲得報酬,因為從你這裡搜集的數據優化了為你寫作的算法。在這個交易中,會有社會的權力和財富的分配和至少一點點尊嚴的來源。

我知道,反對者會說計算機只會帶來人類的滅亡。我聽到這個普遍反駁時,會想起在小湘菜館,我讓我的朋友想想在噴火坦克裡的豚鼠。你可以把互聯網看作有生命的,你可以把美國混亂的總統選舉解讀為互聯網開始清理人類。沒有超自然的警察會從天而降斥責你。但是,認為人類有責任,是唯一給我們機會承擔責任的解讀方式。

不要把本書看作對時髦的未來主義的保守或傳統的反對,這樣想是錯的。在未來主義的對抗賽中,我通常都能比其他未來主義者更超前。

我的未來主義是真實的,而目前很多未來主義都是虛假的。要求與過去完全決裂的、單一的,或者由AI掌控的未來是虛假未來主義。與過去決裂只意味著重新開始,它使我們變得原始。事實上,我們已經證明自己可以在網上變得膚淺。也許我們可以使自己足夠膚淺,這樣算法相比之下就會特別聰明。

附錄一結尾提出的「麥克盧漢之路」只是一種至少和AI至上主義一樣豐富多彩的未來設想,但「麥克盧漢之路」是在真正地展望未來,而不是倒退回過去。

假裝我們已經瞭解未知的科學,這樣的未來主義也是虛假的。如果有人假裝我們已經知道關於大腦如何工作的一切重要信息,他就是個假未來主義者。這實際上表明,他正深深地陷入了當下的理念中。

即使有人設想AI在不久的將來必定只需要少量的數據,不會再大量竊取數據,我還是會感到沮喪。

如果你聽過我為學生做的演講,你可能會聽到我提醒他們注意本書之前提到的一個例子:在19世紀末,人們曾自信地宣告物理學已經終結,結果20世紀出現了廣義相對論和量子場理論,而且這些理論互不相容,所以我們知道了物理學還沒有終結。我告訴學生,科學會推趕著你。如果你不能承認未知的存在,就無法成為科學家。

我們的命運取決於目前科學還無法解釋的人類特性,如常識、善良、理性思考和創造力。雖然AI幻想認為我們將隨時實現智能自動化,我們能否至少同意,目前的系統還只能利用,而無法生成這些特性?

我們的時代所面臨的問題是,我們能否透過充滿誘惑的信息系統誠實地看清我們自己和我們的世界?在科技文化認為有必要質疑我們最珍視的神話,將我們從混亂中解救出來之前,事情還要變得多麼糟糕?

[1] 在大型互聯網計算機運行一切的時代,儘管在美國只有精英階層的財富上升,發展中國家的赤貧人口卻在大大減少。雖然我不建議用數字技術解釋一切,但這一成果似乎與廉價手機中雲連接的小工具有關。有種假設可以解釋為什麼普通人在這種情況下會比其他情況下更好:使用低端手機發短信和打電話的人是市場的一等參與者,這意味著他們從個人角度尋求機會,而不是按照中央算法的指示行事。另一個例子是,在巨型互聯網公司崛起之前,個人計算機使小企業獲得了更多利潤,而現在,這些小企業普遍停滯發展。我們的算法時代正在重演計劃經濟的謬誤。

[2] 要記住,科技不是我們這個時代唯一的力量(比如,還有部落主義),但科技是最普遍樂觀的力量,所以科技會產生誇大的影響。

[3] 非奧威爾式話語成為主流。

[4] https://www.thedailybeast.com/articles/2016/09/22/palmer-luckey-the-facebook-billionaire-secretly-funding-trump-s-meme-machine.html.

[5] 為什麼會有人花大量的錢資助已經得到資助的活動(之後會證明)?正如本書其他例子所述,即使是很少的錢也會引發混亂。這個例子也證明了即使是圈裡人也在尋找出路,網絡世界紛繁複雜,沒有人能看清全局。奇怪的新現狀是,幾乎沒有人有隱私,沒有人知道發生了什麼。

[6] https://www.hollywoodreporter.com/news/steve-bannon-trump-tower-interview-trumps-strategist-plots-new-political-movement-948747.

[7] 我在本書第19章「宗教的誕生」一節中描述過這一點。奈飛利用AI建議創造出可選項比實際上多很多的幻覺。

[8] https://www.buzzfeed.com/craigsilverman/how-macedonia-became-a-global-hub-for-pro-trump-misinfo?utm_term=.ghOlzDWAQ#.jj3XrKoY0.

[9] 這裡還存在人口統計學的差異。上了年紀的美國人明顯花費大量的時間看電視,在這種情況下,電視扮演的是門戶的角色,而非說服者。我的觀點聚焦於年青一代,他們花更多的時間在雲連接的小玩意兒上。

[10] https://www.washingtonpost.com/news/the-intersect/wp/2016/11/17/facebook-fake-news-writer-i-think-donald-trump-is-in-the-white-house-because-of-me/.

[11] 傑倫·拉尼爾的《互聯網衝擊》一書簡體中文版已由中信出版社於2014年5月出版。——編者注