讀古今文學網 > 虛擬現實:萬象的新開端 > 要求AI自我修復的荒謬性 >

要求AI自我修復的荒謬性

如果「新神」無法戰勝「舊神」,該怎麼辦?也許社交媒體需要改變它們賺錢的方式。可能任何類似的做法都是在無可救藥地支撐永遠會被經濟激勵浪潮推翻的算法。

我要說的是,鑒於我們目前的科學理解水平,我認為依賴道德過濾不會有效果。這些修復行為會被玩弄,變成操縱、胡言亂語和腐敗。如果保護人們免受AI威脅的方法是發展更多AI,比如所謂的道德算法,那就相當於什麼都不做,因為這個想法本身就是在胡說八道,是對幻想的幻想。

目前我們還不能科學地描述大腦中的想法。也許有一天可以,但現在還不行。因此,我們現在甚至沒有辦法設想將道德納入算法後會是怎樣的情形。按照我們在互聯網上令人驚訝的全球監視體制來看,現在所有的算法能做的就是把人們所做的拼湊起來。我們正在讓很多這些自然人變成渾蛋。

為了便於論證,我們假設科技公司最終成功地用所謂的AI解決了爛帖問題。假設這些過濾算法非常成功,所有人都信任它們。但即便如此,深層的經濟激勵措施仍將保持不變。

有可能會出現另一種拉升奇怪流量的方法,但總體結果會是類似的。

想想美國情報人員如何發現俄羅斯情報部門干涉美國選舉,這就是另一個奇怪流量的來源。這種方法不只是在爛帖,而且是將維基解密作為武器,有選擇地散佈信息,只傷害其中某位候選人。

假設科技公司通過道德過濾阻止了惡意的、有選擇性的信息洩露。下一次道德過濾出現時可能是針對某人或某事的無意識偏執,以此鎖定注意力。

如果科技公司能通過過濾預防上述種種問題,它就還會提出其他方法。我們要求算法對我們的社會有多大的控制力?算法最終會變成什麼?請記住,在我們要求科技公司處理假新聞之前,我們也曾要求他們處理仇恨言論和有組織的騷擾。科技公司已經開始驅逐某些用戶,但社會有沒有因此變得更溫和呢?

在某種程度上,即使可以實現道德自動化,我們仍有必要求助於古老的經濟激勵。確實有可以替代目前社會媒體經濟的辦法。例如,我之前也建議過,人們可以在Facebook上提供內容,以此獲得報酬,同時可以購買他人提供的內容,Facebook可以從中抽成。(我們知道這可能會有效果,因為像之前所述,《第二人生》等已經嘗試了類似的做法。)

毫無疑問,還有其他值得考慮的潛在解決辦法。我提倡實證做法。我們應該勇敢地嘗試為他人提供的數據付費等辦法,同時也勇敢地接受結果,即使結果會令人失望。

我們不能放棄。