讀古今文學網 > 虛擬現實:萬象的新開端 > 不完美的智慧 >

不完美的智慧

未來理想顯性系統的模塊會通過近似的方法,採用機器視覺和其他通常與AI有關的技術進行連接,因此,今天的許多瘋狂、棘手的黑客遊戲不會再出現。

例如,人們很難通過深度學習網絡將惡意軟件安裝到計算機上,比方說讓攝像頭對著一幅可能會引起病毒感染的圖像。但「難」不等同於「不可能」,追求完美的安全本身就有些愚蠢。

明確地說,你可以利用圖像植入惡意軟件(人們一直都在這樣做),但只有在軟件一個比特接一個比特地接收圖像,並通過精確協議處理圖像時,才能較容易地完成這種植入。

欺騙刻板的協議很容易,因為你通常可以想出協議的原始設計者之前沒有預料到的技巧。一個常見的例子是,圖像中放置的比特數多於描繪圖像的協議識別的比特數。協議讀取圖像時,一些比特會溢入之前未曾料到的計算機位置,而這些多餘的比特可能就包含惡意軟件。

利用這種風格的策略實現的計算機感染,可能是目前地球上最常見的人為事件。

但是,如果我們只是以模擬近似讀取圖像,並只對其進行統計分析,就像有個攝像頭對著這個圖像,那麼系統就不會那麼脆弱。[12]圖像不是問題,僵化的協議才是問題。

有時候,工程師最好不要知道軟件的精確工作原理。

與深度學習等類似術語相關的現代算法具有近似性及其他相關特性,能夠在本質上抵禦黑客的攻擊技巧,但是我們只用這些能力執行特殊任務,而不用於建構體系結構。另一種設計顯性結構的方法是在架構中使用這些算法。

和生物學一樣,當系統變得強大時,安全性也會增強,這與完美不同。完美的系統會崩潰,而強大的系統可以調整。