讀古今文學網 > 心智社會:從細胞到人工智能,人類思維的優雅解讀 > 16.5 雪崩效應 >

16.5 雪崩效應

我們所討論的那些方案如果和我們描述的一模一樣,那麼它們很少能真正起作用。它們大部分很快就會崩潰,因為實際上所有的智能體都會參與到不受限制的活動中去。設想每個典型的智能體都傾向於喚醒其他若干智能體,然後這些被喚醒的智能體又會去喚醒若干其他智能體,以此類推,活動的傳播速度會比森林大火還快。但這項活動最終什麼也無法完成,因為所有的智能體都會互相干擾,誰也無法獲得它們所需資源的控制權。實際上,這差不多就是癲癇發作時會發生的事。

每個生物系統都會發生相似的問題。每個原則或機制都應該受到控制,只在限定的範圍內運作。就連小小的基因團體也有一些方案,在每個細胞內指揮製造蛋白質時也會控制數量。在每種規模上,我們都發現了這樣的模式。每種生物組織、器官和系統都受一些控制機制約束,一旦這些機制失效就會出現疾病。是什麼保護了我們的腦不受這種活動雪崩的影響呢?在我們的智能組中,交互排斥方案很有可能是最常見的約束各種水平的活動方式,但同樣也有其他防止爆炸的常見方案。

節約(conservation) :強迫所有活動都依賴於某種物質或其他可量化的事物,每次只能獲得特定的量。舉例而言,我們給所有的智能體都設定了電流限制,用以控制Snarc機器,這使得在特定的時刻,它們之中只有幾個可以活動。

消極反饋(negative feedback) :提供一個「總結」設備評估智能組中的所有活動,然後按照與整體的比例向智能體廣播「抑制」信號。這會把雪崩扼殺在搖籃中。

審查員與抑製器(censors and suppressors) :「節約」和「反饋」方案都傾向於進行無差別的控制。之後我們會討論一些方法,它們在學習識別和避免之前產生過麻煩的特定活動類型方面更敏感,功能也更多。

這些方法足夠簡單,可以在小社會裡應用,但它們的功能不夠多樣。在更複雜的社會中,我們需要學習解決困難的問題,這些方法無法解決可能出現的所有管理難題。幸運的是,在更大規模上建立的系統也許能夠通過建構和解決自我管理的問題,把自身得到強化的能力應用於對自身的管理。在接下來的幾部分中,我們將會看到這種能力如何在幾個發展階段中不斷成長。所有這些並不一定需要在每個孩子的思維中獨立發生,因為孩子所處的家庭和文化社群可以發展出更複雜的自我約束方案。所有人類社會似乎都在制定方針指導其成員如何思考,這些方針以常識、法律、宗教或哲學的形式出現。