2012年4月，羅科·迪喬治（Rocco DiGiorgio）下班回家後發現他房子裡的味道非常難聞。屋裡到處都是狗屎，攤得很薄，但均勻地就像恐怖的蛋糕表面塗層。雖然迪喬治最初還不知道如何解釋這一現象，但是他突然想到了原因。就在他的清潔機器真空吸塵器準備開始當天的例行打掃工作之前，他的寵物狗把屋裡搞得一團糟。按照指令，機器人Roomba檢測到了狗屎，並來回打掃多次，試圖將它清理掉，然後在機器人打掃整個屋子時，把狗屎拖得滿屋都是。「那時我一點都高興不起來。」在YouTube視頻上迪喬治痛苦地說，這段視頻引起了著名社交網站Reddit用戶的關注之後，就像病毒一樣傳開了。
迪喬治的故事難以代表我們在本章一直講述的這種潛在的人工智能風險。這與人工智能獲取全球核武器控制權（如電影《終結者》）或將我們的大腦封鎖在巨大的模擬環境中（如電影《黑客帝國》）的情景相去甚遠。然而，它證明了人工智能的另一個側面：人工愚蠢（「人工智能」的反義詞，指顯得自己不那麼聰明的電腦程序）帶來的風險可能與真正的人工智能帶來的一樣大。簡而言之，我們有時漸漸心安理得地希望讓人工智能系統做決策，而它們卻不一定有相應的智能。
有些人認為高級人工智能的出現可能意味著人類的滅亡，他們所熱衷的一個思維實驗即所謂的「回形針最多化」（paperclip maximiser）情景。這個思維實驗由瑞典哲學家和計算神經科學家尼克·博斯特羅姆（Nick Bostrom）提出，在這個情景中，人工智能被要求實現一個看似無害的目標：經營一家生產回形針的工廠。這個人工智能可以利用納米技術在分子層面上重構事物，它接到以最大效率生產回形針的任務後，悲劇性地首先將地球變成了回形針，然後將大部分可見的宇宙也變成了回形針。
「回形針最多化」情景非常普通，儘管對於我來說，它看起來更像是人工愚蠢而不是人工智能帶來的問題。對「已經沒有紙了，為什麼還要生產回形針」或者「首先提出回形針需要的人已經被變成回形針了，為什麼還在生產回形針」這類問題無能為力的情形，不太可能發生在高級的超級智能上，除非回形針有什麼我不知道的極端重要的性質。恰恰相反，威脅來自人工智能，人工智能足夠聰明，可以與其他聯網設備共事，但還不足以對自己的工作動機提出質疑。
事實上，像把狗狗大便抹得到處都是的機器人Roomba一樣，基於規則的簡單人工智能有著大量失敗的例子。2011年4月初，亞馬遜上一本不再發行的圖書《蒼蠅的成長》出乎意料地與自己打起了價格戰。這本書有兩個版本上市，售價通常為35—40美元。然而，突然有一天，它們突然開始分別以1 730 045和2 198 177美元銷售。僅僅數小時後，它們的售價已經分別達到了2 194 443和2 788 233美元，隨後又漲至2 783 493和3 536 675美元。兩周以後，價格達到創紀錄的23 698 655.93美元，含運費。為什麼會這樣？因為算法規定這本書的售價要略高於其競爭對手的售價，於是引發了一場價格戰，並最終將自己的價格提升至一個荒謬的程度，儘管事實上沒有人會支付這樣的價格。幸運的是，除了給亞馬遜帶來了些負面宣傳，這種情況沒有造成任何傷害。
一個更值得注意的人工智能造成破壞的案例發生在2010年5月6日，這本應是平平常常的一天，但這天，將近1萬億美元的財富消失在數字蒼穹之中。美國東海岸時間下午2點42分，道瓊斯工業平均指數三分鐘之內下跌了將近1 000點，創下歷史上最大的單日跌幅。一些股票從平時的30—40美元的交易區間暴跌至0.01美元，不過隨即反彈。蘋果公司股票每股從250美元激增至100 000美元。所幸，這種罕見的「閃電崩盤」沒有再度上演過，但它幾乎肯定是基於規則的簡單人工智能的反饋回路被鎖定的後果。事實就是人工愚蠢合法地從所有人的口袋中成功「偷走」的錢比歷史上預謀最周詳的人搶走的最多的錢還要多。