有關符號人工智能的哲學問題開始浮出水面。其中最著名的要數名為「中文房間」的思維實驗。美國哲學家約翰·希爾勒（John Searle）提出該思維實驗，質疑是否應將機器處理符號真正視為智能。
希爾勒提出，假設他被鎖在一個房間裡，房間裡有很多中國書法作品。他並不懂中文，甚至無法將漢語與日語或其他毫無意義的字區分開來。希爾勒在房間中發現了一套規則，這些規則向他展示了一套與其他符號相對應的符號。隨後，他被提問，並通過將問題符號和答案符號相匹配來回答這些問題。過了一會兒，希爾勒逐漸熟悉這項任務——儘管他仍然不清楚自己操作的這些符號到底是什麼。希爾勒問，這種情況下能否說房間內的人「懂」漢語？他的答案是否定的，因為他完全缺乏意向性。他寫道：「計算機可能有的這種意向性只存在於程序設計者、使用者、輸入者以及對輸出進行解讀的人的思維中。」
如果說希爾勒是在指責人工智能研究者們像家長一樣絞盡腦汁地炫耀孩子的才華，那麼人工智能研究者們本身就面臨著一個令人不愉快的事實：他們的孩子實際上並沒有那麼聰明。令人擔憂的是，那些在實驗室環境下表現不凡的工具並不能很好地適應現實狀況。符號人工智能主要涉及自上而下建立以規則為基礎的系統，該系統在實驗室中表現出色，各元素都能夠得到很好的控制。這些「微型世界」幾乎不包含任何物質，因此可以採取的措施也十分有限。然而，一旦進入現實世界，在訓練中表現優異的程序就像世界盃揭幕戰中的英格蘭隊一樣變得怯場了。
研究者們承認這些弱點的存在，並且將這些微型世界比作「一切事物都十分簡單的仙境，如果以現實世界為前提，那麼有關這些事物的陳述從字面上看就都變成了錯的」。總的來說，人工智能一直在努力擺脫歧義性，但又缺少靈活抽像推理、數據計算和加工能力，而人工智能恰恰需要這些能力來理解其所展示的內容。任何沒有事先明確說明的事物都有可能造成恐慌。美國作家約瑟夫·坎貝爾（Joseph Campbell）嘲諷道，這種人工智能與《聖經·舊約》一樣，都是「規則太多，仁慈有限」。