現在回過頭來看，圖靈當時提出的觀點不言而喻，就是強調可觀察的外部行為是所有人工智能研究的核心，這一點我們在下一章將會提到。（我們有理由懷疑使用非正式對話的形式進行智力測試的效果，我們會在第4章討論這一問題。）儘管如此，仍然出現了批評的聲音，我們下面簡要介紹一下哲學文獻中反對圖靈觀點的一種聲音。（如果你對於哲學爭論沒有興趣，可以直接跳到下一章。）
20世紀80年代，哲學家約翰·瑟爾（John Searle）提出，理解（思維或智能）的內涵遠大於可觀察的外部行為，即便這種行為可以與所謂的模仿遊戲一樣涉及範圍較廣。以下就是他的論據（稍有修訂）。
假設現有一款計算機程序能夠通過圖靈測試，即可以完全不受任何限制地進行人機對話。我們再假設這次對話使用的語言不是英語，而是漢語。因此，根據模仿遊戲的規則，漢字（通過某種編碼的形式）被輸入該程序，隨後該程序能夠用漢語（以某種編碼的形式）應答，作為輸出。即使是精通漢語的人，仍然長期無法分辨輸出信息的是機器還是人。
我們現在假設瑟爾自己不懂漢語，但是精通計算機編程（實際上他並不精通，但沒關係）。他拿著一本小冊子藏在一個房間裡，這本手冊裡涵蓋了該計算機程序的全部文本。房間外有人遞給他一張紙，上面寫著漢字，他雖然不明白紙上寫的是什麼，但是可以模擬計算機程序對此類情況的應對方法。瑟爾根據這本程序手冊，跟蹤觀察程序如何應對這種情況，並將程序輸出的應答寫在一張紙上，交還給房間外的人，而他在整個過程中根本不明白紙上寫的是什麼意思。
簡而言之，有個名叫約翰·瑟爾的人，他在自己的房間裡接收漢語信息，然後通過這本手冊，用漢語回復這些信息，而回復對漢語的使用與母語是漢語的人毫無差別（假定該計算機程序已通過圖靈測試）。換句話說，在瑟爾身上，可觀察的外部行為是完美的，但他卻根本不懂漢語！因此瑟爾的結論是：僅確保行為正確是遠遠不夠的，因此圖靈的觀點是錯誤的。
對此說法持反對意見的人認為，這種行為並非出自瑟爾本身，而是瑟爾與這本寫有計算機程序的手冊共同創造的結果。雖然瑟爾不懂漢語，但這個由瑟爾和這本手冊一起組成的系統是懂漢語的，因此圖靈的觀點並沒有錯。對於上述異議，瑟爾的應答可謂簡明扼要：假設他先把這本手冊的內容記下，然後將手冊銷毀，那麼就不存在所謂系統了，存在的只有瑟爾。因此，圖靈的觀點是錯誤的。
這就是中文房間理論的大概內容。
人們對此理論的反響如何呢？人工智能領域有人對此並不買賬。這也可以理解，大家對人工智能領域中的哪種技術阻礙此類程序（假設其存在）的開發更感興趣，而對我們在一個房間裡用一個人就能準確地模擬這種程序的運行（雖然速度上，人可能只是程序的幾百萬分之一），並得出相關結論興趣不大。
但是，就這類思想實驗本身而言，還有一點需要考慮：我們如何能夠確定，瑟爾沒有通過記下這本手冊的方式來掌握漢語？如果他以這種方式掌握了漢語，那麼不懂漢語也能通過圖靈測試的說法就站不住腳。因此我們必須要問：為什麼我們要相信存在這樣一本手冊能夠想瑟爾之所想，讓他只需記下該手冊的內容就不用學會漢語？
如果不深入瞭解手冊中所談到的這款程序，就很難對上述問題做出回答。我曾經提出，我們可以轉而關注其他更為簡單的行為模式，即數字求和。
我的設想如下。假設行為測試不要求能說漢語，而是要求將20個10位數字求和。如果一本手冊中列出了20個10位數字及它們求和的所有可能的組合形式，有了這個，即便是不會算術的人也能在行為測試中得到正確答案。每當有人問到總和是多少時，都可以在書中找到正確答案，就像瑟爾用漢語回答問題一樣。
但是，值得注意的是不可能存在這種手冊。如果要滿足所有數字組合，就需要包含10200個不同的條目，而我們的整個物質世界當中只有約10100個原子。
要進行測試，一本介紹加法運算表的英語小冊子就堪當此任：首先做一個10×10的個位數加法表，然後進行兩位數加法運算（可進位數），最後是多位數加法運算。這樣的小冊子絕對可以存在，而且只需幾頁紙就能說明問題。這種小冊子的意義在於，對任何不會加法運算的人來說，只要能夠記住書中的說明就能學會！
而這也足以讓我們對瑟爾的中文房間理論產生懷疑。如果根本不存在這樣簡單到不用教人算術（具體來說就是20個10位數字的求和）就能對數字求和的手冊，我們就不得不懷疑上文提到的漢語人機對話的說法了。
但是，這依然無法駁倒瑟爾。到最後，我們還是不知道如果真正背下瑟爾的手冊會怎樣，因為我們也不知道讓不懂漢語的人用漢語進行人機對話會是什麼樣。所以，唯一可行的辦法就是按照圖靈所說，解決這些技術難題。