1958年，當麥卡錫首次提出他對人工智能的看法和研究計劃時，他已經將有關的知識表示和推理問題詳細地納入自己的論文「常識編程」（Programs with Common Sense）中。他設想的系統能夠將存儲的知識作為一階謂詞演算的符號公式，即20世紀初為數學形式化而開發的人工邏輯語言。在他設想的系統中，推理包含計算推導，換句話說，這個系統能夠計算其所存儲知識的邏輯後果。麥卡錫如是說：
人們會相信：設想的這個系統能夠計算出其一切被告知及存儲知識的直接邏輯後果。這個屬性與人類所具有的常識具有共同之處。
從那以後，包括麥卡錫本人在內的許多研究人員開始相信，這些關於表示和推理問題的答案有些過於嚴謹。畢竟，作為符號表示語言的一階謂詞演算並不是完美無缺的，而由規則推理出來的邏輯結果也並不完美。
事實上，在推理問題中，古典邏輯所起的作用既微妙，又複雜。在很多情況下，「用你所知」確實有從你現有信念得出合乎邏輯的結論的含義（如第3章中關於亨利的討論），但它的含義不止於此。
第一，會有許多與你的目標無關、浪費時間的邏輯結論。事實上，如果你有任何矛盾的信念，每一句話都會成為你的信念的邏輯後果。第二，會有可能相關、令人費解、需要紙筆演算的邏輯結論。（如第8章中所討論的鮑勃是否有罪的邏輯謎題。）第三，會有根本不符合邏輯的結論。假設雖然合理，但是結論卻違背邏輯。例如，你可能會得出這樣一個結論：一個你從未見過的檸檬是黃色的。但由於你並不相信每個檸檬都是黃色的，所以這條結論不符合邏輯。（據你所知，有些盲人會把檸檬畫成紅色。）第四，會有許多「用你所知」但卻得不出結論的方法。比如，問問自己：導致檸檬不是黃色的因素有哪些？
總而言之，我們實際需要考慮的與我們所知的邏輯後果之間還有巨大的鴻溝。因此，許多研究人員認為，我們應當放棄古典邏輯，並選擇一種從外部觸及邏輯的推理模式。如同馬文·明斯基曾說的：「邏輯推理不夠靈活，不足以作為思考的基礎。」
事實上，這麼多包含我們所知、所用的設想都難以保證其真實性，這使得眾多研究人員開始將重點從邏輯轉向概率和信念程度（這一點在第3章中提過）。畢竟，我們能夠清楚地區分句意不明但為真、句意不明卻為假的句子。但是，概率很快就會遇到與邏輯同樣的難題：會出現可能為真卻無關的結論，會有可能為真卻難尋的結論，會有無對立信息才可得出的結論，更會有一些與得出結論無關的方法。
至於表示問題，也存在不少疑問。如果麥卡錫提出的一階謂詞演算不合適，那什麼更合適？我們可以考慮使用英語（或其他人類語言）作為符號表示語言。我們會使用「bears hibernate」來表示「熊冬眠」的信息。也許知識庫的容量足夠大，能夠存儲一系列英文單詞。我們在書中使用英語，但也能夠在線提供英語信息。事實上，將英語作為表示語言的最大障礙在於第二個問題——推理。（顯然，表示和推理問題相互依存。）系統如何使用英文語句得出結論？特別是，理解這些語句（如解釋威諾格拉德模式中出現的代詞）需要知識背景做鋪墊。如果需要知識才能使用英語，那麼英語本身又怎能成為我們知識的來源呢？至少，我們需要解開這個無限循環的退化謎團。
人工智能研究的子領域之一是知識表示和推理，其研究圍繞表示與推理的問題以多種方式展開。由於受到人工智能其他子領域（如自適應機器學習）研究的挑戰，信念在這些子領域中所佔的份量極少，有關知識表示和推理問題的研究進展緩慢。一方面，其他子領域的研究進展卓越；另一方面，它們卻都沒有試圖解釋那些需要廣博背景知識的行為（如第4章所述）。