「尾大不掉」這個成語的意思是：獸類的尾巴過長，搖擺起來非常困難，比喻屬下勢強，不聽從調度指揮，也用來比喻事物前輕後重，難以駕馭的現象。「掉」是搖動、擺動的意思。
「尾大不掉」一詞出自《左傳·昭公十一年》。楚靈王把兵權交給最喜愛的弟弟公子棄疾，自己則遊山玩水，可沒想到公子棄疾胸懷大志，不停征伐鄰近的小國，連續滅掉了陳國和蔡國。楚靈王把蔡國的土地賜給公子棄疾，封他為蔡公。公子棄疾的聲望和勢力慢慢壯大起來，楚靈王越來越不放心，有一次問大夫申無宇：「我把棄疾封為蔡公，您覺得怎樣？」
申無宇回答道：「末大必折，尾大不掉，君所知也。」「末大必折」和「尾大不掉」是一個意思：本末倒置之後，末大必折本。
楚靈王沒有聽從申無宇的勸諫，幾年後，公子棄疾趁楚靈王出狩的時機發動軍事政變，一舉攻佔了楚國的國都郢都，楚靈王上吊自殺。公子棄疾搶奪了王位，是為楚平王。
在《國語·楚語》中：范無宇（即申無宇）則是這樣表述的：「夫邊境者，國之尾也，譬之如牛馬，處暑之既至，虻之既多，而不能掉其尾。」虻（meng）是大飛蟲，（wei）是小飛蟲。范無宇說牛馬不能掉其尾，只是拿牛馬作比喻，各種辭典也都沒有解釋「尾大不掉」到底是指哪種動物。
古人講究無一字無來歷，因此「尾大不掉」一定指某一種具體的動物。那麼，哪種動物的尾巴最大呢？以後的典籍中開始頻頻出現大尾羊的記載。《太平御覽》引魏晉間《涼州異物誌》載：「有羊大尾，車推乃行，用累其身。」又引晉人郭義恭《廣志》載：「大尾羊，細毛薄皮，尾上旁廣，重且十斤，出康居。」《宋史》記使臣王延德出使西域的見聞：「有羊，尾大而不能走，尾重者三斤，小者一斤，肉如熊白而甚美。」在這些記載中，尾大不能走，需車推乃行的描述非常突出。
到了元代，大臣耶律鑄寫了一篇《大尾羊賦》，序曰：「端卿持節使博囉，或曰舊康居也。其國多羊，羊多大尾，其大不能自舉，土人例以小車使引負其尾，車推乃行，且乞余為道其所以，乃為之賦。」耶律鑄在賦中感歎道：「尾大不掉，可怪也夫。」元代詩人白湛淵有《詠羯詩》一首：「羯尾大如斛，堅車載不起。此以不掉滅，彼以不掉死。」據此，則這種羊的名字叫「羯」。
明人張燧在《千百年眼》一書中總結道：「尾大不掉，此非喻言也。西域有獸曰羯，尾大於身之半，非以車載尾，則不可行。」至此，「尾大不掉」到底是形容哪種動物尾巴大的疑問渙然冰釋。