「後來居上」這個成語的意思是後來的超過先前的，特別用來形容後起之秀勝過了前輩。在今天這是一個褒義詞，但是在這個成語最早誕生的時候，卻是一個地地道道的貶義詞。
這個成語出自《史記·汲鄭列傳》。汲黯是漢武帝時期的著名大臣，這個人的特點是為人嚴正，嚴正到了令人畏懼，甚至令漢武帝本人也畏懼的地步。起初汲黯官拜謁者，為皇上掌管傳達之事。東越的兩族人互相攻伐，漢武帝令汲黯去視察調解。汲黯到了半路的吳縣就回來了，對漢武帝說：「越人相攻，只不過因為他們的性格本來就好鬥，不值得皇上過問，也不值得皇上派我去調解。」此公居然如此明目張膽地違抗詔令，還振振有辭。
河內郡失火，連綿燒了一千多家，漢武帝又派汲黯去視察。汲黯這回倒是真的去了，不過回來說的話更氣人：「有一家人不慎失火，因為鄰居住得密集才蔓延開來，皇上不必擔心。倒是我經過河南郡時，發現河南的老百姓飽受水旱災害，災民多達萬餘家，有的甚至父子相食。我就自作主張，憑著皇上所賜的符節，命令河南郡開倉放糧，賑濟災民。現在我回來了，請皇上治我的矯詔之罪。」此公不務正業，在路上亂管閒事，漢武帝聽了也無話可說，只好把汲黯貶為滎陽令。
誰知汲黯根本看不上這個小小的滎陽縣令，覺得簡直是對自己的羞辱，於是稱病不去上任，回到老家休養去了。漢武帝無可奈何，只好又把汲黯召了回來，官拜中大夫。汲黯仍然改不了老毛病，經常直言相諫，漢武帝實在忍受不了，又把他貶為東海太守。這一次汲黯沒有再任性，在東海太守任上無為而治，自己病怏怏地天天躺在臥室裡睡覺，居然把個東海治理得井井有條，官民人等交口稱讚。漢武帝又趕緊把汲黯召回來，官拜主爵都尉，位列九卿。汲黯的官越做越大。
竇太后的弟弟武安侯田蚡做了宰相，百官來朝賀的時候，年俸中二千石的大官都行跪拜之禮，田蚡非常傲慢，根本就不還禮。他傲慢，汲黯比他更傲慢，見到田蚡的時候作個揖就算作行禮了。
漢武帝好儒學，廣攬天下的文學之士和儒生。汲黯看不過去了，公然在朝堂上進諫說：「皇上您其實內心裡的慾望很多，對外卻偏偏假裝要施行仁義，怎麼能真正獲得唐堯虞舜那樣的功績呢！」漢武帝一聽，照例地沉默不語，但是越想越生氣，不等結束上朝的時間，拂袖而去。回去對近侍發牢騷：「汲黯這個人，真是他媽的又戇又愚！」大臣們都替汲黯擔心，有的還數落汲黯不該這樣赤裸裸地指責皇上，汲黯回答說：「皇上要咱們輔佐他，難道咱們都非要阿諛奉承不可？這不是明擺著要陷皇上於不義嗎？」
漢武帝氣消了以後，也不再怪罪汲黯。相反，大將軍衛青入宮侍奉，漢武帝就蹲在廁所上接見他；丞相求見，漢武帝有時連帽子都忘了戴。可是汲黯求見的時候，漢武帝帽子沒有戴好是不會接見他的。有一次漢武帝坐在武帳中，汲黯前來奏事，漢武帝還沒有戴帽子，一看見汲黯，趕緊躲進帳子裡面，囑咐近侍代他出面，汲黯奏什麼就准什麼。
對丞相公孫弘，汲黯指摘他是小人，「懷詐飾智」，阿諛皇上；對酷吏張湯，汲黯更是一見就上前痛罵他實行苛法，不過就是個刀筆吏，有什麼資格做公卿。以前這兩個人都比汲黯官小，現在反而都爬到了汲黯的頭上。汲黯也不是聖人，心中常常憤憤不平，就對漢武帝抱怨說：「皇上您用人就像堆柴火垛，後來者居上。」漢武帝只好照例地沉默不語，權當耳旁風。
這就是「後來居上」這個成語的出處。汲黯的意思是指漢武帝用人就像堆柴火垛，最後堆上的反而越靠上靠前，把最早堆上的都壓了下去。抱怨漢武帝用人喜新厭舊，當然是一個貶義詞了。如同許許多多的漢語詞彙一樣，在漫長的語義演變中，「後來居上」漸漸走向它的反義，變成了一個誇獎後輩的褒義詞。