馮異是東漢光武帝劉秀手下的一員大將，劉秀登基第二年，派馮異剿滅赤眉軍，馮異和赤眉軍相持了好幾個月，互有勝負。過了一年，與馮異聯手的另外兩位大將不聽馮異的計策，結果中了赤眉軍的計，大敗，馮異也受到連累，連戰馬都顧不上了，徒步突圍而出，麾下只剩下了幾個人。馮異沒有氣餒，收集殘兵共幾萬人，和赤眉軍約期會戰。會戰前，馮異派遣了一支精壯的敢死隊，人人都換上赤眉軍的衣服，事先埋伏在路邊隱秘之處。兩軍交戰時，馮異故意示弱，赤眉軍眼看著漢軍士氣不振，軍容不整，立刻派來主力部隊，準備全殲漢軍。激戰到下午，埋伏的敢死隊突然衝出，加入戰團，由於他們穿的衣服跟赤眉軍相同，無法辨別身份，又加上都是生力軍，赤眉軍只好敗退，馮異緊追不捨，大破赤眉軍，二十萬赤眉軍全部投降馮異，至此，前後延續十年之久的赤眉起義以失敗告終。
事後，劉秀下詔慰勞馮異，說：「赤眉破平，士吏勞苦，始雖垂翅回溪，終能奮翼澠池，可謂失之東隅，收之桑榆。方論功賞，以答大勳。」這是「失之東隅，收之桑榆」這個成語第一次在史籍中現身。各種辭書都把「東隅」解釋為日出之地，把「桑榆」解釋為日暮，但是「東隅」和「桑榆」為什麼有這樣的含義，卻語焉不詳。
「隅」和「嵎」是通假字，「嵎谷」是神話傳說中的日出之處，因此用「東隅」來指代日出之地。「桑榆」通常解釋為日落時陽光照在桑樹和榆樹的樹頂，因此比喻日暮。此語出自唐人徐堅所撰《初學記》，其中轉引的《淮南子》，在詳細描寫了一天之中太陽從東到西的路途之後，寫道：「日入崦嵫，經於細柳，入虞泉之池，曙於蒙谷之浦，日西垂，影在樹端，謂之桑榆。」崦嵫是神話傳說中的日入之地，細流、虞泉、蒙谷都是太陽落山之前的必經之地。崦嵫大約位於今甘肅天水西境，古時候遍植桑榆二樹，因以為喻。
明白了「東隅」和「桑榆」的來歷，「失之東隅，收之桑榆」這個成語的意思也就明白了：比喻在這個地方失敗了，又在另一個地方得到了補償。聯繫馮異的遭遇，這個說法非常形象：馮異在回溪這個地方「垂翅」，被赤眉軍打敗，但是又在澠池「奮翼」，最終戰勝了赤眉軍。
因為劉秀創造的這個成語，「桑榆」又被後人用來比喻晚年。白居易（字樂天）和劉禹錫（字夢得）晚年都患有眼病和足病，看書、行走不便，白居易產生了消極情緒，寫了一首《詠老贈夢得》的詩寄給劉禹錫：「與君俱老也，自問老何如。眼澀夜先臥，頭慵朝未梳。有時扶杖出，盡日閉門居。懶照新磨鏡，休看小字書。情於故人重，跡共少年疏。唯是閒談興，相逢尚有餘。」針對老友的消極情緒，劉禹錫回復了一首詩，勸解白居易人老乃是一種自然趨勢，既然抗拒不了，就要保持一種樂觀進取的精神。這首詩名為《酬樂天詠老見示》：「人誰不願老，老去有誰憐。身瘦帶頻減，發稀冠自偏。廢書緣惜眼，多炙為隨年。經事還諳事，閱人如閱川。細思皆幸矣，下此便翛（xiāo）然。莫道桑榆晚，微霞尚滿天。」「莫道桑榆晚，微霞尚滿天」從此成為千古名句，鼓勵老年人發揮餘熱，永葆夕陽紅的健康心態。