舉凡漢語文化圈的人，一說起「地老天荒」這個成語，腦海裡立刻就會浮現出一幅甚至類似於史前時代那樣遙遠荒涼的畫面。「地」和「天」本是空間概念，配上「老」和「荒」之後居然變成了時間概念，極言歷時之久遠。
「老」本用於人，七十曰老，轉而用之於地和天，形容衰老，比如李賀「天若有情天亦老」的詩句。因此，天地若老必須有情，或天地本身有情，或觀照天地的人有情，正如湯顯祖戲曲《紫簫記》中的名句：「合影連心，昆明池館。織女臨河，仙郎對岸。地老天荒，海枯石爛。永劫同灰，無忘旦旦。」男女同誓，其情可知。
「老」義既明，那麼，「天荒」的「荒」到底有多「荒」呢？《說文解字》：「荒，蕪也。一曰草淹地也。」這是「荒」的本義，又可以引申為「遠」，而且遠的距離有非常具體的所指。據《尚書·禹貢》記載，上古時期，以王畿為中心，五百里為一區劃，由近及遠共分為甸服、侯服、綏服、要服、荒服，合稱「五服」，「服」乃服事天子之意。據此則荒服為二千五百里之外。
古時交通不便，如此遙遠的距離，在古人的心目中已經遠在天邊之外，賈誼《過秦論》稱秦孝公「有席捲天下、包舉宇內、囊括四海之意，併吞八荒之心」，荒服本已極遠，而竟至於「八荒」，可見野心之大。因此古人將「荒」配以天，稱作「天荒」，極言遠在天外。王充在《論衡·恢國篇》中說：「匈奴時擾，正朔不及，天荒之地，王功不加兵，今皆內附，貢獻牛馬。」匈奴相比漢朝當然極遠，故稱「天荒之地」。
「天荒」甚至還比附於人事。五代王定保所著《唐摭言》記載了這樣一個故事：「荊南解比，號『天荒』。大中四年，劉蛻舍人以是府解及第，時崔魏公作鎮，以破天荒錢七十萬資蛻。蛻謝書略曰：『五十年來，自是人廢；一千里外，豈曰天荒。』」劉蛻是荊南人（今湖南長沙一帶），在唐朝的科舉考試中，荊南地區五十多年來從無一人中舉，時人號為「天荒」。唐宣宗大中四年（850年），劉蛻終於考中進士，荊南節度使崔鉉特地獎勵他七十萬貫錢。劉蛻寫信致謝，說：「五十年來只因荊南人不爭氣才沒有中進士，況且荊南離長安也只有一千里的路程，怎能稱為『天荒』？」
這就是「地老天荒」的來歷，同理也可以寫作「天老地荒」。