《詩經·大車》：「谷則異室，死則同穴。謂予不信，有如皦日。」這是一位女子的誓辭。「死則同穴」即合葬，可見這一習俗從春秋時期就開始了。不過，有史可稽的合葬第一人，乃是大名鼎鼎的周公。
據《禮記·檀弓上》載：「季武子成寢，杜氏之葬在西階之下，請合葬焉，許之。入宮而不敢哭。武子曰：『合葬非古也，自周公以來，未之有改也。吾許其大而不許其細，何居？』 命之哭。」季武子是魯國的正卿，他要修建陵寢，杜氏之墓剛好位於西階之下，杜家的後人請求允許他們將先人合葬，季武子答應了。但是杜家後人入宮遷葬的時候卻不敢哭，季武子說：「合葬不是古制，而是從周公開始的，到現在也一直沒改變。我允許你們遷葬卻不允許你們哭，這是什麼道理呢？」於是允許杜家的後人為先人哭泣。
接著，這一章又記載了季武子的另一句話：「舜葬於蒼梧之野，蓋三妃未之從也。季武子曰：『周公蓋祔。』」鄭玄註解道：「祔（fu）謂合葬。合葬自周公以來。」舜的時代還沒有合葬之制，正如孔穎達所說「以古代不合葬，且天下為家，故遂葬於蒼梧之野」，「古不合葬，故舜之三妃不就蒼梧與舜合葬也」，「周公以來蓋始附葬，附即合也，言將後喪合前喪」。
《禮記·檀弓上》在同一章還講了孔子為父母修合葬墓的故事，從中可以看出上古時期的葬制。「孔子既得合葬於防，曰：『吾聞之，古也墓而不墳。今丘也，東西南北之人也，不可以弗識也。』於是封之，崇四尺。孔子先反，門人後，雨甚，至，孔子問焉，曰：『爾來何遲也？』曰：『防墓崩。』孔子不應。三，孔子泫然流涕曰：『吾聞之，古不修墓。』」
孔子在「防」這個地方為父母修建了一座合葬墓，說：「我聽說古時候墓而不墳，我孔丘乃是東西南北四處漂流之人，不能不作一個標記。」於是修了一個高四尺的墳頭。修完後孔子先回了家，弟子們回來晚了，孔子問道：「你們怎麼回來得這麼晚啊？」弟子們回答說：「您走了之後下大雨，墓被雨淋壞了，我們重新將它修好，因此花費了一些時間。」孔子聽了這番話，半天沒有回應，弟子們說了三遍，孔子才流著眼淚說：「我聽說古時候不修墓。」
從這個故事可知，在春秋時期之前，第一「墓而不墳」，只有墓而不立墳頭，第二「古不修墓」，墓壞了也不會再修好，第三，此時已經實行了合葬之制。孔子之所以「泫然流涕」，乃是因為修墓違反了古制。孔子一生「吾從周」，遵從的是周代的禮儀制度，於此可見一斑。