一九四七年六月三十日，冀魯豫大平原上皓月當空。
在黃河中下游河南與山東交界處，一聲炮響之後，自臨濮至張秋鎮約一百五十公里的河段上，晉冀魯豫野戰軍十餘萬人馬開始由北向南強渡黃河。
橫亙於中國國土中部的這條大河，以渾黃的河水舉世聞名，更以凶險的水情讓任何一支試圖跨越它向對岸實施攻擊的軍隊望而卻步。因為中原地理位置的格外重要，這條大河自中國的春秋時期起，便目睹了無數次慘烈的戰爭景象。但是，對於一九四七年六月間的那個夜晚，無論事後的敘述使用了怎樣壯懷的詞彙，當時的情景卻完全出乎晉冀魯豫野戰軍將領們的預料。
新華社記者李普現場報道：
沿岸八個縣的水手，都參加了渡河工作。自從解放軍開始渡河以來，蔣介石的飛機日夜頻繁騷擾，但未能阻止我大軍前進。船隻分大小兩種，於去年十一月開始建造，大的可以載運十輪大卡車兩輛，小的可以載運三四十個人。水手們興奮地談說三十日晚上的動人情景：那天，第一次載運突擊隊的時候，大家悄悄地、緊張地動作著。河這邊看著表，從開始到突擊隊抵達對岸放信號槍，恰恰是五分鐘。有許多渡口是在猛烈的炮火下強渡的。在我經過的這個渡口，由一部分蔣軍和還鄉團防守，那天晚上蔣軍們逃得很快，蔣介石的忠實走狗還鄉團還在做夢。等到他們知曉的時候，已經做了俘虜。解放軍就是這樣在五分鐘之內粉碎了被蔣介石吹噓的黃河天險等於四十萬大軍的神話。當記者和水手們談起蔣介石的這個神話的時候，他們都莫不哈哈大笑。他們都是黃河上乘風破浪的老把式，他們展開了立功運動，看誰的船快，誰渡的次數多。十年前他們駛著船來往於濟南、開封之間，他們說：等到把這兩個地方解放後，就有生意做，黃河又要活躍起來了。
黃河的臨濮至張秋鎮段，是國民黨軍分割山東解放區與晉冀魯豫解放區的邊界。至少就防禦而言，他們有充分理由在此部署巨大的兵力，以利用黃河天塹「防止共產黨軍隊在被壓縮得很狹窄的區域中流竄出來」。但是，由整編五十五師和整編六十八師共同構成的河防防線形同虛設。
晉冀魯豫野戰軍主力強渡黃河的那天，國民黨方面正在開會討論是否對共產黨「正式頒布討伐令」。沒有史料確切地表明國民黨的高官大員們對黃河岸邊發生的軍事行動有過分的驚駭。蔣介石最初的判斷是：「劉、鄧向北流竄不成，企圖向南奪路。」參謀總長陳誠的語氣更是輕描淡寫：「共軍劉伯承回竄魯西，對戰局稍有影響。」倒是毫無作戰經驗的美國駐華大使司徒雷登預感到了什麼，他堅持認為共產黨軍隊在這個月圓之夜南渡黃河的行動「絕非好兆頭」。
這確實是共產黨人精心策劃的一次意義重大的軍事行動。
為了「將戰爭引向國民黨區域」，共產黨人制定了三軍挺進，「經略中原」的戰略部署：以晉冀魯豫野戰軍主力，由司令員劉伯承、政治委員鄧小平指揮，從國民黨軍南線的中部實施突破，攻佔魯西南，躍進大別山，以淮河以南、長江以北、平漢路以東、淮南鐵路以西為作戰範圍。這路作戰部隊通稱「劉鄧大軍」。以晉冀魯豫野戰軍一部，由第四縱隊司令員陳賡、政治委員謝富治指揮，從晉南南渡黃河，挺進豫西，以黃河、渭水以南、漢水以北、平漢路以西、西安以東為作戰範圍。這路作戰部隊通稱「陳謝大軍」。以華東野戰軍主力，由司令員兼政治委員陳毅、副司令員粟裕指揮，挺進魯西南，進軍豫皖蘇邊區，以黃河以南、淮河以北、平漢路以東、運河以西為作戰範圍。這路作戰部隊通稱「陳粟大軍」。
共產黨人的三路大軍呈「品」字形配合作戰，目標直指國土腹地的國民黨控制區域。
從解放區內部向外線出擊，從戰略防禦轉為戰略進攻，突擊的矛頭首先指向哪裡？共產黨人的選擇是：大別山。劉伯承說：「大別山，雄峙於國民黨首都南京與長江中游重要城市武漢之間鄂、豫、皖三省交界處，是敵人戰略最敏感而又最薄弱的地區。這裡又曾經是一塊老革命根據地，有經過長期革命鬥爭鍛煉的廣大群眾，多年來一直有我們的游擊隊堅持鬥爭，我們容易立足生根。我軍佔據大別山，就可以東懾南京，西逼武漢，南扼長江，瞰制中原。『臥榻之旁，豈容他人鼾睡』？蔣介石必然會調動其進攻山東、陝北的部隊回援，同我們爭奪這塊戰略要地，這就恰恰可以達到我們預期的戰略目的。」
毛澤東致電劉鄧大軍：採取躍進的進攻形式，「下決心不要後方」，長驅直入，一舉插進敵人的戰略縱深，「佔領大別山為中心的數十縣」，建立革命根據地，「吸引敵人向我進攻打運動戰」。
不要後方的軍事行動是孤注一擲的行動。
七月四日黃昏，劉伯承和鄧小平在壽張縣蔡樓渡口乘坐一條大木船渡過了黃河。星垂曠野，月映中流。半渡時，天上來了飛機，投下的照明彈將黃河河面照得如同白晝。劉伯承和鄧小平讓船工們別害怕，說這是蔣介石怕咱們夜間渡河看不見特地來點燈了。船工們起勁地划槳。船靠南岸之後，劉伯承和鄧小平立刻消失在夜色中。船工們聚集在一起，很是感慨了一番，說共產黨隊伍裡有這樣的將軍定能成大事。正說著，一個小兵跑了回來，懷裡抱著一大塊豬肉，說這是剛才渡河的首長給船工們的謝禮。
晉冀魯豫野戰軍主力強渡黃河後，為堵塞黃河南線已被扯開的防禦缺口，國民黨軍緊急做出應對部署：從豫北調整編三十二、六十六師，從皖西北調整編六十三師一五三旅，從豫皖蘇地區調整編五十八師的兩個旅，連同魯西南地區的整編七十師，統一歸屬從魯中調來的第二兵團司令官王敬久指揮，分兩路向魯西南的定陶、巨野方向推進。同時，命第四綏靖區司令官劉汝明部的整編五十五師和整編六十八師，死守黃河以南的鄆城與菏澤地區。國民黨軍的軍事調動出自一個簡單明瞭的目的：以一部死守定陶和鄆城，吸引劉鄧部主力，待其久攻不下時，東、西兩路展開鉗形攻勢，將劉鄧部主力壓縮於隴海路、黃河與大運河的三角地帶，使之或者背水決戰，或者退回黃河以北。
此刻，蔣介石並沒有判明劉鄧大軍主力南渡黃河的真實意圖。
劉伯承和鄧小平渡過黃河後，住進一個名叫河西的村子。房東是個老實忠厚的農民，叫包承章，全家四口，六間磚泥房。主人把其中的四間騰出來，打掃乾淨，擺上了一張八仙桌和一把茶壺、幾隻茶碗。劉鄧大軍指揮部的電話和電台設在包承章家旁邊的包承全家裡，兩家之間是一小片茂盛的桑樹林，指揮部的汽車就隱蔽在林子裡。劉伯承穿著灰色的軍衣，鄧小平穿著白色的襯衣，倆人坐在包承章家院子裡的大槐樹下，戰士們向主人討來些開水，並在桌子上的茶盤裡放了些冰糖塊。一群衣衫破舊的孩子在他們身邊玩耍吵鬧，劉伯承和鄧小平偶爾停下正在商量的事，招呼著孩子們，往他們黑乎乎的小手裡塞塊冰糖。
此時，晉冀魯豫野戰軍主力已全部渡過黃河。他們是：第一縱隊，轄一、二、十九、二十旅，司令員楊勇、政治委員蘇振華；第二縱隊，轄四、五、六旅，司令員陳再道、政治委員王維剛；第三縱隊，轄七、八、九旅，司令員陳錫聯、政治委員彭濤；第六縱隊，轄十六、十七、十八旅，司令員王近山、政治委員杜義德。還有晉冀魯豫軍區獨立一旅，旅長蔡愛卿、政治委員崔健功。
劉伯承、鄧小平向中央軍委報告了南渡黃河的總兵力：十二萬三千五百一十八人。
十二萬大軍渡過黃河，向國民黨軍迎面撲來，發生於中原的劇烈戰鬥已是不可避免。
劉鄧大軍的意圖是：利用東路來敵尚未到達作戰區域之機，搶先攻擊兵力較弱的西路來敵，以使突入中原的部隊建立一個能夠站住腳的戰場。具體作戰部署是：一縱四個旅攻擊鄆城，六縱和二縱的一個旅攻擊定陶，二縱的兩個旅攻擊曹縣，其餘部隊擔負穿插掩護任務。
鄆城是魯西南的一座古城，作戰雙方都對這座古城感興趣的原因是：晉冀魯豫野戰軍希望以攻擊行動吸引國民黨軍主力來援，以創造各個擊破的戰機；而國民黨軍企圖通過對鄆城的頑強防禦，將晉冀魯豫野戰軍主力牽制於城下，給東、西兩路部隊贏得形成鉗擊的運動時間。
鄆城城防工事堅固，磚質城牆高七米以上，四座城門都建有碉堡群，街巷中的火力體系也相當完備。守軍為國民黨軍整編五十五師。
七月四日黃昏，一縱對鄆城發起了猛烈的攻擊，國民黨守軍很快就發現，利用鄆城的堅固工事迫使晉冀魯豫野戰軍盤桓於此的希望十分渺茫。攻擊的炮聲驟然響起時，正在召集軍事會議的整編五十五師師長曹福霖立即命令軍官們迅速返回部隊，但往回跑的軍官近三分之一因被炮火所傷未能到達指揮位置。僥倖安全返回城南關的八十七團代理團長余克浚立即部署防禦作戰。他把他的部隊分成三個梯隊，還特別為可能發生在壕溝裡的肉搏戰做了準備。八十七團的作戰部署剛剛下達，猛烈的炮火就把團部的圍寨轟開了，緊跟著一縱的官兵衝了進來，余團長幾乎還沒有反應過來就被俘了。余克浚放下武器走出團部，看到十幾名共產黨士兵整齊地站在門外，「四周的工事裡也整齊地伏著戰士的行列」。——「這使我十分佩服，這是我理想中的好隊伍，二十年來我所夢想的就是這樣的隊伍。」
在一縱二十旅拿下南關的同時，一旅也佔領了城西關。
七日黃昏，當接近城牆的交通壕全部挖好之後，總攻開始了。在炮火掩護下，一縱二十旅突擊隊突上了城牆，但是遭到守軍的兇猛反擊。一旅一團六連連續爆破，終於把城牆外的鹿砦炸開一個大缺口。八班長溫好然頭部中彈，依舊抱著炸藥包往上衝，衝到外壕邊沿時，他的手部再次中彈。連長命令他下去包紮，他死也不肯。在隨部隊登城時，溫班長的腰部再次中彈，倒下去的時候他朝戰士們喊：「趕快進去打敵人！進去千萬不要犯紀律！」溫班長平時對戰士很好，新戰士哭了起來。副班長萬祥勳說：「別哭！找敵人算賬去！我只要不死就一定領著大家干！」守軍的反擊十分頑強，打到跟前還不肯放下武器。九連一排長孫先居帶領的小組傷亡很大，他惱火了，一躍而起，竟然抓起正在射擊的兩挺機槍的槍管，硬是把守軍的機槍搶了過來。
一縱各旅相繼突破後，進入城內沿著街巷頑強攻擊，目標直指設在城中教堂裡的整編五十五師師部。
當師部受到攻擊的時候，師長曹福霖換上便衣，與少數隨從一起，秘密地從城東關逃出，一路向東逃到了嘉祥。但副師長理明亞沒有如此幸運，他潛逃出去之後，在城外的莊稼地裡被配合作戰的民兵發現。他說他是伙夫，民兵們不信，因為他有一支漂亮的美式手槍，民兵們說：「如果不說實話就用刺刀穿了你。」理副師長立即坦白了自己的身份。當他交出財物時，民兵們拒絕了，說共產黨有政策，只繳他的槍不繳他的金子。民兵們將他帶回村裡，給他做了一碗白面麵條，理明亞吃麵條時，看見這些支持共產黨軍隊作戰的民兵們啃的是粗糧野菜饃饃，一時間感動得難以言表。第二天他被送到了晉冀魯豫野戰軍司令部。
鄆城戰鬥結束後，劉伯承、鄧小平總結了城市攻堅作戰的制勝要點：「攻城突擊點的選擇，應在敵人最忽略的地方。為使選定之突擊點不過早被敵發現，他方以積極佯動吸引敵人」。「步炮兵指揮員均架有電話，交通情報非常順暢靈通及時；步兵與炮兵在進展中，炮兵火力始終保持在步兵前面二十公尺的地方，轟擊敵人為步兵開路」。「為防止一個突破口不能成功，亦可選定數個突破口，但於一個突破口成功後，位於其他突破口的突擊部隊，應立即轉向成功之突破口，協同夾擊敵人，擴大此一突破口」，「如此即須事先令各突擊部隊對每個突破口之地形道路有詳慎之偵察與熟悉」。
一縱攻擊鄆城之時，六縱開始攻擊定陶。定陶國民黨守軍為整編六十三師一五三旅。七月十日晚，六縱十六旅四十七團從東門、十八旅五十二團從北門同時發起進攻，五個小時後，部隊攻入城內將守軍分割圍殲。
戰鬥中，一位被子彈擊中跌下雲梯的排長的傷勢令包括劉伯承、鄧小平在內野戰軍官兵們格外牽掛。這個農民出身的大個子排長二十六歲，曾在國民黨軍中當了六年機槍手，抗戰勝利後，在一次國共軍隊衝突時被俘，隨後留在了共產黨軍隊裡。他不善言辭，性格憨厚，高興的時候喜歡擺弄自己的機槍，能蒙著眼睛把一挺最新式的機槍快速分解成零件，然後又飛速地重新裝配起來，不高興的時候，他就說些「共產黨就幾條破槍，根本打不過國民黨」和「共產黨幹部就會收買人心，明天上戰場還不是拿著匣子槍逼你去拚命」之類的怪話。官兵們都說他是「最難改造的那種大頭兵」。一九四六年冬季裡的一天，連隊指導員讓他講講曾經受過的苦，大個子頓時哭了起來。他是安徽阜陽水圍子人，五歲那年，父親因拖欠租子被地主打斷腿，爬回家沒幾天就死了。他家的房子被地主頂了租，母親帶著他和弟弟到處流浪討飯。十七歲那年，保長把他抓到國民黨軍隊裡。因為擔心母親和弟弟，他逃過三次，每次被抓回來都被打個半死。他有生以來第一次對別人傾訴自己的苦難，官兵們說一定要找到那個地主算賬。部隊打蘭封時，他的機槍槍管都打紅了。戰後指導員表揚他作戰勇敢，他坦誠地說戰鬥開始前他想溜號，因為在國民黨軍隊時長官說共軍打仗都讓俘虜兵打頭陣送死。但是，他親眼看見了，戰鬥中幹部們都衝在最前面。他說：「人心都是肉長的，以後看我的。」很快，他當了班長入了黨。在一次戰鬥中，他帶領全班面對國民黨軍的瘋狂攻擊，堅守陣地一個晝夜，不但守住了陣地，而且全班無一傷亡。他的班被評為「模範戰鬥班」，他被評為「殺敵英雄」，他的名字出現在一九四六年十二月十日的《解放日報》上。報紙上寫道：「黨的教育，使王克勤從一個蔣介石手下的愚昧的奴隸，轉而與廣大人民相結合，很快地變成一員智仁勇全備的人民戰士。」部隊強渡黃河前，行軍到一個村莊，由於這裡是游擊區，百姓們對共產黨軍隊不瞭解，房東大娘帶著兒媳婦躲了起來。王克勤和戰士們睡在院子外，連房東家的一根草都沒有動。第二天出發的時候，他發現自己的挎包裡多了十二個煮雞蛋和一包香煙。他把一塊銀元留在房東家的桌子上，還留下了一張字條：「我們知道您的兒子被國民黨抓去當兵了，我們一定把他救出來！」在把雞蛋和香煙分給戰士們的時候，王克勤想起了自己生死不明的母親，他說：「記住，咱們要為人民打仗，要當人民的兒子！」七月十日晚上，他提著一筐手榴彈往城牆上爬，國民黨守軍的子彈擊中他的胸部，他一下子從雲梯上跌下來，腿也摔斷了。王克勤坐在地上，一隻手捂著冒血的傷口，一隻手握著信號槍，直到看見突破口被打開，在發射了報告突擊成功的信號彈之後，他才倒下。戰士陳群背著他往救護所跑，在救護所他醒來了片刻，他對陳群說：「我包袱裡的幾件衣服，分給大家吧，戰鬥打下來，大家缺衣服穿。」由於傷勢嚴重，救護所緊急安排擔架往後方轉運，王克勤在擔架上又甦醒了片刻，這一次，他對陳群提出了個要求：「替我給毛主席寫封信，就說是共產黨把我救了……」立志要當人民的兒子的大個子排長王克勤死在了擔架上。
一九四七年七月十八日，晉冀魯豫野戰軍司令員劉伯承撰寫了《悼念王克勤同志》一文：「王克勤同志一年來建立了很多戰功，樹立起戰鬥與訓練、技術與勇敢結合的為我全軍所學習的新的進步的範例。我們對於他這種為人民立功不顧一切奮勇殺敵的犧牲精神和高尚品質，表示無限的崇敬。」
「做人民的兒子」，這是無論從倫理上還是從道理上，都令國民黨軍困惑不已的說法。而更令國民黨軍恐懼的是，成千上萬的貧苦百姓寧願犧牲一切，也要支援共產黨軍隊作戰。劉鄧大軍強渡黃河南下的時候，黃河北岸解放區的支前民工多達百萬，僅隨軍行動的擔架隊員和運輸隊員就達八萬。魯西南的百姓自己吃糠咽菜，卻為晉冀魯豫野戰軍準備了數量充足的物資，僅巨南縣，三天之內就把一百四十萬斤麵粉送到了前沿。百姓們說：「哪怕十天不睡覺，也要讓部隊吃飽飯！」巨南縣的婦女十五天內縫製了兩萬兩千多雙鞋子送到官兵們手中。共產黨軍隊攻打鄆城的時候，由民兵組成的戰場外圍封鎖線長達百餘里，村村設崗，晝夜巡邏，令潰敗的國民黨官兵幾乎無路可逃。
鄆城、定陶失守之後，國民黨軍收縮了戰線。第二兵團司令官王敬久判斷：共軍不是西取菏澤，便是東取濟寧。於是，他將整編七十師調到巨野東南的六營集，將整編三十二師調到金鄉以北的獨山集，將整編六十六師調到金鄉西北的羊山集，自己則率指揮所和炮兵營到達了金鄉。國民黨軍在菏澤與濟寧之間擺成了一條長約五十公里的長陣。
此時的第二兵團是臨時拼湊在一起的，王敬久對自己指揮的部隊基本都不瞭解。但是，金鄉是他的老家。回到老家的王敬久心情不錯，因為他修建的一座新居已接近完工。七月十二日，就在他大宴賓客慶祝新居落成的時候，突然傳來消息，晉冀魯豫野戰軍已出現在整編七十師駐地六營集附近，有分割國民黨軍的企圖。王敬久立即命令整編七十師南移，向位於獨山集的整編三十二師靠攏。可是，沒過多久，傳來了整編七十師移動受阻的消息。王敬久立即改變主意，命令獨山集的整編三十二師北移，向六營集的整編七十師靠攏。王敬久的意圖是：不管劉鄧部的意圖是什麼，先讓自己的部隊收攏了再說。
王敬久擺出的長蛇陣是個容易被各個擊破的部署，而且他為他的部隊選擇的集結位置同樣危機四伏，除了整編六十六師所在的羊山集外，其餘各部隊都駐紮在地形狹窄的村莊裡，即使裝備優勢也無從發揮。於是，晉冀魯豫野戰軍主力決定對王敬久部展開攻擊：一縱負責切割王敬久部各師之間的聯繫，然後攻擊位於獨山集的整編三十二師；六縱協同一縱作戰。二縱協同三縱圍殲位於羊山集的整編六十六師。獨立第一、第二旅負責阻擊金鄉的整編五十八師可能的增援。
王敬久比自己的部隊收縮得快，他很快就跑到濟寧城裡去了。
七月十三日，整編三十二師從獨山集出動，企圖向六營集的整編七十師靠攏，但卻受到一縱的猛烈阻擊。由於一縱的兵力不足，整編三十二師除一三九旅遭遇重創外，師部和一四一旅終於進入六營集，與整編七十師會合。
六營集是個僅有兩百多戶人家的小村子，房屋多為土築，根本無法抵擋炮火的攻擊。時值酷暑，國民黨軍兩個整編師的數萬人馬擠在一起，缺糧少水，未戰先亂。整編三十二師師長唐永良與整編七十師師長陳頤鼎商量，決定向東北面的嘉祥突圍。但是，王敬久指揮部來電，命令「堅不准動」。十四日早晨，指揮部再次來電，命令「兩師並進」，經獨山集解整編六十六師羊山集之圍。十四日整整一天，突圍戰鬥沒有取得任何進展。傍晚，王敬久的命令再次到達，這次是要求唐永良和陳頤鼎死守待援。然而，就在這時，一縱和六縱的總攻開始了。
這是一個悶熱而混亂的夜晚。
六營集的北、西、南三個方向同時受到攻擊。在持續不斷的劇烈的槍炮聲中，唐永良發現東面的戰鬥似乎微弱一些，於是認定那裡是共軍攻擊的薄弱環節，立即命令所有部隊集中向東突圍。六營集的東面是一片很大的開闊地，國民黨軍蜂擁而出的時候並沒有遭遇猛烈的攔截。但是，沒有走多遠，唐永良就後悔了：這裡是共軍有意留出的一個缺口，缺口外是一個早已佈置好的大口袋。
「兵無鬥志，將帥恐慌，是整個國民黨軍的膏肓之症。」在戰鬥中被俘的整編七十師上校參謀處長劉學基說，「劉伯承渡河後，我們王（王敬久）兵團的參謀部就手忙腳亂，朝令夕改，莫知所措了。弄得我們各級參謀人員，日夜拿著小紅旗面對軍用地圖，不知該往哪裡插。上下一樣，兩眼漆黑，人人皆知有敵情，但誰也不知解放軍意圖何在。有人說攻下鄆城取菏澤，有人說攻下鄆城取濟寧，直到四日鄆城被圍吃緊，我師集結金鄉後，將帥依然爭論不休。五日奉命轉進嘉祥，但夜達紙坊街時，忽又命令轉到濟寧。連夜馬不停蹄，六日趕到濟寧，人困馬乏。九日又奉命進駐嘉祥。待十一日進抵楊官屯後，忽聞羊山集六十六師被圍，於是全部人馬大吃一驚。」——整編七十師接受美式裝備訓練足足一年半，剛上戰場就陷入慌張混亂的調動中，它最終覆滅的時刻來臨了。
當時天黑，大家爭著往外跑，一出六營集不到十公尺，班長就找不到士兵了。人喊馬叫，槍聲從四面八方打過來，亂兵像瘋人一樣，向東跑一陣，一聽槍聲，又轉身向西跑一陣，炮車、彈藥、馱騾、馬騎、牛車全部失掉管制，那真是亂兵、亂將、亂人、亂馬、亂車、亂炮、亂衝、亂撞、亂喊、亂叫。彩號病號和被撞倒擠倒了的人，都來不及重新站起來，就被人馬活活踏死……一七七團二營營長江樹屏負傷臥倒，被師長的馬踏死，而正副師長也終於丟掉了帽子之後，身邊只剩下一個衛兵而被俘。
十五日天亮時，除整編三十二師師長唐永良帶領少數隨從突出去之外，包括整編三十二師一三九旅旅長唐化南在內的三千五百名國民黨軍被打死，被俘者達一萬五千人之多，其中有整編七十師中將師長陳頤鼎和少將副師長羅哲東。
沒過多久，驚魂未定的陳頤鼎和羅哲東接到了赴宴的邀請。宴請他們的是晉冀魯豫軍區副參謀長王世英，王世英與他們兩人是黃埔軍校的同學。酒過三巡，羅哲東回憶起大革命時期的生活：「那個時候，革命軍的士氣是什麼樣子？與現在你們一樣。革命軍的人數很少，只有幾桿破槍，把北洋軍閥打垮了……那時候黃埔同學一見面，就問誰當了烈士，沒有一個人怕死，以死為光榮。可是今天，這些東西都一去不復返了。」
接下來，攻擊羊山集的戰鬥異常殘酷。
蔣介石認為，劉鄧部隊連續作戰，傷亡巨大，已是強弩之末。只要整編六十六師在羊山集把共軍主力牽制住，待各路增援部隊迅速到達後，就可形成與劉鄧主力決戰的態勢。於是，他一面命令整編六十六師師長宋瑞珂死守羊山集，一面命令國民黨軍各路增援部隊向羊山集快速集結。
羊山集的名字來自羊山。本是一馬平川的魯西南平原，在金鄉和嘉祥一帶突隆起幾個小山包，羊山便是其中之一。小山下是個有著上千戶人口的大村子，村莊四周是日偽佔領時期修建的很深的壕溝。整編六十六師進入羊山集後，連日的大雨使壕溝裡灌滿了水，依山環水的地勢使這裡易守難攻。
對於劉伯承和鄧小平來講，迅速攻下羊山集就可掌握戰場主動，如果久攻不克，就會面臨被各路國民黨軍增援部隊圍殲的危險。國民黨軍陸軍總部徐州司令部參謀長郭汝瑰在日記中記述道：「羊山集命運決於此數日內，如共軍不能將其攻下，則魯西會戰共軍即系失敗。」
七月十一日，王敬久親赴羊山集檢查防禦。
十五日，晉冀魯豫野戰軍第二、第三縱隊開始了對羊山集的攻擊。
整編六十六師系國民黨軍嫡系部隊，老兵多，作戰頑強，火力強勁，當晉冀魯豫官兵已經攻進村時，整編六十六師組織起猛烈的反擊，很快就奪回了被佔領的陣地。為了盡快解決戰鬥，二縱和三縱不斷加強攻擊力量，不顧一切地反覆衝鋒，部隊出現巨大的傷亡。三縱八旅二十二團屢次攻擊無效，二營長吳錫山決心一死。他給團長徐學忠打電話說，如果我犧牲了，所有的錢都交黨費，還要通知我的母親。放下電話，吳錫山便率領全營再次發起衝鋒，衝在最前面的他很快中彈身亡。二十三團和二十四團也在佔領陣地後因無法堅持退了下來。二縱六旅曾在羊山集的西南角打開了突破口，國民黨守軍一度退到十字街的核心陣地，但是由於沒有控制制高點，突擊部隊受到敵人側射火力的猛烈射擊。旅長周發田組織人員衝上去，去搶犧牲烈士的遺體，從他面前抬走的每一個人他都異常熟悉：十八團一營營長劉佩均、副營長王春成，二營教導員馬瑞昌，三營副營長馬金柱，作戰參謀曹振東……
負責打阻擊的六縱十六旅被緊急調來羊山集。在向羊山集開進的途中，尤太忠旅長看見沿途的玉米地裡躺著二縱的傷員還沒有轉運下去，就命令部隊組織搶運，而自己先去二縱指揮所向陳再道司令員報到。十六旅的官兵搶救傷員時心神不定，因為他們的任務是攻擊羊山集，幹部們催促戰士快走，戰士們卻捨不得把傷員扔下。尤太忠旅長知道二縱和三縱這幾天攻擊受挫，但十六旅此刻的作戰條件也不成熟，至少部隊連地形都還沒弄清楚呢。可是，當聽說國民黨軍的增援部隊就要趕到時，尤太忠毫不猶豫地決定當晚發動攻擊，並指定作戰能力很強的四十六團擔任主攻。
四十六團對羊山集的攻擊過程，成為這支部隊倖存者終生都感到遺憾的一件往事。炮火還沒有上來，團長唐明春要求準備之後再發動攻擊，但是他得到了「大局之下準備犧牲」的命令。國民黨守軍的火力十分兇猛，沒有炮就只能用炸藥包去炸。一營十幾個人的工兵班輪番爆破，敵人的火力點沒有炸掉幾個，這個班很快就全班陣亡了。整整一個晚上，尤太忠的望遠鏡就沒有放下過，他反覆交代前沿部隊：抓住了陣地就要鞏固！不要被反下來！能佔多少算多少！
四十六團二連長張天才，長臉，大眼睛，樣子憨厚，打起仗來卻膽子奇大，動不動就要刺刀見紅。在攻下兩個前沿陣地後，由於後續部隊沒跟上來，張天才奉命原地等待。此時，他的連隊抓的七十多名俘虜成了累贅，由於犧牲，連隊人已很少，既要看守陣地，還要看管俘虜。敵人再次進攻的時候，俘虜突然開始搶奪槍支，國民黨守軍趁機衝擊，年僅二十一歲的張天才連長被亂槍擊中。連長的陣亡令早已嚴重減員的二連無法組織起有效的作戰，還活著的官兵開始往下撤。正向這裡趕來的後續部隊看見前面撤了，也開始往回撤，他們不知道，國民黨守軍的火力跟著就追射過來——這是令四十六團老兵不堪回首的往事。四十六團拼盡了全力。全團陣亡排以上幹部十三人，戰士六十五人，幹部受傷三十四名，戰士受傷四百四十八人。張天才連長的二連活下來的只有負傷的機槍班長和四名戰士。挑著白饅頭往陣地送飯的炊事員，看見遍佈在戰場上的屍體號啕大哭，任誰勸也勸不住，這個老兵坐在地上哭了很長時間。
天像被連日的炮火打漏了一樣，大雨數日傾瀉不止，整個羊山集一片泥濘，壕溝裡的水已經齊胸高。攻擊部隊的官兵只穿一條褲衩站在壕溝裡，個子矮的只在水面上露出一個腦袋。傷員的傷口被雨水泡得發白潰爛，大雨令運送工作無法進行。那些戰死者的屍體在積水中很快腐爛，發出令人窒息的氣味。
大雨中，蔣介石的專機降落在開封機場。
蔣介石嚴令宋瑞珂死守羊山集，嚴令王敬久立即率整編五十八師和整編六十六師一九九旅北渡萬福河增援羊山集。同時，從西安和潼關急調整編第十師、騎兵第一旅，從洛陽急調青年軍二六師，從豫北急調整編四十師、從武漢急調整編五十二師八十二旅，從魯中急調整編第五、第七、四十八、八十五師，由第四兵團司令官王仲廉統一指揮，馳援羊山集，蔣介石知道戰事已經到了最後關頭，抓住劉鄧部久攻不利的機會，就有可能製造一個將十多萬共產黨軍隊徹底殲滅的軍事奇跡。
劉伯承和鄧小平調整了作戰部署，決定在繼續攻擊羊山集的同時，抽調一縱十九旅和冀魯豫軍區部隊在萬福河北岸阻擊援敵，適時放開一個缺口，讓從金鄉增援而來的整編六十六師一九九旅北渡萬福河，然後立即切斷該旅與隨後跟進的整編五十八師的聯繫，集中主力將敵一九九旅全部吃掉。
二十二日，王敬久對整編五十八師師長魯道源說：「六十六師是陳誠的基本部隊，你必須去解圍，否則陳參謀總長不會饒恕你。」同時，王敬久還向一九九旅旅長王仕翹下達了最後的命令：限即日十二時到達羊山集，否則軍法從事。魯道源師長在傳達這個命令時還附加了一句：「不按時到達，就槍斃旅長。」旅長王仕翹在前進不能後有督戰的情況下心情絕望：「還是讓我自殺了吧！有我在你們也跟著下不了台，我死了你們可以自己去尋找出路！」向羊山集開進的王旅長沒有自殺，當他發現萬福河北岸出現了一個缺口時，立即命令部隊攻擊前進。一九九旅剛過萬福河，就發現與後面的魯道源師長失去了聯繫，連一直緊跟在身後的督戰隊也沒了蹤影。王仕翹意識到：自己的後路被堵死了。這時，他接到報告說，羊山集裡的一個團已經突擊而出迎接他了。王旅長只好率領部隊硬著頭皮繼續前進。滂沱大雨中，一九九旅受到晉冀魯豫野戰軍突然發起的猛烈攻擊。只一會工夫，五九五團團長王鴻詔被打死，副旅長何竹負傷後被俘，王仕翹隻身一人藏在一片高粱地裡，很快就被搜查出來。王旅長對共產黨官兵說：「昨晚我算了卦，知道今天不吉利！」
整編五十八師見勢不妙，退回金鄉去了。
劉伯承、鄧小平的對手已處於不利之勢。國民黨軍各路援軍雖多，但或被阻擊，或尚在途中，或消極觀望，而羊山集裡的宋瑞珂部已是彈盡糧絕。蔣介石感慨宋瑞珂堅守羊山集整整兩個星期，「實屬黨國中堅」。七月二十五日，深陷絕境的宋瑞珂接到了蔣介石的電報：「羊山集苦戰，中正聞之，憂心如焚。望吾弟轉告部下官兵及諸同僚，目前雖處於危急之際，亦應固守到底。希吾弟賴上帝庇護，爭取最後五分鐘之勝利。」
劉伯承和鄧小平上了羊山集前沿。
劉伯承問縱隊指揮員「看了地形了沒有」？有人回答「沒有」。劉伯承火了：「殲敵三千，自損八百，仗打得太蠢！一個指揮員不僅要負殲敵三千之責，也要負自損八百之責！」
二十七日，連綿的大雨驟然停止。傍晚，晉冀魯豫野戰軍主力對羊山集的最後總攻開始了。野炮、山炮、榴彈炮集中火力猛烈轟擊，轟擊的時間長達四十分鐘，羊山集變成了一片火海。各路攻擊部隊在炮火的掩護下，相繼突破了國民黨守軍當面防線。整整一個晚上，交戰雙方的官兵糾纏在一起奮力廝打，咒罵聲、呼喊聲、呻吟聲直至凌晨才稍有平息。天亮後，在飛機的助戰下，國民黨殘餘部隊開始突圍，但是，羊山集已經被晉冀魯豫野戰軍圍得密不透風。
傷亡巨大的二縱六旅官兵一心要抓到宋瑞珂。十八團一營教導員韓鏡發現羊山集村東北角一座帶院牆的樓房像是指揮所，立即命令二連指導員葛玉霞帶領這個連僅剩的三十多名官兵前去攻打這座樓。二連的攻擊剛剛開始，樓裡面就跑出來一個軍官，喊：「不要打了！我們投降！」這個名叫郭雨林的軍官是整編六十六師的參謀長。他投降後對葛玉霞說：「裡面還有長官。」
一個小個子軍官走了出來，向葛玉霞敬了個禮，他就是整編六十六師中將師長宋瑞珂。與宋瑞珂一起走出來的還有：副師長王開石、一八五旅旅長塗渙陶、一八五旅參謀長馬權之、五五三團團長羅玉騰、五五四團團長李祝生。
二十七日夜半，羊山集北側石頭山之制高點被攻佔。當即召集各旅、團長及幕僚人員、直屬營長研究對策。一八五旅旅長塗煥陶說，逐屋守備，還可支持三天。我說羊山集制高點已被佔領，全村情況瞭如指掌，已成甕中之鱉，最多支持到次日中午。塗乃堅持逐屋守備。通信營長陳光復原想建議於天亮之前突出去，見塗堅持要守，未便說出。天亮之後，大雨傾盆，仍繼續戰鬥。到二十八日下午，西北方向已被突破。我認為繼續戰鬥下去，徒招致雙方更多的傷亡，乃派一中尉附員浙江嘉善人某〔姓名記不起〕由羊山集東端出去找解放軍的一個連指導員進來，表示停止戰鬥。
宋瑞珂，一九四六年四月內戰爆發前，他在漢口與共產黨代表簽訂「中原停戰協定」；但是，僅僅兩個月後，他率部首先圍攻中原軍區李先念的部隊。宋師長被俘後說：「你們包圍得太緊，簡直無路可走。炮火猛烈得使我們抬不起頭來。我住的房子也落了很多炮彈，只差這麼一點一切都完了……如果不是報著『固守待援』的心理，早就不打了。可是援兵呢？一紙空文。」
羊山集戰鬥，國民黨軍整編三十二師距整編六十六師只有五公里，整編七十師距整編六十六師只有十公里，但是，各路友軍臨陣脫逃致使整編六十六師被殲。蔣介石下令將第四兵團司令官王仲廉撤職查辦，將整編三十二師師長唐永良送交軍事法庭。國民黨軍陸軍徐州總司令部參謀長郭汝瑰說：「宋瑞珂在此支持兩星期之久可謂難能。王敬久以兩師距宋十公里而不能救，王仲廉二十二日即已集中完畢開始前進，徘徊於冉堌集數日，如兩王均於二十四日以後真面目攻擊，則局面必大異於今日。余深知國民黨腐敗，王仲廉等均只知弄錢。」——誰都知道，一旦到了「文官貪財，武官怕死」的地步，任何事情都不可挽救，可是現在國民黨軍的武官不但怕死，而且「只知弄錢」，這仗還怎麼打？
歷時二十八天的魯西南戰役，晉冀魯豫野戰軍共殲滅國民黨軍四個整編師師部及九個半旅，收復黃河南岸的大片地區。
此戰，在中國人民解放軍戰史中被稱為「戰略進攻的序幕」：「魯西南戰役，是劉鄧大軍外線出擊、進軍中原的首戰。它的勝利，粉碎了蔣介石的黃河戰略，迫使其從陝北、山東、豫北各地抽調八個整編師馳援魯西南，從而打亂了國民黨軍的戰略部署，有力地配合了陝北、山東兩戰場人民解放軍粉碎國民黨軍重點進攻的作戰，揭開了全國解放戰爭由戰略防禦轉入戰略進攻的序幕。」
攻克羊山集的當日，劉伯承、鄧小平鑒於部隊連續作戰，消耗很大，尤其是彈藥消耗一時無法得到補充，致電中央軍委，提出在隴海路南北機動兩個月左右，同時積累南下所需物資和經費，之後直下大別山。
一天以後，毛澤東發來一封被鄧小平稱為「極秘密的電報」，電報的抬頭很是鄭重：劉伯承、鄧小平，陳毅、粟裕、譚振林，華東局，邯鄲局，並告陳賡、謝富治及彭德懷。毛澤東在電報中基本同意劉伯承、鄧小平提出的「保持後方接濟，爭取大量殲敵，兩個月後看情況」，但是接下來的話卻令他們頗為震動：
……現陝北情況甚為困難〔已面告陳賡〕，如陳謝及劉鄧不能在兩個月內以自己有效行動調動胡軍一部，協助陝北打開局面，致陝北不能支持，則兩個月後胡軍主力可能東調，你們困難亦將增加……
局勢的危機很清楚：如果陳謝部和劉鄧部不能及時向外線出擊，以調動向解放區進攻的國民黨軍，特別是不能調動正在全力進攻陝北的胡宗南部主力，則很可能導致「陝北不能支持」。
「陝北不能支持」，共產黨中央將到哪裡去？
七月三十日，劉伯承、鄧小平回電：
連日我們再三考慮軍委梗（二十三日）電方針，確好頃奉艷〔七月二十九日〕電，決心於休整半月出動，以適應全局之需。照現在情況，我們當面有敵十九個旅，至少有十個旅會尾我行動，故我不宜仍在豫皖蘇，而以直趨大別山，先與陳謝集團成掎角勢，實行寬大機動為宜。準備無後方作戰。
多年後，鄧小平回憶說：「當時我們二話沒說，立即復電，半個月後行動，躍進到敵人後方去，直出大別山。」
從魯西南到大別山，直線距離也在一千公里以上。沿途必須通過的是國民黨控制區，目的地是國民黨控制區的腹地。劉伯承和鄧小平把可能遇到的困難預想了一遍，但是他們依舊沒能料到即將開始的大軍南下將是怎樣一段艱辛而危險的征程。