國民黨蔣介石集團不甘心其失敗,企圖重新控製平漢路,繼續圍攻大別山,乃急令孫元良兵團由鄭州南下;第5兵團則由南陽經確山、駐馬店北上,實施南北對進夾擊我軍,以防我軍南下。鄭州之敵孫元良兵團,由於接其防務的裴昌會兵團被我西北野戰軍牽製而尚未出動;南路敵第5兵團的李鐵軍即率領整編第3師由南陽北上。
根據敵人的這一態勢,陳司令員馬上命令13旅陳康旅長,變“牽牛”為“趕牛”,立即率部緊迫李鐵軍不放。李鐵軍被趕到平漢路後,陳司令員決定由第11旅來接替第13旅的任務,而讓13旅準備參加“宰牛”。他風趣地說: “陳康‘牽牛’有功,應該讓他參加‘宰牛’,不讓他們吃點‘牛肉’,陳康可能要說怪話哩!”
李鐵軍率整編第3師從西麵過來後,就咬住我軍第11旅不放,並將其當成了大部隊,陳司令員也就將計就計,令第11旅佯裝大部隊在前麵走,讓敵在後麵緊跟:如果敵沒有跟上來,就乘機就近攻取城鎮;第11旅於12月15日攻克確山後又往北走,李鐵軍連忙跟來。18日第11旅占領駐馬店,敵又連忙向駐馬店跟進。這時,陳司令員已準備好戰場,要實施“宰牛”了,遂令第11旅向遂平靠攏,以便進行合圍。與此同時,他又將情況報告中央軍委,請求華野協助,共同殲滅這股敵人。中央軍委迅速批準了這個作戰計劃,兩支部隊立即向遂平、西平地區集結待敵。
12月21日,整編第3師孤軍深入至遂平以南地區。由於長途跋涉,沿途又不斷遭到我軍阻擊,敵已疲憊不堪,士氣沮喪,軍力不振。22日,該敵進至蔡寨(西平以南15公裏),我軍26旅及79團於西平以南石羊河、鄧莊地區繼續遲滯消耗敵人,等待華野主力集結。23日,敵人遭到我軍頑強阻擊,5小時隻前進2.5公裏。24日6時至12時,敵人以1個團的兵力,在猛烈炮火支援下,再次向我軍焦店陣地連續攻擊,均被我軍擊退。
這時,我軍主力部隊迅速向譚店一線集結準備對敵發起攻擊,華野部隊亦沿平漢路向南急進。敵見形勢不妙,便開始向東南方向撤退,當夜蝟集於祝工砦(遂平、西平間)、金鋼寺地區,倉促轉入防禦,企圖固守待援。
25日拂曉,我軍形成了對敵之包圍。19時,我軍按預定計劃對敵發起攻擊。第10旅、22旅、26旅經一夜激戰,至26日拂曉前,除祝王砦、棗子牙之敵尚未就殲外,餘敵均被我軍殲滅。同時,華野第3縱隊和第13旅也將金鋼寺之敵20旅全殲。這樣,祝王砦、棗子牙的守敵完全陷於孤立並開始動搖。18時,棗子牙敵整編第3師第8團(欠1個營),在26旅連續攻擊及政治攻勢下瓦解,全團官兵由團長率領向我軍投誠。19時,祝王砦守敵亦分兩路向西、向南突圍,我軍即發起攻擊,一舉突入寨內,守敵除李鐵軍帶少數人逃跑外,其餘全部就殲:此役,我軍俘敵第5兵團少將參謀長李英才、少將副師長路可貞以下6000餘人。
全殲第5兵團整編第3師後,陳賡部與華野集團乘勝揮戈南下,包圍確山守敵整編20師,29日發起攻擊。經兩日激戰,給敵20師以沉重打擊,調動了大別山敵9、10、11等3個師回援平漢線,達到了分散敵人的目的。12月31日晚,我軍撤出戰鬥。至此,平漢戰役即告結束。
是役,曆時22天,殲滅國民黨第5兵團部、整編第3師等正規部隊4個旅又3個團,地方保安部隊6個團,共2萬餘人,解放縣城23座,破壞鐵路420餘公裏,迫敵先後由大別山抽調了13個旅的兵力回援,有力地配合了劉、鄧大軍在大別山的反圍攻鬥爭,並打破了敵打通平漢路的計劃,使我平漢路東西兩區連成一片。