1946年8月下旬，陇海战役结束后，刘伯承率晋冀鲁豫野战军主力向北退入其冀鲁豫根据地。统帅部遂决定，挟陇海线战胜之余威，集中郑州绥靖公署主力和徐州绥靖公署一部向鲁西南追击，以期击溃刘伯承部主力，夺取荷泽、济宁等重要城镇。为此，蒋介石于8月25日和30日两次下达命令，要求徐州和郑州两个绥靖公署乘胜追击，限于9月内彻底歼灭刘伯承部，并占领鲁西。根据蒋介石的命令，薛岳于29日下达了作战命令，具体部署为：新21旅（欠63团）配置鱼台保安团，向鱼台、金乡前进，攻占该两地后，继续扫荡该地区解放军，掩护5军及整11师北侧安全；32集团军总司令王敬久指挥5军和整11师分由虞城、砀山、丰县向定陶、荷泽进攻，夺取荷泽广领鲁西地区，尔后准备向巨野、嘉祥、济宁进出；各部队限于9月1日前完成攻击准备，即向当面之解放军展开攻击。
9月1日，徐州绥靖公署所属部队开始行动。此时，薛岳并不知道，就在前一天，刘伯承下达了《定陶战役基本命令》，企图以冀鲁豫军区独立旅协同冀鲁豫第3军分区迟滞徐州方面的国民军，而集中主力5万余人求歼郑州绥靖公署的主力整3师。根据这个部署，负责阻击王敬久所部的解放军为地方部队，实力并不强。然而，整11师和5军又全为重装部队，行动对道路要求很高，而9月初的鲁西南地区正值雨季，道路泥泞，加之道路全被破坏，因此整11师和5军的前进速度非常缓慢。到9月5日，整11师才攻占芳桂集，5军也才进据单县、青固集。6日，整11师与新21旅又分别攻克城武、鱼台。当天，薛岳接到王敬久告捷报告，还没来得及庆祝，郑州绥靖公署战败的消息就传来了：由于郑州绥靖公署主任擅自更改作战计划，命准备会攻定陶的整3师和整47师分别向定陶、荷泽前进，致使整3师主力孤立突出，于当天在大、小杨湖一带被解放军全歼，师长赵锡田被俘。郑州绥靖公署主任刘峙已令进攻定陶、荷泽的部队已开始全线后撤。薛岳知道，刘峙的部队已没法指望了，国防部策划的东西夹击定陶、荷泽的计划实际上已经破产，现在只有靠5军和整11师攻占定陶、荷泽了。不过，薛岳依然坚信该两部战斗力坚强，定能完成任务。因此，他命令王敬久仍按原部署前进。由于刘伯承以本部损失较大命主力休整，王敬久部当面解放军数量并没有增加。而国民军也在一定程度上适应了道路状况，因而进展比较顺利。7日晚，薛岳得知，进到曹县附近的整55师及整68师119旅在撤退过程中遭到解放军追击，119旅处境困难，遂急命整11师和5军由城武一带向定陶、荷泽前进，在城武以西及以北地区遭到解放军冀鲁豫军区独立旅的顽强抵抗，经两天激战，整11师才于9日攻占汶上集、冉堌集等地，5军亦进占九女集、大王集以南地区。此时，刘伯承鉴于徐州方面国民军已逼近定陶，而所部在定陶战役中又颇有损失，便决定停止对郑州绥靖公署所部的追击，以一部协同冀鲁豫军区部队阻击东线国民军，主力转入荷泽东北地区休整，为歼击5军和整11师作准备。郑州绥靖公署的部队遂得以在东明—考城一线站稳脚跟。
整3师被歼的消息传到南京。蒋介石大为震怒，直接打电话给郑州绥靖公署，命令道：“告诉整3师的官兵，要为赵师长复仇。我调邱清泉部归你们指挥。告诉前方各部队，就说我说的，一定要把这部解放军彻底消灭。”据此，他又通过国防部电令薛岳调5军归郑州绥靖公署指挥。薛岳接到这份电报后，极为不满：将这样一支精锐主力调离不削弱了徐州绥靖公署的实力了吗？刘伯承正在计划打击整11师和5军。一旦5军调归郑州绥靖公署指挥，而西线新败，刘峙必然令其西移，以加强郑州方面的实力。这样一来，整11师就会陷于孤立，处境危险。除此而外，刘峙自抗战开始后，屡战屡败，在国民军将领中声望极差。如果5军转归刘峙指挥，其强大的战力难于发挥。因此，薛岳拒绝执行这一命令，并将自己的理由报告了陈诚。陈诚便将薛岳的意见委婉地转告给了蒋介石。蒋介石权衡再三，遂撤销了先前的命令。尽管如此，薛岳却因这事在蒋介石及国防部、郑州绥靖公署的众多高级将领心目中留下了飞扬跋扈的恶劣印象，为后来蒙冤丢官埋下了祸根。
自从进攻开始后，王敬久一直滞留其家乡丰县，距前线甚远，无法及时掌握前线情况，就近指挥。为使作战便利，薛岳于10日下令：整11师暂归5军军长邱清泉指挥。这一招果然奏效。邱清泉接到薛岳的命令后，兴奋异常，立即指挥部队齐头并进向定陶发动了凌厉的攻势。11日，整11师攻占姑庵、黄店集、折桂集，45师攻占大王集，96师进克古营集。12日拂晓，5军与整11师向定陶发起统一攻击。守军冒着解放军猛烈的炮火顽强抵抗，激战至中午，终因寡不敌众，弃定陶城北退。定陶失守，荷泽危在旦夕，刘伯承感到了东线国民军的重大威胁，遂命令荷泽、济宁两市的党政机关和军队支前兵站撤出这两座城市。同时，为了迟滞国民军前进，保证主力获得足够的休整时间，刘伯承急令2纵6旅和3纵8旅赶赴荷泽以南沙土集地区，协同冀鲁豫军区部队实施运动防御。没等6、8旅到达，东线国民军又奉薛岳的命令又开始进攻了，5军由姑庵、黄店集向荷泽以东前进，整11师则从定陶出发直取荷泽城。两部在前进的过程中遇到了冀鲁豫军区部队的顽强阻击。国民军在炮兵炽盛火力支援下，第一线步兵勇猛突击，解放军抵挡不住，节节后退。17日，5军45师攻占了三合寨、苗古店，该师所属134团在孟垓附近截获解放军储粮10多万斤，96师攻下陈集，整11师进克游集。18日，6旅投入战斗，在张堂与整11师接触。19日，整11师击退6旅，进占李楼、杜楼、佃屯户、子母树；45师亦攻占万福集。20日拂晓开始，邱清泉指挥整11师和5军发动总攻。6、8旅及冀鲁豫军区部队依据既设阵地节节抗击，战到中午，整11师攻入荷泽，6旅遂向西北方向撤退。国民军乘胜追击，当天整11师又攻占城北的东阳庄、杜庄、双河集，45师占领黄镇集、96师击退8旅攻下沙土集。21、22日，整11师扫荡荷泽城西。6旅在黄堤口、张楼、王本庄等地与之激战两日后，向郓城方向退去。在攻克荷泽消息的鼓舞下，在荷泽附近作战的其余各部也发动进攻。21日，郑州绥靖公署指挥之整41师攻陷东明。驻鱼台的新21旅亦奉命于是日向金乡进攻，22日进克金乡，俘解放军地方武装数百十人。
国民军攻占荷泽、金乡后，南京方面以为刘伯承部遭到重大损失。为求歼灭在冀鲁豫地区作战的解放军，参谋总长陈诚于9月23日下达命令：以5军集结黄镇集、三合寨、新集地区，整11师集结荷泽，由邱清泉统一指挥，先向嘉祥、巨野进攻，再向郓城攻击。但是，薛岳知道，这道命令有些操之过急，因为5军和整11师在鲁西南泥泞的道路上经过20多天的行军和作战，已疲惫不堪，现军中霍乱流行，部队减员相当严重，仅整11师52团就有60多人病死，如果立即发动进攻，国民军凶多吉少。有鉴于此，他命令5军和整11师就地休整，30日再向嘉祥、巨野前进。不过，薛岳的谨慎并没有影响蒋介石和陈诚对战局的判断。他们仍极其乐观，一再催促薛岳立即开始行动。薛岳无奈，只得命令整11师和5军提前两天结束休整，开始向巨野推进。而此时，他的对手刘伯承正在巨野附近布置天罗地网迎击他们呢。
整3师被歼给解放军方面造成了很大的错觉。我军认为，晋冀鲁野战军既然能歼灭整3师主力，部队战斗力一定相当强。若能再歼灭5军或整11师，打掉5大主力的一大主力，将对战局产生重大影响。于是，他于9月19日电询刘伯承：“你们认为以打何部为适宜？我军与5军、11师接触试打如何？”这时，刘伯承看到，5军和整11师在前一阶段作战中行动谨慎，每天仅推进七八里，以为国民军的头等主力也不过尔尔，便于次日回电毛主席：“敌5军、18军（即整11师）此次前进甚为稳重，搜索面很大，遇我小部阻击，即炮轰很久，然后以一个连、一个营或一个团前进，多为我小部反突击击退。其攻击力弱，其战斗力似尚不及3师之20旅。惟火力很强，不敢肉搏，夜间即停止前进。该两军战斗力可能较强，尚未试探出来……仍按现有态势，争取先消灭5军或18军一个师，但要看敌攻占荷泽后的变化才能确定。”25日，刘伯承再次致电中央，进一步报告了作战计划：“我拟于一星期内攻夺金乡、鱼台、单县等城，消灭蒋军第18旅及整编88师各1个团及一部土顽，以调动其第5军及整编第11师于野战中而歼灭其一部。”此时，正值华中根据地的首府淮阴失守之际，我军亟需一场重大胜利来扭转南线战局，而刘伯承20日的电报又使中央错误估计了双方战斗力的对比，所以，毛主席很快同意了刘伯承的计划。但就在此时，刘伯承从情报部门得知薛岳已令5军和整11师向嘉祥、巨野进攻，遂改变原来作战计划，决定以一部阻击5军，而集中主力就地攻歼整11师。27日，2纵5旅奉命进入龙堌集布防。到达后，该旅旅长雷绍康和政委寇庆延亲自勘察地形并现场指导部队依托龙堌集周围村庄，修筑了大量工事，并加筑了低堡。这些工事和低堡隐蔽性很强，并能抗御猛烈的炮火轰击。此外，国民军在各村寨周围挖了许多壕沟。当时秋雨连绵，大量雨水流进壕沟，沟内水深及腰，成了一道道重要屏障。经过两天努力，****在观音集到龙堌集地区形成了多层次、大纵深的防御体系：以龙堌集以西之常楼、安油房、左庄、观音集一线为第一道防线，由14团守备；15团防守骈楼、管庄、龙堌集一线之主要防线；13团作为预备队，在龙堌集以东待机