回到邯郸不久，第二纵队司令部就接到了刘邓首长的一道命令。陈再道打开命令，只见上面写着：
各主力部队、各军区领导人：
停战令生效后，我国成立了由国民党、共产党和美国三方代表组成的军事调处执行部，并由该执行部派出若干执行小组监督各地停战令的实施。现在，我们要求各主力部队、各军区迅速组成若干个谈判小组，与所辖地区的国民党军进行谈判，尽快达成和平相处的各项协议。
晋冀鲁豫中央局、大军区 刘邓
陈再道看完后，将命令递给桌子对面的宋任穷，然后说：“我建议，立即通知冀南军区的几位首长来这里开会。我们共同研究一下成立谈判小组的问题。”
宋任穷快速看完命令，点点头说：“好。我马上通知他们。”他随即便走到会议室门口，向院里的一个通讯员吩咐：“你立即赶到威县，通知冀南军区的杜义德和李菁玉，火速赶到这里开会。”
“是。”通讯员马上向外面跑去。
……
第二天中午，杜义德和李菁玉赶到了驻在邯郸的第二纵队司令部。陈再道随即让他们看了刘邓首长的命令，随后，几位首长便开始了讨论。
……
宋任穷说：“我们冀南地区需要谈判的有三处：一处是聊城的国民党军，一处是石家庄的国民党，还有一处就是永年城的国民党军。所以我们要成立三个谈判小组。”
钟汉华气愤地说：“哪儿来的这么多国民党军？分明都是一些双手沾满人民鲜血的大汉奸、刽子手，怎么一夜之间就都变成了国民党军？”
宋任穷笑着说：“虽然他们都是大汉奸、刽子手，但是他们已经被******、国民党收编和任命。为了全国的和平大局，我们就不能把他们当作坏人，只能把他们当作国民党军。”
范朝利说：“话虽然这么说。可跟这样一些大汉奸、刽子手谈判，我心里感到很憋气。”
陈再道说：“不光你感到憋气，我们都感到憋气。不过没办法，他们已经披上了国民党的外衣，我们别无选择。”
“既然知道别无选择，那就别讨论这个问题啦。”宋任穷笑着说：“下面我们就开始讨论，怎么组成谈判小组的问题。”
大家都无奈地点点头。范朝利说：“我建议，由宋任穷政委以冀鲁豫军区司令员的名义，带领一个谈判小组赴聊城，与聊城的国民党军进行谈判。”
陈再道听后，点了点头。
杜义德说：“我建议，由第四军分区司令员王蕴瑞以平汉路东部队司令员的名义，带领一个谈判小组赴石家庄参加谈判。”
“对！”李菁玉说：“我建议，由第三军分区副政委赵海枫率领一个谈判小组，作为永年第三十一执行小组的****代表，参加永年小组的谈判。”
“各位的建议都很好。”陈再道接着又向宋任穷说：“政委，你看咱们就这样定了吧？”
宋任穷说：“好。”
……
三个谈判小组组成后，很快赶到各自的目的地，与那里的国民党军进行谈判。经过反复协商和争论，于二月底基本达成协议。这时，第二纵队司令部奉命从邯郸转移到邢台。刘伯承、******率领晋冀鲁豫军区（大军区）机关进驻邯郸。
随后，第二纵队第五旅进驻高邑地区，对元氏、石家庄的敌人加强监视。第三军分区部队除监视永年的敌人外，并派部队进驻临漳地区，监视安阳外围的敌人；不久，第二纵队第六旅也进至安阳地区，协助第三军分区部队监视敌人。第五军分区独立团进抵德州以西五里庄、八里庄一带，与德州敌人隔河对峙，监视敌人活动。之后，便进入了所谓的“和平时期。”
和平时期并不和平。大规模的战斗虽然不多，小的战斗却时有发生。当时，第二纵队三个旅几乎每天都在打仗。第四旅在监视聊城、徐官屯的敌人，他们不遵守停战令，经常外出骚扰。第五旅在高邑以北，监视元氏、石家庄的敌人，也是经常打。第六旅在临漳一带监视安阳地区的敌人，打得更凶。冀地腹地还有一个永年城被敌人盘据着，这些家伙也经常外出捣乱。但这和过去频繁的战斗、战役相比，还是缓和多了。
在此期间，部队中谈论和平的气氛很浓。有的说，我们要改编成国民党军队了，要精减裁员了；有的说，铁路修通了，我们要变成铁路交通部队了，等等。有的干部热衷于抓副业生产，有的想解甲归田。
针对上述情况，冀南军区主要抓了两件大事：一是监督停战令的实施，反击敌人的骚扰破坏，维护全区的安宁局面。二是加强部队的管理教育，克服和平麻痹和解甲归田的思想。
……
五月中旬，冀南军区收到大军区的一道命令。军区司令员杜义德打开命令，仔细观看：
杜义德、李菁玉、马国瑞等：
从停战协定生效起至四月，国民党军及其收编的伪军，向我解放区进攻多达九百多次，使用兵力达六十万人。给我解放区造成重大损失，并构成严重威胁。
鉴于上述情况，现在命令你们：立即在全区进行动员，团结一致，粉碎反动派的进攻，并随时准备向敌人出击。同时，各县、区组成指挥部，统一指挥游击队、公安队、民兵自卫队，组织联防，维持治安，保障战争供给和运送等。另外，大军区已经命令第二纵队，火速赶到永年城附近，准备向永年城发起进攻。
大军区 刘邓
五月十一日
杜义德看完命令，立即召集军区的机关干部，进行认真研究。他首先介绍了大军区的命令，然后才让大家发表意见。军区政委李菁玉说：“昨天，渤海军区派人送来一封信。说他们准备夺取德州，要求我们派部队予以配合。今天，大军区首长又命令第二纵队夺取永年。这两场攻城战斗，我们都要配合。现在就看我们的兵力怎样分配吧？”
军区副政委马国瑞说：“那就让距离德州比较近的独立二团等部队赶往德州，去配合渤海军区作战；让一直担任围困永年城任务的第三军分区独立团等部，去配合第二纵队夺取永年城。”
大家听后，都表示同意。
……
六月上旬，冀南军区独立二团等部队，逐渐向德州靠近，并与渤海军区领导人取得了联系。渤海军区司令员袁也烈，给冀南部队分配的任务是，肃清城北、城西北、运河东岸、石德铁路北侧的敌人外围据点，并负责夺取运河木桥。
六月六日傍晚，冀南军区独立二团等部队，来到德州以北地区。七日零时，向德州西、北两个方向的外围据点和运河木桥展开攻击。这一带有很多碉堡，向前推进十分困难。但战士利用敌人的地堡不能向下射击的特点，采用从隐蔽处挖沟接近的办法，把手榴弹投进枪眼。用这种办法，战士们很快把敌人堵在西门内，并将外围据点全部攻克，切断了敌人逃跑的通道。
与此同时，渤海军区部队也将德州北、东、南三面的外围据点全部肃清，将德州城团团包围，并开始了攻城战斗。战斗异常激烈，一直持续到十一日上午九时。战士们从南门、北门、西门相继攻入城内，与敌人展开巷战。其中，飞机场、玉皇阁等地的战斗打得最为激烈。
德州机场是日本侵略军遗留下来的，在罗庄与肖何庄之间，是王继祥等敌军将领逃跑和接受援助的重要通道，所以派了一支战斗力较强、有“敢死队”之称的队伍防守。当机场的枪炮声传进敌警备司令部时，敌军将领张光第向王继祥吹牛说：“有‘敢死队’在，****根本就接近不了机场。”不久，机场就被八路军占领。后来，敌人在三天内组织了八次反扑，但机场始终控制在八路军手中。
玉皇阁坐落在南关街上，大约在今东风路与解放大道的交叉口一带。这座在当时就已有四百多年历史的建筑占地约五亩，是德州城的南门户。玉皇阁是一个制高点，又三面环水，所以易守难攻。敌人为了阻止八路军进攻，竟放火焚烧周围的民房，但八路军还是克服重重困难，迅速攻进了玉皇阁。
十日晚二十一时，八路军攻克南门；六月十一日早晨，北门、西门也被突破，城内展开巷战。
听说南门失守，国民党警备司令王继祥立刻跳下床从后门向外逃跑，一直跑到城东南的东地医院，躲藏起来。东地医院是美国人设在德州的医院，位置在今天德州二中一带。
十一日上午十一时，八路军向王继祥下了第一道通牒，令其投降；在攻克敌军在城外最大的据点罗庄之后，十四时，八路军向王继祥下了第二道通牒；十五时三十分，八路军开炮击毁敌三十九团团部。十五时五十分，东地医院挂起了白旗。
战士们冲进医院，很快就在医院的床下搜出了瑟瑟发抖的王继祥和“鲁北专员”刘石球。王继祥见大势已去，只好在投降书上签字。德州正式宣告解放。至此，冀南区与渤海区联成一片。