刘伯承得知这一情报以后，命令第772、第25团从北向南进击，第16、第38团由南向北进击，两路夹击这股日军。9月6日，第129师第386旅2个团，决死第1纵队2个团，把驻榆次西北双峰地区的日军1个营包围起来，经过激烈的战斗，7日拂晓，歼灭永野大队长以下日军400多人。
为了策应第129师的行动，晋察冀军区集中4个团的兵力，主动向正太铁路北侧盂县地区的日军出击。第二军分区所属第19团于9月5日晚赶到上社附近地域，与第二军分区特务营配合作战，截断了从下社和上社据点出逃的日军的道路。6日早晨，在兴道村把这股日军包围起来。日军负隅顽抗，经过近5个小时的激烈战斗，大部分日军被歼灭，只有80多名日军逃到罗里掌山。
谁知，八路军第19、第5、第16团的部分指战员早已在罗里掌山设下了包围圈，这80多名日军逃出一个包围圈，又陷入另一个包围圈。
9月9日夜晚，雾越来越浓。八路军指战员向被围日军发起攻击，歼灭日军40多人。在大雾中，少数日军突出包围圈，逃进盂县据点。
9月10日，八路军总部命令各部队结束第一阶段作战，部队进行休整，准备再战。
百团大战胜利的消息传到延安，毛泽东立即给彭德怀回电：“百团大战真是令人兴奋，像这样的战斗是否还可组织一两次”。
百团大战第一阶段，八路军部署周密，准备充分，行动突然，各部队猛烈破击日军占领的交通命脉，取得了重大胜利。正太铁路井陉至寿阳之间的所有桥梁、隧道都被炸毁，拆除了路轨、枕木，破坏了通讯设备。沦陷区的人民群众看到八路军成功地破袭日军的交通线，非常振奋，自发地组织起来，支援八路军作战。日军一名参谋在日记中写道：“正太路沿线各小据点，大半已被消灭。可以望见沿线制高点八路军瞭望哨。多处枕木被烧毁，铁轨被拆除，铁路、桥梁大部遭到破坏或损坏。沿途村庄，居民或逃走，或被八路军带走，房屋皆空。”
刘伯承师长9月20日在榆次以南的宋家庄第129师前方指挥所作《百团大战第一阶段战役总结》时，指出了这次战役的六大意义，即：提高了全国军民的抗战信心；振奋了敌占区民众，推动了瓦解敌伪军的工作；团结了友军，取得了威信；打击了敌人的南进计划；在国际上产生了积极的影响；锻炼了军民，积累了作战经验。
3.巧夺据点
9月16日，朱德总司令、彭德怀副总司令、左权参谋长联名下达了战役第二阶段作战命令。这项命令提出，第二阶段作战，基本目的是扩大战果，基本方针是继续破坏日军的交通线，摧毁深入抗日根据地内的日伪军据点。作战部署和主要任务是：第120师“以截断同蒲北段交通之目的”，主要是集结主力破击宁武至轩岗段同蒲路。
“晋察冀军区以开展边区西北方面工作之目的”，主要是集结主力破袭涞灵公路，夺取沫源、灵丘两座县城，并以有力一部在同蒲路东侧配合第120师作战。
第129师“以收复榆次辽县之目的，开展榆辽地区斗争”，以重点破击榆次、辽县（今左权）公路，并以有力一部破击白晋铁路北段。
冀中、冀南的部队，要“打击日寇修筑沧石路、石德路、邯清路”，集中力量破坏各路段及前线路基。挺进军应以有力部队在平汉路北段、平绥路以及北平城郊积极活动。
八路军总部要求，“第二阶段之作战统于本月20日开始战斗。”
根据八路军总部的部署，战役第二阶段主要进行了涞灵战役、榆辽战役、破击同蒲路作战。那一段时间，华北战场的战斗日夜不息，日本侵略军的经济网、封锁网和交通线受到全面打击，日伪军占有的煤矿、电厂、铁路、桥梁、公路、车辆和电讯都遭到破坏，许多车辆被击毁，军事设施接连发生爆炸。
涞灵战役，主要是攻打河北省的涞源与山西省的灵丘两城为主的一系列战斗。
涞源、灵丘及其附近地区，驻有日军独立混成第2旅团和日军第26师团。独立混成第2旅团司令部驻在张家口，步兵第4大队驻在浑源地区，步兵第3大队驻在蔚县、溥鹿地区，步兵第2大队驻在怀涞、延庆地区。日军第26师团是三单位制的乙种师团，师团司令部驻在大同，第2大队驻在灵丘地区，第1大队驻在涞源地区，第3大队驻在应县地区。这两部分日军共约1500人。另有伪军1000多人。
晋察冀军区根据八路军总部的命令，集中8个团、3个游击大队、2个独立营，组成左翼队、右翼队和预备队。其兵力组成和任务区分是：右翼队由第1、第2、第3、第20、第25团，游击第1、第3支队，第1军分区特务营，军区骑兵第1团1个营等部队组成，总兵力约1.5万人，由杨成武将军指挥，重点攻击涞源县城及其附近的日伪军据点，打敌增援，同时要协助左翼队相机夺取灵丘。
左翼队由第6、第26团，察绥游击支队组成，总兵力约5000人，战役初期的主要任务是阻敌增援，尔后同右翼队配合，夺取灵丘及其附近的日伪军据点。
总预备队由一个步兵团担任。
此外，对冀晋察挺进军、第2军分区第4团、冀中军区等部队，都明确了相应的任务。
9月22日22时，两颗红色信号弹腾空而起，攻城战斗开始了。
右翼队向据守涞源城及其周围据点的日伪军发起攻击。战斗越来越激烈，天明时分，八路军已经夺占了涞源城的东关、西关和南关以及2个外围据点，日军被迫退入城内。八路军指战员原想一鼓作气攻下涞源城，再歼灭外围的日伪军据点，但是，这个目的未能如愿实现。
涞源县城面积小，方圆不到2公里，但城墙位于高坡之上，是用巨大的条石建造的，高而坚固，城关地势低洼。多年来，日伪军不断加固城墙，全城就像一座大碉堡，攻城等于是破碉堡。晋察冀军区的攻城部队虽然在兵力上占有绝对优势，但是由于部队缺乏攻城的有效器材，加之日军顽强抵抗，部队激战一昼夜，未能将城攻克。9月23日，晋察冀军区首长决定，先拔除涞源外围的日伪军据点，再攻克涞源。
第一个要拔除的外围据点是三甲村。三甲村位于涞源城东10公里，是涞源至易县公路上日军的一个重要据点。9月23日夜晚，第2团指战员在第1团1个营以及炮兵的配合下，向三甲村发起猛烈攻击，歼灭了三甲村据点的日伪军。
另一个要拔除的外围据点是东团堡。东团堡距涞源城25公里，是涞源东北日伪军的一个重要据点。东团堡筑有环形防御工事，有日军第2混成旅的1个教导队共130多人防守，这些日军全部是从各部队挑选来的士官，经过严格训练，武器精良，战斗力比较强。据点内的翻译官金井，是朝鲜人，他在我地下工作者的多次劝说下，对抗日斗争曾表示同情。晋察冀军区第3团的指战员向东团堡据点发起攻击以后，日军不仅以猛烈的火力还击，还不断施放毒剂，给攻城的八路军带来严重威胁。八路军指战员发挥勇敢战斗的精神，组织力量，加强战斗动员，连续攻击东团堡守敌。
9月24日，战斗更加激烈。傍晚，八路军攻下了东团堡周围的全部堡垒，日军被迫退到村中，凭借数间房屋继续抵抗。
9月25日，东团堡的日军自知难以固守，即把库存的武器、弹药、粮食等作战物资全部烧毁，准备突围。就在这时，八路军指战员抓住日军无心防守的心理弱点，发起猛烈攻击，将日军大部分歼灭。少数日军看到无法突围，竟然向自己点燃的熊熊烈火中奔去，以自焚结束了侵略者的一生。
东团堡歼灭战，打击了日军的锐气，振奋了八路军的雄风。
至9月26日，右翼队的其他部队相继攻克了桃花堡、吉家庄、白石口、王喜洞、张家峪等13处日伪军据点，集中力量攻克涞源的时机成熟了。
9月27日，右翼队集中兵力猛攻插箭楼。插箭楼位于涞源城南15公里处，有日军1个中队守卫。攻击发起后，八路军指战员很快摧毁了多处碉堡，击毙了大部分日伪军。右翼队拔除了涞源外围的几个重要据点，准备再攻涞源的时候，敌情发生了重大变化。
驻守涞源的日军遭到晋察冀军区的部队攻击以后，立即向驻在张家口的日军求援。9月23日，3000多日军搭乘汽车，在20辆坦克、4架飞机的掩护下，从张家口方向出发，南下增援。24日，日军独立第2混成旅团旅团长人见与一中将率领部队从蔚县出发，南下增援。由于道路被抗日军民破坏，沿途又不断遭到抗日武装的袭扰，日军行动迟缓。蔚县至涞源的80公里路程，日军车队艰难地行使了5天，平均每天只行进16公里。在战争中，人民群众一旦动员起来，日军就寸步难行，人民战争的威力是无穷的。
28日中午，3000多日军才进抵涞源县城。
右翼队根据日军兵力的这一重大变化，遂不再硬攻涞源，转移兵力、部队向灵丘、浑源方向运动，协同左翼队攻占了南坡头、抢风岭、青磁窑等日军据点。10月1日，八路军已攻克的一些据点，又被日军占领。
10月2日，军区首长命令右翼队主力在涞源以东和东南地区集结，临时休整；命令第1、第3团配合左翼队发动灵丘战役。第一、第三团灵丘籍士兵较多，配合左翼队作战更为得力。7日，左翼队向灵丘至浑源之间公路上的各个据点同时发动攻击，破坏了日伪军的军事设施和公路，歼灭守敌2个步兵大队。
10月8日，晋察冀军区第一团第一营趁南坡头据点的日军主力外出袭击八路军之际，悄悄地向南坡头发起攻击，攻克南坡头，歼灭了据点内的日伪军。
在激烈紧张的战斗中，晋察冀军区突然发现一个重要情况。9月22日，《抗敌报》第35期发表了一篇社论，无意之中泄露了百团大战第二阶段的作战企图。在敌对双方激烈的搏杀中，泄露作战企图将造成非常严重的后果。从战场态势看，日军纠集了1300多官兵，从灵丘方向和浑源、广灵方向南下，企图向抗日军民反扑。10月9日，驻大同的1000多名日军南下，增援灵丘。军区首长判断，日军可能趁八路军攻打涞源、灵丘之际，对抗日根据地进行新的“扫荡”。在这种情况下，晋察冀军区必须根据敌情的变化，调整作战部署。
10月10日，晋察冀军区决定结束涞灵战役，部队进行适当休整，做好反“扫荡”的各项准备工作。
涞灵战役，晋察冀军区的部队虽然未能收复涞源县城，却有力地打击了日军的有生力量，先后攻克日伪军据点16处，摧毁碉堡114座，歼灭日伪军1600多人。日军独立混成第二旅团步兵第4大队所属1000多人，被晋察冀军民歼灭约700人。
涞灵战役期间，冀中军区集中10个营、共约8500人的兵力，发起任河大肃战役。
晋中军区司令员吕正操将军回忆说：“在整个战役过程中，敌人曾不断对我活动于中心地区的二十三团进行合击，但我内线外线部队密切配合，使敌人顾此失彼，完全陷于被动。”在近20天的时间里，冀中军区的部队英勇作战112次，连续攻克东固贤、良村、西刘庄等29个日伪军据点，以伤亡573人的代价，歼灭日伪军1456人，其中毙伤日军805人、伪军322人，俘虏日军3人、伪军326人，缴获迫击炮1门、轻重机枪6挺，破毁铁路5公里、公路159公里。任河大肃战役，有力地钳制了日伪军的兵力，巧妙地配合了涞源地区的作战。
榆辽战役，是在山西省的榆次和辽县之间地域进行的一系列战斗。从山西阳泉南下，经过平定、和顺、辽县到达榆次的这条公路，是日军突入太行山根据地最长的一条公路，其中榆次到辽县之间地段，全长45公里，日军在沿线设置了8个据点。守卫榆辽公路的日军主要是独立团混成第4旅团第13大队，约1000多人，分驻于榆次和辽县之间公路地域。在和顺、昔阳至榆次之间的地域，驻有2个大队，这些兵力与榆辽公路的日伪军相互呼应。
八路军第129师首长根据战役意图，把参战部队组成左翼队和右翼队。左翼队由第386团和决死第1纵队各2个团组成，主要任务是攻占榆次、沿壁、王景等据点。右翼队由第358旅附第32团组成，主要任务是攻取管头、小岭底等日伪军据点，以部分兵力守卫辽县以西的狼牙山，阻击日军向西增援。此外还以新编第10旅组成平辽支队，主要任务是破袭平辽公路；以太岳军区第17、第57团组成沁北支队，主要任务是破击白晋路沁县至分水岭地段。
在变幻莫测的战争中，军事家常常采用声东击西的方法，达成战斗的突然性。八路军第129师在榆辽战役之初，为了迷惑日军，刘伯承、邓小平运筹帷幄，9月20日，即以部分兵力突然袭击长治机场，击毁日机3架，击伤日机1架，破坏了部分机场设施。正当日军把注意力放在防护长治机场上时，另一场更大规模的战斗又悄悄地开始了。这就是刘伯承、邓小平指导战争的高明之处。
9月22日，刘伯承、邓小平在宋家庄师指挥所下达了进行榆辽战役的命令，决定以突然袭击的手段摧毁榆辽公路上的日军据点，进攻辽县，相机收复辽县。这份命令特别指出：“如某些据点之敌较久顽抗时，则以各种必要手段，如强袭、坑道作业等，力求克复之。”