为了摆脱被动局面，八路军总部和第129师首长决心寻求战机，坚决歼灭一路日军，震慑其余日军。抗日战争，广泛发动人民群众，大量歼灭日军有生力量，是根据地军民反“扫荡”的一项最有效的手段。第129师关家垴战斗，给“扫荡”的日军以歼灭性打击。
10月下旬，日军第36师团所属岗崎大队500多名官兵，向八路军总部附近的水腰兵工厂附近进犯。彭德怀当时正在黎城指挥部，得知这一情报后，非常恼火，命令部队密切监视这路日军的动向。水腰兵工厂位于太行山脊黎城县的黄烟洞谷中。黄烟洞四面都是险峰，只有南面有一条天然的裂缝，人们进出都要通过这条裂缝。八路军在敌后作战，武器弹药的补充十分困难。1939年，朱德、彭德怀、左权等八路军领导人亲自察看地形，决定在黄烟洞谷中建造一个兵工厂。于是，八路军指战员精心设计，把总部的军械所搬迁到黄烟洞谷中，经过艰苦创业，终于发展成为一个月产400多支步枪和大量弹药的兵工厂，用来解决八路军频繁作战的需要。现在，彭德怀得知花费许多心血建设起来的兵工厂受到日军的袭扰，怒上心头。
10月26日，岗崎大队500多名日军遭到根据地军民的袭击后，从黄烟洞向左会、刘家咀等地进犯。彭德怀命令第129师集中主力，坚决歼灭该敌。
10月29日，日军进到武乡县蟠龙镇以东的关家垴高地宿营，准备返回武乡。第129师首长抓住战机，以第385、第386旅，新编第10旅主力，决死第一纵队2个团，迅速出击。指战员们早已摩拳擦掌，听到刘伯承师长和邓小平政委的一声号令，像猛虎下山，在关家垴高地把日军包围起来。当晚，八路军总部发出命令，要求坚决歼灭该敌。八路军指战员连夜进行总攻前准备，决定于30日凌晨发起攻击。
关家垴高地三面都是断崖，通向顶部的坡路很窄，是唯一的进攻道路。坡上那个小村子里，原来住着10多户人家，日军开始“扫荡”后，这些人家早就搬走了。日军遭到八路军的围困以后，为了摆脱被歼灭的命运，半夜里突然以一个中队的兵力袭击关家垴西南面的风恼顶高地，占据风恼顶高地。关家垴和风恼顶两个制高点，互为犄角，日军占据这两个制高点后，立即构筑工事，固守顽抗。
战斗发起前，第386旅旅长兼太岳军区司令员陈赓对彭德怀说：“彭老总，现在拼了，以后怎么办？可以把岗崎放下山去，另选有利地形，打他的伏击嘛！”
彭德怀没有接受陈赓的建议。
彭德怀要求总部特务团参加攻坚战。攻击发起前数小时，左权参谋长召集八路军总部特务团的营以上干部布置作战任务，要求特务团提前发起进攻。左权布置完任务后说：“我们之所以要在凌晨3时前发起进攻，是因为日军在我们的围困下已经疲惫不堪。眼前这两股日军刚刚构筑完工事，现在是最疲劳的时候。我们作战就是要趁日军失去警惕的时候去突然偷袭。”
10月30日凌晨，第129师指战员向被围于关家垴的日军发起攻击，为了分散和孤立日军，第129师以部分兵力攻打风恼顶。日军在飞机的支援下，顽强抵抗。八路军勇猛攻击，突入敌阵，与日军展开肉搏战。
10月31日拂晓，八路军歼灭日军400多人，其余60多名日军逃到一个孤立突出的台地上。这块台地顶部开阔平坦，四边峭岩壁立。日军上台地后，挖了不少猫耳洞，死守阵地。
下午，1500多名日军在10多架飞机的支援下，从黄烟洞方向赶来增援。第129师首长看到关家垴的日军基本被歼灭，来援日军的兵力也不小，难以将其全部歼灭。为了争取主动，命令部队迅速撤出战斗。
关家垴阵地上的60多名日军在增援部队的接应下，丢弃280多具尸体，狼狈地逃跑了。
数天后，彭德怀、左权等将领来到关家垴高地，仔细察看日军的临时工事，火力配置和简易的暗堡掩体。刘伯承率领第129师部女干部来到关家垴阵地，就地总结攻坚作战的经验。刘伯承仔细察看了日军在台地四周挖的猫耳洞，认为猫耳洞是躲避枪弹、保存士兵的一种好办法。刘伯承指着一个猫耳洞，招呼大家说：“你们都仔细看看，别小看这小小的招势，凭我们现有的武器还真难对付。这个办法，我们也可以学习嘛！”
当时担任八路军总部特务团团长的欧致富在几十年后回忆这场战斗时说：“彭老总坚持要打关家垴战斗，还有一个意图：八路军是坚持敌后抗战的主力军、正规军，不但要会打游击，必要时，也得猛攻坚守，顽强拼杀，敢于啃硬骨头。”
决死第一纵队政治委员薄一波回忆说：“彭老总向我调决死队两个团参加战斗，我是很积极的，战斗中损失固然大，但这两个团也打出来了，成为决死队战斗力最强的两个主力团”。
日军遭到沉重打击以后，余部于11月14日撤退。
11月17日，日军第37师团一部兵力，第41师团一个大队，共7000多人，分别从沁县、南关镇和洪洞出发，分两路合击太岳地区沁源和郭道镇等地，进行疯狂的“扫荡”。当时，第129师所属第386旅第16、第772团，决死第一纵队所属第25团等部队，正在太行地区执行任务，因此太岳地区的力量比较弱。为了避开日军锋芒，抗击日军的“扫荡”，太岳军区首长把部队编成沁源东、沁源西两个支队，在游击队和民兵的配合下，寻机打击日军。
11月23日，两路日军进入合击地区，进行野蛮的烧、杀、抢，沁源县遭到严重摧残。全县有1/10的群众被害，被害人数达5000多人，被杀牲畜上万头，有近4万间房屋被烧毁。日军的暴行激起了抗日军民的极大愤慨。太岳军区的指战员看到日军分头“清剿”，兵力分散，千方百计抓住战机，各个歼灭日军。沁西支队第42团官兵在官滩歼灭日军100多人，第42、第59团的指战员在胡汉坪、马背一带歼灭日军160多人。至27日，抗日军民歼灭日军近300人。
12月5日，遭到不断打击的日军被迫从太岳区撤退。
北岳根据地，晋察冀军区迫退深入阜平之敌。
10月13日，1万多日伪军分成10路，对北平以西的抗日根据地进行“扫荡”。当时，北平是日军华北方面军司令部驻地，也是华北伪政权驻地，日军认为，平西根据地抗日力量的发展，威胁到华北方面军司令部驻地，也威胁到平汉、平绥交通线。因此，日军把平西根据地作为“扫荡”晋察冀抗日根据地的第一个目标。
八路军首长认为，向平西、太行根据地进攻的日伪军，很可能转而进攻北岳地区，晋察冀边区的军民应立即做好反“扫荡”准备。为此，八路军总部于10月19日发出指示，要求晋察冀军区进行深入的战斗动员，主力部队在有利位置集结，随时准备歼灭“扫荡”的1路或2路日军。为配合晋察冀军区作战，八路军总部要求，第129师应不少于3个团的兵力破击正太路，第120师应以4个团的兵力破击雁门关南北的同蒲铁路。八路军总部发出的这一预先号令，及时洞察了日军的行动企图，把握了日军的脉搏，为北岳军民赢得了20天进行反“扫荡”准备的时间。
11月9日，日军第110师团等部队与伪军共1.4万余多人，对北岳根据地进行“扫荡”。
11月10日，晋察冀军区司令员聂荣臻等人下达反“扫荡”指示，要求部队避免与日军决战，采取广泛的游击战，最大限度地消耗与疲惫日军，使“扫荡”的日军行不得其时，住不得其所，食不得其饱。主力兵团要在便于机动的地域集结，随时抓住战机，歼灭日军1路或2路，以转换战局。12日，晋察冀军区再次发出指示，要求主力部队在不妨碍机动的原则下，可以组织不超过1/3的兵力，坚决打击日军的烧、杀、抢行为。