1931年“九·一八”事变后，日本侵略者一方面炮制伪满洲国，一方面大造“热河为满洲国土”、“长城为满洲国界”的舆论，加紧对华北的侵略。1933年元旦，日本在山海关制造事端，炮击临榆县城。驻临偷的东北军忍无可忍，奋起还击，揭开了长城抗战的序幕。南京国民政府恐事态扩大，不予支援。3日，山海关失守。日军继续向锦州、通辽、绥中集结，准备三路进攻热河省。
山海关陷落后，张学良感到再不积极抵抗，恐热河、河北两省难保。于是，进行军事部署，受其节制的宋哲元的第二十九军调至北平东边的通州、蓟县、三河、宝坻等县待命。由于第二十九军既不是蒋介石的嫡系部队，也不属于张学良的东北军，所以装备落后，武器不足。全军只有野炮、山炮10余门，重机枪不过百挺。每连只有轻机枪两挺。所用步枪陈旧，型号不一，弹药补给困难，许多步枪没有刺刀。按照西北军的传统，每名士兵配备大刀一把。这古老的武器后来在歼灭日寇中大显神威。
2月下旬，日军继续向热河进犯。中国军队毫无战斗力，不作抵抗，日军仅以128人，没费一枪一弹，于3月4日占领了热河省省会承德。紧接着，日军进犯长城，华北长城沿线抗战爆发了。张学良令第二十九军赶赴长城的喜峰口，策应友军作战。
喜峰口位于河北省迁西县北部，燕山山脉中段，是长城的重要关隘，也是塞北通向京都的交通要冲。这里层峦叠嶂，山险谷深，绝壁危崖。沿山脊修筑的长城，依势蜿蜒，成为华北的屏障。
宋哲元任命张自忠为第二十九军前线总指挥，冯治安为副总指挥。第二十九军赶到喜峰口时，中国守军已撤至喜峰口内，日军占领了喜峰口东北的制高点，居高临下，以火力控制喜峰口，对我军极为不利。
3月9日午后，第二十九军赵登禹旅赶到喜峰口，与敌遭遇，激战至深夜。10日拂晓，敌集中炮火向我阵地猛烈攻击。赵令官兵离开战壕，埋伏于各峰峦处。敌炮火稍减，再回战壕。待敌步兵距战壕数十米时，鸣号出击，我官兵挥舞大刀，与敌肉搏。赵登禹亦冲入敌阵，左砍右杀，如入无人之境。赵身材魁梧，体格健壮，武功高强，是西北军有名的勇将。经过整日激战，打退敌人多次进攻，但我伤亡1000多人，赵登禹负伤。张自忠、冯治安及时改变战术，以我军惯于夜战、近战的优势，出其不意，夜袭敌营。
11日夜，我军两个团分两路奔袭敌营。夜深人静，两千健儿身背大刀，寒光闪闪，行动矫健。赵登禹强忍剧痛，率一个团出征。拂晓前，赵率部摸到敌骑兵宿营区。官兵们挥舞大刀，向酣睡的敌兵砍去。日军从梦中惊起，还未清醒，已身首异处。杀得敌人魂飞魄散，抱头鼠窜。我军越杀越勇，一个敌兵也不放过。时间不长，干净利索地结束了战斗。
另一个团12日凌晨进入敌炮兵阵地，官兵奋力砍杀。由于敌援兵赶到，我伤亡600多人，一名团副、两名营长阵亡。他们将敌野炮、汽车、弹药车焚毁后撤回，歼敌数百人，缴获机枪20余挺。
日军遭到重创后，13日对我军发动大规模反扑，战斗异常激烈。14日拂晓，张自忠指挥两个旅，实施拂晓攻击，毙敌数百人。15日，张自忠亲临前线，视察阵地，给官兵们很大鼓舞。
喜峰口6天鏖战，日军重重受阻，“异常疲惫”，“士气馁败”，于是改变主攻方向，把进攻矛头转向罗文峪。
罗文峪处于喜峰口、古北口之间的凹入处，如这里被敌占领，喜峰口、古北口我军的侧后将受到攻击，使我军腹背受敌，难以立足。我罗文峪的守军是第二十九军刘汝明的暂编第二师。张自忠令两个团急援罗文峪，并亲率师直属部队和手枪营到第一线督战。
17日，敌以飞机、大炮作掩护，5000多敌兵向罗文峪等处猛烈攻击。我诱敌迫近，先是一阵手榴弹投向敌群，然后挥舞大刀冲出阵地，与敌肉搏。战斗竟日，阵地几次易手，战况异常惨烈。
18日凌晨，敌调集步兵、骑兵、炮兵混合部队3000余人，再次发动进攻。刘汝明师长亲率手枪队督战，顶住了敌人的进攻。在我军机枪、手榴弹和大刀的顽强抵御下，敌人被迫退去。午时，敌在猛烈炮火掩护下，分两路再次向我阵地进攻，激战至黄昏。深夜，我派出两个团，分两路奔袭敌侧背。两路勇士奋勇出击，搏战通宵。刘汝明师长见敌阵动摇，令前线反攻，实行前后夹攻，一举将三岔口、快活林、水泉峪、马道沟一带的敌人击溃，残敌狼狈逃窜。这是继喜峰口大捷之后的罗文峪大捷。
此后，第二十九军除一部分兵力在长城口外据守前沿阵地，监视敌人外，主力则在喜峰口、罗文峪、马兰峪长城沿线构筑工事，与敌处于对峙状态。敌人从哪一点进攻，都要付出很大代价。
4月11日，战局发生重大变化，日军从我长城防线右翼的冷口突破，攻入长城以内。第二十九军陷于腹背受敌、孤立无援的境地。由于日军已进入长城以内，我军再守喜峰口、罗文峪，既不可能，也无必要。4月13日，第二十九军奉命撤出这两个阵地。
此时，南京国民政府加紧与日本谋和，签订了屈辱的《塘沽协定》，事实上承认了日本对东北的占领，并使察哈尔省、河北省的东部成为日寇自由出入地区，这就为侵略者打开了华北的大门。
喜峰口和罗文峪大捷是长城抗战中仅有的胜仗，消息传来，举国振奋。这是第二十九军全体官兵前赴后继、浴血奋战的结果，全军付出了伤亡5000多人的惨重代价。这是第二十九军对国家、对民族的重大贡献。作为此战役前线总指挥的张自忠，受到国人的称颂和舆论的赞扬。