１９２６年５月１８日，国民军西路军总司令宋哲元率国民军约８万人，兵分六路，突然猛攻晋北。
国民军在最初的对敌攻防战略部署中，计划在晋北一线取守势。当时，国民军认为晋阎虽然态度暧昧，对己敌意日益明显，但与其尚未破裂，以尽量避免三面作战。所以，国民军对阎锡山尽可能采取联合政策，起码让他保持中立。但是，奉直军阀进攻北京
后，阎锡山逐渐开始公开了自己联合奉直的态度。国民军退守南口后，阎锡山和奉系相约，奉军攻打南口，晋阎截断察绥交通，待得胜后，回师张家口。尽管如此，阎锡山对各方的态度还是首鼠两端。最初，阎锡山派商震率兵进驻大同，在国民军家属坐车过境时，派宪兵上车搜查，将其扣留一二日再放行，但却给予优厚待遇。这既是向奉直方面表示自己与国民军为敌，但又不与国民军真正断绝关系，不把事情做绝。但是，奉直军阀不断对他施加压力。4月20日，张作霖致电阎锡山，要其速出兵大同，取丰镇。阎锡山怕长久如此将无信于奉直，才在4月下旬出兵攻阳原、蔚县，拆毁天镇以西至大同的铁路，断绝了国民军后方联络。因此，国民军被迫修改了自己的战略，对东南军事取守势，对晋北取攻势。其第一期作战目标是攻下大同，恢复京绥线交通，第二期与东路军会师于桑干河左岸，以肃清晋北为作战目的，仍旨在确保察绥，并无图晋之意。国民军以韩复榘为前敌总指挥，率其部进攻孤山、镇
州堡、大同。晋军以商震为前敌总指挥，兵力约二万人，但战斗力较弱。所以，国民军进攻连连得手，5月19日，攻占得胜堡，向孤山挺进。21日，阎锡山急调张培梅等部驰援。26日，国民军攻占宏赐堡，大同动摇。晋军竭力抵抗，与国民军激战数昼夜。阎锡山急电向奉张表示，愿以晋东防地让奉，请奉军速攻多伦，以牵制国民军。
5月底，国民军猛攻孤山，晋军凭坚固工事据守，激战数日夜，伤亡甚众，但仍未攻下。双方相持之时，晋军突派挺进队反攻，使国民军阵地动摇。5月30日，宋哲元亲率卫队团乘铁甲车驰援，在大炮的掩护下，击溃晋军挺进队，攻占孤山，并继续向大同挺进。同日，占领大同火车站及外城，恢复了京绥铁路交通，暂时解除了自己的后顾之忧。晋军为夺回孤山，数次组织反攻，但均被国民军击退。晋军第七旅杨呈祥团长被打死，第五旅旅长丰玉玺被俘，团长张荫梧被打伤。6月6日，晋军张如苹、傅汝钧二部被围在大同城内。
此时，国民军首要战略意图已达到，但战事不仅没有停止，反而将其扩大化。韩复榘部在中路除留张自忠部继续围攻大同外，其余在韩占元部配合下，向西进攻。石友三部任右翼，配合蒋鸿遇部攻左云、右玉、平鲁等地。孙连仲部为左翼，在方振武部的配合下，进攻天镇、阳高。至此，国民军总的战略方针就变为“守南口，防多伦、攻晋北”，夺取山西成为其主要战略目标了。这个战略变化是个致命的错误。
国民军之所以改变战略初衷，主要是看中了该省的财富。国民军所据察、绥、甘诸省区，贫瘠不堪，承担不起其浩繁军费。山西自民国以来，没有战乱，且比相邻省区富饶得多，尤其是晋中南地区，更让国民军垂涎。其倘能据有山西，不仅可与察绥、甘连成一气，也可筹款以解自己军费，足可以与奉直军阀逐鹿中原。所以，国民军不惜全力来攻打山西。此外，国民军领导集团还一致存在轻视晋军的心理，认为其战斗力弱，不堪一击，故才贸然决定派重兵深入晋北。再者，国民军见南口、多伦一线战况颇为平稳，且又有与靳云鹗、孙传芳等人再次联合反奉的密谋，所以，抢先对山西下了手。
阎锡山虽然参加对国民军的围剿，但对国民军全力攻晋的心理准备不足。最初，他认为国民军北路军集中晋北是迂途西撤，尚期待奉鲁军追到张家口再行夹击。商震对国民军的突然进攻，也认为是战略总退却的佯攻，是掩护及打通京绥线的军事行动。所以，国民军在攻下孤山后，阎锡山、商震决心举全力与国民军在大同决战，不仅急调在垡岳、怀仁的杨爱源第六旅、山阴李培基第一旅及军炮兵团驰援，又从晋南调来第七、八旅，准备在战胜国民军
后直出右玉杀虎口，进取绥远城。阎锡山命商震举第一师和四、五两旅全力反攻孤山，而对察哈尔南部的国民军二、三军不加重视，只以第三师在阳原、广灵间警戒监视。此后，晋军在反攻孤山过程中虽然受挫，但国民军也由于蒋鸿遇在从绥远来援途中因交通事故受伤，从而影响了对大同的进攻。故此，双方在大同一时呈对峙状态。此时，晋军从国民军战亡军官遗下图囊中，捡得分三路图晋的军事计划，才明了对方真正的战略意图。与此同时，张作霖因奉军及直鲁联军攻南口军事受挫，致电阎锡山，要他将军队从孤山撤下来，“严阵扼守要隘，相机进攻”，而奉军则加紧进攻多伦。因此，阎锡山立即改变了与国民军决战的战略方针，严令军队全线撤退，但在行政上不放弃对晋北十三县的控制，并于5月29日致电张作霖称：“已令分兵守大同、天镇、左云、右玉四城，凭城作战。总预备队集中怀仁，相机出击”。他采用钉钉子战术，让一部据孤城死守，而主力撤至筑有坚固防御工事并屯有三个月粮秣的雁门关内。阎锡山以第三师师长王嗣同为东路总指挥，领守蔚县、浑源各部；商震为前敌总指挥兼中路总指挥，以阳方口一带为中心，带一部骑兵和手掷营，策应左云、右玉各部，并留魏德新部守朔县；左翼孔繁蔚、李德懋防守阳方口。
国民军右路石友三首攻左云，蒋鸿遇部谷良友旅进攻右玉，一时未曾得手。6月上旬，国民军先后攻占偏关、河曲、平鲁，并乘右玉守敌团长王振恩离城去左云，一举将其攻占。随后，国民军石友三部攻克怀仁、岱岳，并与韩复榘部配合，向山阴、雁门进击晋军，不久攻克左云，击杀守城团长黎洪儒，俘获团长王振恩。6月2日，阎锡山致电张作霖，其“切盼我兄速饬贵部前进，以收夹击之效…”6月8日，他再一次向张告急，请速一致进军国民
军。6月15日，国民军左路孙连仲、方振武部攻克阳高，包围天镇。晋军傅作义率部坚守。两部攻城数次，始终未克，继而一部继续围城，大部协助徐永昌、弓富魁攻灵县、蔚县。方振武部攻克应县，继攻浑源、蔚县，也久攻不下。与此同时，国民军石友三部开始进击雁门关右翼。
6月19日，国民军韩复榘部进攻雁门关右翼小馒头山阵地。晋军据险顽抗，虽伤亡惨重，防线一度动摇，但在雁门关老杏沟击退国民军进攻，终挽回败局。在繁峙北小石口，国民军与晋军反复争夺龙王堂、恒山等地，但最终被晋军孙楚部所得。至此，国民军与晋军在雁门关外呈相峙状态。晋北大部地区虽然为国民军所攻占，但大同、天镇、浑源、蔚县仍在晋军手中。国民军被牵制了大量兵力。尽管如此，阎锡山仍惊慌万分，得吴佩孚不作“假途灭虢”之举的保证后，允直军王维城部由正太路援晋。
晋北战事正炽之时，奉军吴俊陞、汤玉麟、韩朝玺等六个师猛攻多伦、沽源。国民军守多伦的第一旅旅长席液池中了奉军的反间计，误以为所部两个团长已叛变投奉，没弄清事实真相就离职潜逃，致使多伦于7月2日失守，使国民军战线全线动摇。张之江命宋哲元分兵东进驰援，使晋北之役遂改攻为守。
宋率国民军第六军张凌云师及驻张北田春芳旅会合，全力击退奉军，并于8月上旬将多伦收复。多伦一线稳定后，宋哲元又迅速回师雁北，整顿军队，准备继续进攻雁门关。但是，回救察北终究影响了晋北战局，使攻晋之战功亏一篑。
攻打雁门关的国民军，久战力疲，伤亡严重，弹药缺乏，给养补充困难，与晋军僵持了83天，最终仍归失败。国民军攻晋北，虽然打通了晋绥交通，但由此却削弱了察北的防御，从而产生了严重的后果。
国民军改变原来战略方针，集中全力攻打晋北，但没有取得实质性的战果，伤亡几万士兵，并消耗大量一时无法补充的弹药，使自己元气大伤，大大削弱了抵抗奉直军阀进攻的军事实力，在战略上处于更加被动的地位。宋哲元率东路主力到晋北，而以王镇淮负责多伦防务。其资望韬略都不能与宋氏相比，且领偏师弱旅，以致最终为敌所败。奉军攻打南口伤亡数万，师久无功，才改变战略，乘国民军之虚猛攻多伦，最终突破国民军整个防线。所以，国民军全力图晋，是导致南口大战失败的最主要的原因。
国民军在晋北之战也暴露了诸多的严重问题。其中最主要的就是缺乏统一作战计划及集中指挥，各部不相统属，彼此又互不配合，甚至互相倾轧。这些弊端就是导致其日后分裂瓦解的主要原因之一。