当北伐第二期作战即将开始的时候，唐生智以北伐军前敌总指挥的名义发布了《关于北上伐吴的布告》，一方面宣称北伐的目的是“以悲天怜人之精神，承先总理之遗嘱，投履而起，奉命前驱……志在倒吴”；另一方面告示，一旦战争开始，难免对民众利益有所损伤，“惟愿相与监督，完成兵民结合之功”，希望群众给予谅解和支持。这实际上是一篇群众动员令。
1926年8月18日，总司令部下达了总攻击令，蒋介石、邓演达、加伦以及长沙两百多个团体举行大会，欢送北伐军前敌总指挥唐生智率军北上伐吴。唐生智督率第四、七、八军数万名官兵，在工农群众配合下，分途向敌汨罗江防线各据点发起了进攻。
唐生智为了全力以赴进行北伐，让湖南省政府军事厅长张翼鹏代他行使省主席职权。张翼鹏，湖南株洲人，长唐生智13岁，清末秀才，曾留学日本，毕业于士官学校骑兵科。后加入同盟会，参加辛亥革命。民国初年，任保定军官学校战术教官。以后又力赞创建黄埔军校，并任炮科主任。北伐开始后，又任北伐军前敌总指挥部总参谋长、湖南省军事厅长。唐生智信任他、尊重他，以师礼待之，便委托他掌管湖南军政大权。
当时，北军在汨罗江防线布置了近十万人的兵力，以宋大霈、余荫森、蒋锄欧、董政国、邹鹏振、李倬章、陈嘉谟、陆氵云等将领担任守卫任务，重要渡口布满了地雷、刺钉、电网等障碍物，将汨水南岸各渡口所有船只全部毁掉或掳走，以阻止北伐军渡江。他们以为这样一来，汨罗江防线就有如金城汤池、铁壁天堑，是任何人都攻不破的。
可是，北伐军以正义之师和高昂的士气，加上广大群众的支援，毅然向吴佩孚这支“不可战胜”的军队发起了冲击。8月19日，第四军经过激战，将平江城内之敌完全肃清，敌守将陆氵云被迫自杀。与此同时，唐生智亲临白水至新市一线督战，指挥左纵队第八军抢渡汨罗江。20日拂晓，第八军向汨罗江北岸发起猛烈攻击，一时间，江之两岸，炮火连天，形成火网，冲锋号声和枪炮声震天动地。北伐军将士不顾生死，前仆后继，徒涉过河，死伤很多，浮尸漂流，江水为血染红，各师仍陆续渡江。何键第二师二十六团首先渡河，经多时激战，凭炮火掩护和群众援助，终将敌顽强阻击之江防部队击溃，紧接着清除地雷、电网，抢修浮桥渡江。到中午时分，占领了桃林市，从敌军手中夺得不少枪枝弹药。第二师三十四团在排除铁路附近电网后，渡过汨罗江，沿武长路向黄沙街推进。然后在二十六团配合下，将守军叶开鑫、宋大霈部击溃，俘敌四百余人，叶、宋乘车败走。北伐军占领黄沙街。同一天，第八军李品仙第三师的先头部队也渡过汨罗江。一举击溃了关王桥附近之敌。第四师已过江的部队，进占大荆街。
21日，唐生智命令第八军分三路追击敌军。第一路第二师所部由黄沙街向新墙河、破塘口前进。敌军守将宋大霈、董政国、余荫森各部在新市、浯口、长乐街等处受创后，即行退却。第二师两个团进抵新墙、破塘口后，因铁桥已被敌军炸断，一时无法过江，便与敌隔河对峙。第二路为第三师，由关王桥经杨林街向长安桥追击。21日午后，抵达桃林，于桃林街以北地区与平江溃敌约一个团相遇，将其全部包围缴械，并连夜进行追击。途中与宋大霈部发生激战，第三师先败后胜，逼宋大霈部退却。第三路为第四师，从大荆街出发，向筻口挺进。与敌军董政国部激战二个小时后，将其击败，便占领了筻口地区。
北军汨罗江防线一破，湘北重镇岳阳又岌岌可危。然而，他们不甘心败退，又在新墙、破塘口等地赶修防御工事，以固守岳阳并待援反攻。21日下午，唐生智命令第八军何键师四个团抵达新墙河附近，第二十六团首先向新墙之敌进攻。第二天拂晓，该师二十六团、三十四团渡过新墙河，向破塘口合围，北军顽强抵抗。北伐军经过三次冲锋，终于攻破其防御阵地，迫敌退却。何键部紧追不舍，毙伤敌军约一百人。
第八军将士在当地群众带领下，爬山涉水，出其不意地将岳阳城内之敌四面包围。担任攻城任务的是何键师第三十四团和李品仙师第八团，由何键任攻城指挥。22日清晨，开始发起攻击。岳阳一带民众纷纷拿起锄头、铁锹，配合北伐军迎敌，与敌军血肉相搏，他们还遍树青天白日旗，对敌形成风声鹤唳、草木皆兵的局面。在这种情况下，敌军四面楚歌，无心恋战，准备撤往湖北。湘、鄂军队争先逃命，为抢夺交通工具发生冲突，鄂军只顾自己，不让湘军乘火车赴鄂。于是，叶开鑫部湘军两千余人愤而倒戈，向北伐军第八军投诚，一部分自行逃亡。
当天下午，岳阳即被第八军占领。北军宋大霈、余荫森部乘火车仓皇北逃。第八军李品仙部奉令在五里牌车站进行阻击，该部尚未部署完毕，北军第一列火车即疾驶而来，李品仙下令用火炮对之进行攻击。由于炮手慌张，未能击中车头，仅将列车后半部之车辆击毁脱落，前半部分车辆竟冲过车站兔脱而去。接着，宋大霈率司令部成员、军官团以及直属部队乘第二列军车而来，见北伐军截击，未到五里牌车站即纷纷下车向江岸方向逃窜。李品仙部即对其进行包围攻击。除宋大霈率一部分脱逃外，伤亡及被俘官佐士兵达千余人，弹药辎重全部被北伐军截获。
在第八军攻克岳阳的同时，第七军先头部队到达羊楼司附近，第四军也攻占了通城。通过汨罗江会战，北军损失过半，被俘官兵达七千一百余人，残存部队则退守蒲圻、汀泗桥一带。仅第八军就俘敌五千余人，缴枪三千多支。这样一来，吴佩孚势力及粤、赣军残部，全部被逐出湖南，北伐军前锋进入湖北境内。
北伐军在一个星期之内就攻破了北军苦心经营的汨罗江防线，扫除了湘北之敌，把战事推向湖北。这与前敌总指挥唐生智运筹帷幄、北伐各军紧密配合是分不开的，广大民众的积极支援则加快了胜利的步伐。为了褒扬唐生智的指挥之功，23日，蒋介石特致电嘉奖，接着，又将第一军第二师炮兵营调归唐生智节制。