当月，李唐的济州别驾刘伯通抓住刺史窦务本，献上济州投降了徐圆朗；东盐州治中王才艺杀了刺史田华，向刘黑闼献城投降。
武德五年正月初，李世民率军抵达获嘉，刘黑闼不傻，知道硬碰只会得不偿失，于是避开了李世民的主力，放弃了相州，退保洺州。正月十四日，李世民收复相州，随后进军肥乡，在洺水沿岸扎营，逼近敌人的纵深。
这时，幽州总管李艺又率领数万兵力来跟李世民会师。刘黑闼得知后，留下一万兵力，由范愿带领着守卫洺州，自己率主力前往袭击李艺。当夜，他的主力在距洺州城几十里外的沙河宿营。
李世民发现敌军主力已北上，故意命令将领程名振带人带着六十具战鼓，在洺州城西二里外的长堤上使劲地擂，咚咚的鼓声，把洺州城的范愿吓得半死。自己只有一万人马，而且面对着的是如雷贯耳的李世民，到时候可能连自己是怎么死的都不知道。惊恐之极马上派人报告刘黑闼。刘黑闼急忙率军赶回，只派了弟弟刘十善与行台张君立带一万兵力阻截李艺。
这就给了李艺可乘之机，正月三十日，李艺抱着复仇的情绪，一阵狂打，结果刘十善、张君立大败而去，一万人有八千人死亡或被俘。李艺长长地出了一口恶气。
这还不算，洺水县人李去惑凭借县城向唐军投降，李世民派将军王君廓率一千五百名骑兵前往支援，入城与李去惑共守。二月十日，刘黑闼率军进攻洺水县城，十一日，刘黑闼行进到中途，遭到了秦琼率领的大唐骑兵的突然袭击。这可是赫赫有名的玄甲兵，刘黑闼此番只是伤亡惨重，但是能保住命已经是万幸了。
在接连损兵折将之后，刘黑闼决定奋起反击，于是对洺水城的进攻越发猛烈了。
洺水县城四面都有护城河，河宽五十多步，刘黑闼在城东北挖了两条甬道，计划一直向城内挖去。李世民三次率军前往救援，都被刘黑闼的军队向外筑下的营栅拦截住，无法继续向前推进。李世民担心王君廓会体力不支，便召集众将商议。李世勣说：“一旦甬道通到城下，这城肯定就守不住了。”
就在大家束手无策的时候，行军总管罗士信主动请求替换王君廓去守城。李世民于是登上城西南的一座高丘，用军旗招唤王君廓出城，王君廓率部下奋勇出战，终于突破重围。罗士信率领二百人敢死队乘机入城，代替王君廓坚守洺水。刘黑闼的队伍不分日夜地猛攻，正巧赶上下大雪，援军无法接近，罗士信坚守了八天，二月二十五日，洺水县城被刘黑闼攻占，罗士信被俘。刘黑闼想要留罗士信一条性命，为自己效力。罗士信态度强硬，宁死不屈，年仅二十三岁的罗士信英勇牺牲。
洺水易攻难守，但在刘黑闼攻陷洺水四天之后，二月二十九日，李世民还是率军攻下了洺水城。
三月初，李世民和李艺在洺水城南会师，他分兵到洺水北面驻扎，在那里挖下深沟，筑起高垒。洺水城虽然不易防守，但是它就在洺州城眼皮底下，对于刘黑闼来说无异于在自己的屁股底下扎了一根钉子。于是刘黑闼不断向唐军挑战，李世民再施拖字诀，随便你怎么挑战，我就是不出招。
李世民这边不搭理刘黑闼，但是那边却派出奇兵，断绝了刘黑闼的粮道。
这次，李世民就可以更加肆无忌惮地拖着刘黑闼了。
三月十一日，就在刘黑闼以为李世民还会无休止地僵持下去的时候，刘黑闼任命高雅贤为左仆射，相当于政治局常委、国务院总理级别的显赫官职，在军中大摆酒宴。当晚的主角高雅贤人逢喜事精神爽，自然是喝高了。可就在这晚，李世民派兵出击了。为首的将领是李世勣，他率军逼近敌人军营，敌人慌忙抵抗。酒高人胆大，高雅贤喝醉了酒，雄性荷尔蒙开始大规模发挥作用，居然一个人骑上马前去迎战了。
但是喝醉了的高雅贤根本不具备什么战斗力，还没怎么着，就被李世勣不怎么厉害的部下潘毛刺中，从马背摔到地上。高雅贤的侍卫急忙赶到，将他抢了回去，但这位上任还不到一天的左仆射还没到军营，就断了气。可悲可叹！
因为喝酒刘黑闼损失了一员大将，看来喝酒真的会耽误大事啊！
过了两天，众将领再次前往刘黑闼处挑衅，这次刘黑闼吸取上次的教训，没有喝酒，于是来进攻的人中了刘黑闼设下的埋伏，前日立下大功的潘毛这次不幸被刘黑闼的骁将王小胡活捉。
这还不算，刘黑闼派兵从自己控制的冀州、贝州、沧州、瀛州运粮而来，水陆并进，又被李世民的部下程名振发现。程名振带着一支上千人的奇兵发动突然袭击，水路的运粮船全部被沉到水底，陆路的运粮车被付之一炬。于是刘黑闼的军队渐渐地断了粮。
刘黑闼也不全是失败，在洺水前线，李世民与刘黑闼相持了六十多天的时候，刘黑闼突然率军偷袭李世勣的军营，李世民急忙率精锐骑兵猛攻敌人的后背，援救李世勣，却被刘黑闼率军包围。好在尉迟敬德率数百名壮士破围而入，李世民与叔伯弟李道宗乘势突出重围。
对于刘黑闼带兵偷袭李世勣，李世民认为刘黑闼已经断炊了，料定刘黑闼必定会前来与唐军寻求决战，便派人在洺水上流筑起了一道堤坝。他指示看守堤坝的军官说：“等我与敌人交战派来使者的时候，你就立即将堤坝扒开。”
三月二十六日，刘黑闼果然出动了，他率步骑二万南渡洺水，紧逼着唐军营栅列下军阵。李世民有意向后拖延出战时间，一直等到唐军吃了午饭，才命令唐军出动。李世民亲自率领精锐骑兵向刘黑闼的骑兵发动冲击。大唐骑兵来势凶猛，敌人一见慌了神，转身便逃；李世民乘胜下令自己的骑兵尽情蹂躏敌人的步兵。刘黑闼收拢溃散的骑兵，又重新杀回战场，他的部下殊死作战，几散几聚。这样，从正午到黄昏，双方交手数次。到了后来，敌人渐渐顶不住了。刘黑闼的亲信王小胡对刘黑闼说：“我们全部力量已经快用尽了，还是早点走了。”刘黑闼表示同意，两人率先从军阵后面跑掉了，但是刘黑闼的部下不知道头儿已经走了，依旧在战场上奋力搏斗着。
这时，上游看守堤坝的军官看到了李世民派来的使者，迅速将堤坝扒开，大水咆哮着汹涌而下，有一丈多深。刘黑闼的军队后路被大水切断，全盘崩溃，一万多人被杀，几千人被大水淹死。
李世民又一次将自己的军事才干发挥得淋漓尽致，以一场小洪水的代价打败了刘黑闼。只可惜了英勇善战的刘黑闼败在了一场蓄意安排的小洪水上。
刘黑闼和范愿等人率领两百骑人马逃奔突厥，河北各地全被唐军平定。
李世民随即率军南下进剿下一个目标——徐圆朗。但是关键时刻，李渊一声召唤，命令李世民赶紧回去。李世民将军队指挥权暂时交给了李元吉，自己慌忙回去见老爸。李渊让李世民回去的理由是什么没人知道，知道的就是在李世民对李渊把当前的情况讲了一遍之后，李渊又让李世民回去了。
徐圆朗虽然是个造反高手，但是真实实力没有多少，一般人都比不上，更别说跟李世民、李密等人相比了。之前他的势力得以扩张完全是因为有刘黑闼在前面替他挡着。
现在李世民的到来对徐圆朗来说不啻于灭顶之灾。
开战！
李世民向徐圆朗发动了大举进攻，一口气攻下了十几座城池，声威震撼了淮、泗一带。在吴地长期割据的杜伏威感到害怕，便请求入朝晋见。李世民认为下面无须恶战即可取得胜利，便留下淮安王李神通、行军总管任瑰和李世勣继续进攻徐圆朗。自己和齐王元吉一道在七月六日班师回朝。
这中间有一个徐圆朗的老熟人先他一步走了，那就是盛彦师。
盛彦师被任命为宋州总管，带领齐州总管王薄攻打许昌。
盛彦师虽然有勇有谋，他的军队也要吃饭。
但是粮食从哪里来？
向地方要。
不巧的是潭州刺史李义满跟王薄有矛盾，李刺史一听说王薄来要粮食，立即把粮仓关上了门。
就不给你！
盛彦师攻下许昌之后，开始“秋后算账”，把李义满关到齐州的大牢里去了。
李渊听说了这件事，专门下诏让释放李义满。可是李渊的使者还没到，李义满就已经死在大牢里了。
最好笑的是王薄，回来的时候居然还敢从潭州经过，结果被李义满的侄子抓住杀了。
盛彦师也因为这件事的牵连而被判了死刑。
三个中高级官员就这样死于窝里斗，真是可悲。
而不久后，徐圆朗在连战皆败后弃城夜逃，被地方乡勇所杀，他的地盘也全部被唐军平定。
刘黑闼卷土重来
就在李唐的统一大业顺风顺水地进入收官阶段的时候，东突厥又来捣乱了。
虽然之前李渊已经花费了很多的银两用来打点突厥的一切，而且双方也把自己扣留的对方的使者放了回去，双方感情眼见着进入了蜜月期。谁知，只认利益而不讲情义的东突厥在和李唐双方互相表示友好之后不久，颉利可汗就跟高开道、苑君璋合兵一处，开始攻打雁门了。
李唐驻防雁门的主将是并州总管刘世让。刘世让也很厉害，之前曾击退过东突厥的进攻。
这次，以颉利可汗为首的、来势汹汹的三路大军仍然没能撼动刘世让。僵持了一个多月后，一筹莫展的颉利可汗无奈地选择了撤退。
但是颉利可汗不是什么无能之辈，实际上他是非常生猛的，李渊手下的另一员大将李大恩马上就领略到了他的厉害。
这个李大恩原是窦建德手下的大将，在窦建德败亡之前就归附了李唐，屡次击退东突厥，后被封为定襄王。
武德五年初，李大恩上书李渊，说东突厥发生了饥荒，可以乘机攻取马邑。
李渊批准了李大恩的方案，并且派遣殿内少监独孤晟率军于二月在马邑与李大恩会合，然后一起进攻苑郡璋。
结果独孤晟放了李大恩鸽子，无奈之下，李大恩只好退守新城。
颉利可汗见李大恩落单，立即派遣数万骑兵和刘黑闼一起围攻李大恩。
李渊知道后，立即派李高迁去救援。
可是李大恩这边的粮草不等人，援兵还没到，李大恩就断炊了。李大恩只得率军逃跑。
可惜刘黑闼和东突厥的将领们已经料到李大恩可能采取的行动，在他逃跑的路上截击他，结果唐军被打散，李大恩战死。
李大恩虽然死了，但是能够抗击东突厥的将领还大有人在。东突厥五月进攻忻州时，被李高迁击退。
东突厥就是十足的滚刀肉，六月，东突厥又联合刘黑闼一起进攻定州。
吐谷浑也趁火打劫，进攻洮州、旭州和叠州。吐谷浑好对付，岷州总管李长卿把他们击败了。但是到了八月，吐谷浑又来进攻岷州。与上次相同的是，防御的仍是总管李长卿；与上次不同的是，胜负的双方调换了位置，也就是说李长卿这次被吐谷浑打败了。而且刘黑闼复出之后，重新回到河北、山东一带。他的旧将曹湛、董康买已经逃往民间躲藏，见刘黑闼返回中原，又起兵响应。颉利可汗这时候也来捣乱，亲自率领十五万骑兵从雁门出发进攻并州，同时派遣另一支部队进攻原州。
这下足够李渊脑袋大了。虽然自己也部署了应对的策略，但是颉利可汗的十五万铁骑可不是闹着玩的，一般人根本拦不住他啊！无奈之下，李渊只得使出老伎俩，派郑元踌去见颉利可汗。郑元踌出使过东突厥五次，跟东突厥的高官们早就混熟了，对东突厥的情况也非常了解。郑元踌见到了颉利可汗，首先说东突厥不守信用。这倒是个事实，颉利可汗自然也没有话说。
郑元踌动用自己的三寸不烂之舌，开始忽悠颉利可汗。
总结一下，是这样几层意思：
一、突厥跟中原由于存在很大的地域差异，所以很容易产生水土不服的症状，即使占领了中原，情况也不会太乐观。
二、即使可汗你得到了钱财，也要分给手下的兄弟们，自己能得到多少呢？但是如果可汗放弃进攻中原，却可以从李渊那里得到数目相当可观的钱财。
三、可汗如果放弃进攻中原，还可以免于跟李渊结怨。
最后这句话很有点威胁的意味，话外之音就是如果不放弃进攻中原，那李渊也不是很好惹的。
这番话虽然词藻并不华丽，句式也谈不上优美，但是不得不说这个郑元踌却准确地抓住了突厥的心理——想要钱，还怕失败。
在见过郑元踌之后，颉利可汗果然撤军了。
这就是心理学的魅力之所在。同时也说明了一个硬道理，外交官是一门崇高的职业。当然，外交上的胜利最终还是要以军事和经济实力为后盾的。
如果郑元踌不提李渊数量可观的好处费，如果李唐没有一支能征善战的军队，即使郑元踌说得再天花乱坠，恐怕也无法让东突厥的铁骑后退半步。
但是即使这样，东突厥和李唐之间的关系也没缓和多少。经过多次征战，东突厥的势力被削弱了很多。但是，吐谷浑、刘黑闼、高开道等人却一点也没消停。
八月，吐谷浑攻陷瀛州，杀了刺史马匡武。接着，盐州人马君德向刘黑闼献城；高开道进攻洮州。
面对刘黑闼的东山再起，十月初一，李渊任命李元吉为领军大将军、并州大总管，负责征讨刘黑闼。刘黑闼也算是个人物，几经惨败，恢复力却很强，现在已经恢复到生猛的状态了。生猛的刘黑闼还让李唐看到了他的战斗力，淮阳王李道玄和总管史万宝率三万大军前往征讨，和刘黑闼军在下博对阵。结果陷入重围，李道玄临阵被杀，史万宝率轻骑逃回，李唐可谓损失巨大。李道玄的失败对河北一带的战局产生了重大影响。崤山以东都为这次战役而震动，洺州总管李瑗吓得弃城而逃，各州县纷纷归附刘黑闼。十来天的时间，刘黑闼又重新占领了以前属于他的所有地盘，十月二十七日，刘黑闼进入洺州，回到了他以前的统治中心。
而且，尽管李渊已经将李元吉派出去作战了，但是，李元吉畏狼如虎，压根就没采取什么军事行动。现在的刘黑闼对于众人来说，已经是非常厉害的角色，现在李唐到了无人可派的处境。李渊考虑到将来的皇帝问题，所以不想再派李世民出战。那李唐是不是就要坐以待毙了？
就在这关键时候，一向文静仁厚的李建成主动请缨，要求征讨刘黑闼。这是李建成的属官太子中允王珪和太子洗马魏征给李建成支的招儿。他们跟李建成说：殿下只是因为生在李世民前面所以登上了太子之位，跟李世民的功盖天下、四海归心相比，没有什么能令天下人服气的功勋。现在可以借征讨刘黑闼立点儿功，再结交点河北一带的英雄人物，这样对保住自己的地位就很有利了。
李建成一听，很有道理，于是挺身而出，征讨刘黑闼。十一月初七，李渊下诏陕东道大行台、山东道行军元帅和河南、河北诸州都受李建成管辖，李建成全权负责征讨刘黑闼的事宜。
看到自己的哥哥主动请缨，李元吉也来了士气，在魏州一举打败了刘黑闼的弟弟刘十善。同时，刘黑闼很是气愤一个人，在别人都望风投降或者逃跑的时候，这个人镇定地不动不摇，这个人就是李唐的魏州刺史田留安。
刘黑闼取得的胜利已经不少了，但是惟独，拿田留安无可奈何。为什么？