遣上谷公王君廓自洛口发兵，逼近东都，从东面切断王世充的退路，同时也是郑军的饷道。
遣怀州总管黄君汉前往河阴，然后西上攻取回洛城，切断王世充的东北路。
秦王世民亲率中军，直取北邙山高地。
这样，唐军以铁桶般的四面合围之势，连营以逼东都。与此同时，秦王派幕府宾客，利用熟人、亲戚等各种关系，采取投书散信、化装潜入、游说用间等手段，对洛阳周围各州县守将，展开了强大的心理攻势和策反战。
在黑云压城般的军事攻势的威慑下，心理战和策反战很快奏效。
八月初，王世充的洧州长史张公谨（原瓦岗军将领，与单雄信同日被俘降郑）与刺史崔枢献城来降，随后，邓州土豪擒获该州刺史来降。显州总管以所部二十五州来降。就连与郑地毗连的窦建德的共州县令唐纲，也杀死了刺史，献州来降。
中秋节的前一天，武德三年八月十四日，攻取东都的外围战打响。
当天，黄君汉派遣校尉张夜叉，率两万水军渡过黄河，强攻回洛城。经过两天激战，将士们身冒矢石，前仆后继，终于俘获其守将达奚善定，袭破回洛，并乘势攻占了敌方二十余处堡垒，放火烧毁了河阳南桥。
王世充派太子王玄应率杨公卿等部，企图夺回回洛，但屡攻不克，伤亡惨重，只好于西城修筑月城，留兵拒守。随后，外围战的胜利捷报不断传至中军大营：八月二十五日，刘德威攻陷怀州。占领敌堡垒无数，挥兵进驻外城；九月十二日，史万宝袭破龙门，进军甘棠宫，九月十七日，王君廓佯攻轘辕，然后设下伏兵，大破王世充部将魏隐，斩杀无数，掠地赢抵管城……
秦王李世民率领中军，早已顺利地拿下北邙山。然后与结阵于青城宫的王世充之主力遥相对峙。
这日上午，郑帝王世充在阵中巡视，远远看见秦王李世民在河对岸的唐营中，骑马瞭阵，便在文武众臣们簇拥下，隔水对秦王高声喊道：“隋室倾覆，唐帝关中，郑帝河南，本应井水不犯河水，各自为政，两两相安。今世充未曾西征，秦王殿下却忽然举兵东来，其理何在？”
秦王微微一笑，不屑作答。此时他身边跟随的是当年由江都逃归大唐，现任侍御史的宇文士及。他让宇文士及上前答话，士及走马上前。正色斥道：“四海皆仰皇风，唯公独阻声教，我等为此而来。”
王世充又说道：“两军各自息兵，唐、郑永为睦邻，不亦善乎？”
秦王再令宇文士及回答：“奉诏取东都，不令讲好也。”王世充见和谈无望，面显愠色，怒声道：“既如此，世充便与尔等拼个鱼死网破。”
然而，形势对王世充却越来越不利。不久，其尉州刺史时德睿率所部杞、夏、陈、随、许、颍、尉七州降唐。秦王将七州人马仍交时德睿统驭，仅把尉州改为南汴州。这样一来，远近震动，河南州县相继来降。东都洛阳几乎成了汪洋大海中的一座孤岛。
东都外围大致扫清，合围之势已经固若金汤。该是发起总攻的时候了。但是，秦王却迟迟不肯下令。众将领早就习惯了对秦王言听计从，令行禁止，各营都养精蓄锐，秣马厉兵，耐心等待着决战时刻的到来。
秦王世民估摸着，洛阳城内眼下还粮草充足，士气未落。他要长期围困，直至城内粮绝草尽，人心惶惶，不战自乱。到那时再发起总攻，可把将士们的伤亡减少到最低限度。
王世充被困于城中，越来越感到力薄势窘，难以支持，只好遣使往河北，向窦建德求援。
当初，王世充僭号称帝之后，曾派兵侵扰窦建德的防地。窦建德也以牙还牙，袭破王世充的殷州作为报复，从此以后，郑、夏两国交恶。
但此时此刻，王世充走投无路，只好厚着脸皮，派人向窦建德求救。
这个时候，窦建德早已与唐朝使者暗中串通，又忙着与罗艺、孟海公交战，哪里还愿管王世充的闲事？
王世充的使者得不到答复，便赖在窦建德的都城洺州不走，每日哭哭啼啼，向窦建德和他的大臣们哀哀乞怜。
光阴邅递，日月如流。转眼之间，冬去春来，唐军兵围东都已经五个多月。随着新季节的到来，草木复苏，鼠雀出没。围困者和被围者双方，似乎也与这世间万物一样，变得躁动不已，按捺不住了。
武德四年正月的最后几天，李世民决定组织一些小规模的短促突击，以杀伤王世充部署于城外的有生力量。
他精心挑选了二千名精锐骑兵，一律着黑衣玄甲，分为左右队。让秦叔宝、程咬金、尉迟敬德、翟长孙各率一队，分别突袭城外郑军。
每次战斗打响，秦王世民都亲披玄甲，背负强弓，手舞双剑，率军冲在最前头，所向无不摧破，直令郑军将士闻风丧胆。
进入二月之后，王世充军粮渐感不足。他派太子王玄应去虎牢运粮。
世民得到消息，即派李君羡前往拦截。李君羡命士卒们埋伏于洛阳至虎牢之间的山林之中。在王玄应率队去虎牢时，隐蔽不战。待其大车小辆满载而归时，李君羡一声令下，大队人马呼啸而出，各持兵刃，狠砍猛戮。王玄应冷不防突然遭到袭击，抵敌不住，扔下百余具尸体和所有的运粮车辆，狼狈逃回洛阳。
王世充的处境更加艰难，无可奈何，只好再派使者王琬、长孙安世去向窦建德求援。
此时，窦建德已击败罗艺，收服了孟海公，正是踌蹰满志的时候。其中书侍郎刘彬收取了郑使的大量珍宝金玉，便乘机劝说道：“天下大乱之后，唐得关西，郑得河南，夏得河北，恰是三足鼎立之势。今大唐举兵临东都，经秋涉冬，唐兵日增，郑地日蹙，唐强郑弱，势必不支。倘若郑亡，夏不能独立矣。不如解除以前的仇忿，发兵救之。夏击其外，郑击其内，郑、夏联兵，必能破唐。破唐之后，再徐观其变。若郑可取则取之，合二国之兵，乘唐师之老，则天下可取也。”
窦建德认为刘彬说得颇有道理。其实他心里一直是清醒的。唐朝派使者来拉拢他，不过是想临时稳住他，对郑、夏两国实行各个击破。且不说以后争夺天下，就眼前的唇亡齿寒之忧，也只有援救王世充方能解得。
于是，他采纳了这个建议。一面向郑使许诺不久即派兵赴援，一面又派使者至李世民处，以调停者的身份，请求秦王罢兵。
秦王东征，对洛阳志在必得，岂能理他这个茬？当即将其使者扣留，不予答复。
接着，秦王派宇文士及急驰长安，向高祖汇报攻取洛阳时机已经成熟，请旨发动总攻。
高祖听罢前线详情，对宇文士及说道：“回去告诉秦王，我军攻取洛阳，目的在于收土息兵。克城之日，凡是乘舆法物、图籍器械等非私家所需者，可为朝廷收之。其余子女玉帛，金银财物，可全部分赐将士。”
这就等于把整个洛阳的处置权，全部交给了秦王世民。而对于在前线卖命的三军将士，也无疑是一种巨大的物质刺激。
秦王将圣旨传达下去，全军上下为之欢呼。
二月二十三日，李世民将全部精锐结阵于北邙山，带领众位大将登上魏宣武陵，观察了一下敌阵，对左右说道：“贼势已窘。我可悉军而出，拼力一战。今日大破贼兵，此后王世充再不敢出城矣。”
说罢，他看了看屈突通，下令道：“老将军可率五千人马，渡水邀击敌军。且记，一旦双方交战，立即放烟为号，自有大军随后赶来。”
屈突通领令，立即带领五千步骑，向郑军营盘出击。
不多时，果见对方阵前狼烟如柱，火光冲天。秦王世民马上率领千军万马向山岗下冲去。唐军居高临下，如悬瀑倾泄，顿时将郑军冲得七零八落。
秦王一马当先，冲在最前面。与屈突通汇合之后，他欲探知郑军阵营的厚薄，率领着数百精骑直向纵深插去。所到之处，血肉横飞，敌军纷纷倒毙。
也不知厮杀了多长时间，秦王忽然觉得一阵清风迎面扑来，浑身爽利。抬头一看，居然已经杀透敌阵，冲至敌军背后。但在冲突之中，数百骑皆已分散，看看身边竟只剩下程咬金一人。
此刻，一道长堤横亘面前，后面王世充追兵已到。偏偏在这个时候，秦王青骢马被流矢射中，倒毙地上。
千钧一发之际，程咬金拨转马头，张弓发箭，连连向敌军射去，箭无虚发，冲在最前面的敌兵应弦而倒，后面的皆有惧色，迟疑不敢前行。
借此机会，程咬金腾身下马，将坐骑让给秦王，自己则手执大斧，一面发疯似地上下抡动，嘴里还大呼小叫地骂个不停：“日你祖宗的，你爷爷程咬金在此，不怕死的龟孙子，纳命来……”骂声未落，早有五六个郑兵死于斧下，有的从左肩到右胯，竟被血淋淋地劈作两半。对面的郑兵，就像见到了夜叉魔鬼，嗷嗷叫着四散逃命。二人一个马上，一个步战，上下配合，奋力杀敌，直向敌阵冲去，终于与对面掩杀过来的唐军主力汇合。王世充也在指挥其部众拼死力战，寸步不让。两军散而复合，合而复散，你来我往，反复交阵，直杀得鬼泣神惊，风云变色。
激烈的战斗一直持续了三个多时辰，王世充的兵马开始溃退。
李世民乘势纵兵追杀，千军万马如狂澜怒涛，席卷而来，斩杀郑军七千余级，俘获万余人，一直追杀至洛阳城下，将这座孤城从四面八方紧紧围困。
秦王下令，将中军大营移至青城宫。此处已在东部的禁苑之内，谷水和洛水在这里汇合，隔水便是通往洛阳市区的方诸门。
唐军还未来得及筑起壁垒，王世充已率军二万冲出方诸门，凭借原有的马坊垣墙、壕堑，临谷水结阵，鼓噪呐喊，抗拒唐兵。
当日夜晚，左武卫大将军李勣，在自己的军营中巡视已毕，刚刚睡下，便有一名巡营兵前来禀报，说寨栅之外有一商贾模样的人求见。
李勣感到奇怪，两军交战如此激烈，怎么会有行商者前来求见，这其中必有缘故。
他连忙起身，传唤那人进帐。来者三十多岁，一身干净的蓝布长衫，脚下一双皂靴，全被露水打湿，沾满了泥土。
“足下何人，缘何夤夜来访？”
“在下受郑州司兵沈悦派遣前来向李大将军请降。”
“足下请坐，沈司兵现在何处？”
“沈大人仍坐镇郑州，明后日便可举州归顺。不过，他特让小人告知李大将军，今夜务必要率贵军攻取虎牢。”
“今夜？为什么如此仓促？”
“虎牢有荆王王行本镇守。自太子王玄应运送军粮被劫，逃回洛阳，虎牢城内军心浮动，主将王行本又在病中。长史戴胄本欲与沈大人同时献城归降。但刚刚得消息，明日一早，王世充要派一支劲旅进驻虎牢。将军今夜可径取虎牢，至时击鼓为号，三通鼓罢，城内自有人开门接应。”
“唔，这也是沈司兵的人？”
来者笑了笑：“是贵军前锋屈突通将军的二位公子。王世充欲增兵虎牢的消息正是他们送往郑州的。”
李勣大喜。虎牢是扼住外围增援洛阳的咽喉要道，战略重地，且有郑军的粮仓在此。夺取虎牢，对下一步总攻洛阳至关重要。
来不及禀报秦王了。李勐当机立断，点起五千人马，乘夜色直扑虎牢。
丑时末刻，兵至虎牢城下。城头上黑黢黢的死一般沉静，昏黄的风灯下，三两个哨兵在来回游动。
李劫命人击鼓，三通鼓罢，果然城门大开。长史戴胄与屈突通的两个儿子带着数十名兵士，早已恭候在那里。这样，李勣兵不血刃，轻取虎牢，并俘获了王世充的荆王王行本。
三月中旬，秦王世民下令强行攻打洛阳。洛阳乃中原重镇，自古便是兵家必争之地，非周围郡县小城可比。城墙巍峨高耸，壁立千仞。护城河宽数十丈，引洛水灌之，水深难渡。
更加王世充亦非等闲之辈，为了抗拒唐军，早在洛阳宫城里做了大量的长期的防御准备，可谓森严壁垒。城上备有大码爻飞石，重达五十斤，能抛出二百步远。还备有许多“八弓弩箭”，箭杆粗若车辐，箭簇大如巨斧，可射五百余步。
其他如滚木、礌石、火箭、滚水自不必说，更是准备充裕，多不胜数。
王世充下令部属，紧闭四门，坚守不出。精兵强将皆登上城头。唐军来攻时，远则不理。待其攻至城下，特别是爬上城墙半腰时，则万箭齐发，滚木孺石劈头猛砸。
唐军昼夜不息，轮番攻城，云梯、铁索飞挝、鹅车、抛石车、排炮、火药等各种攻城战具全都用上了，一连猛攻十几天，竟不能克。而唐军将士伤亡惨重，有上千名士卒战死城下。
正当秦王与诸将焦躁异常之时，有探马前来禀报，夏王窦建德率领三十万大军，正离开沼州，杀气腾腾地直奔东都而来。
夏王窦建德倾国内精锐之师，指挥其部将刘黑闼和新近归附的孟海公，分水旱两路，气势汹汹地向洛阳进发。
三月二十一日，大军过滑州，到达酸枣，继而攻陷唐军据守的管州、荥阳、阳翟等县，然后沿黄河逆水而上。
王世充的弟弟，徐州行台王世辩率兵数千前来会合。此时，窦建德麾下共有兵马十三万之众，对外则号称三十万。
不久，行至虎牢东原的板渚一带。窦建德下令大军在此驻跸，一方面安营扎寨，分兵布阵，一方面派人速往洛阳给王世充送信。
暮春三月，草长莺飞，花放柳舒，正是各种生命都蓬蓬勃勃，欣欣向荣的季节。但洛阳城内，此时却被缭绕的战云和死亡的阴影笼罩着，充满了末日即将来临的恐惧。
唐军兵临城下之后，李世民命将士们在都城四周深掘壕堑，高筑垒墙，以守为攻，严密封锁，断绝了城内军民人等与城外的一切联系。
这一来城内承受不了了。先是粮食严重匮乏，三匹绢仅能换来一升米，其次是缺盐，十匹布才能换得一升盐；接着，便是所有的日常用品皆告短缺。而金银财宝、服饰珍玩，反被视如草芥。