就在李密还在跟杨玄感辩论的时候，一件意外的事情发生了，刚刚成立的起义军里出现了叛徒，刚刚被委任为怀州刺史的唐祎跑了。唐祎这一跑彻底打乱了杨玄感的部署，起义无法再拖延了，只能仓促出发，而起义军遇到第一块难啃的骨头，就是唐祎跑回去镇守的河内郡。唐祎一回城就组织全民上城防守，杨玄感的弟弟杨玄挺带领一千人打了半天毫无所获，只能绕开河内郡继续前进。与此同时，唐祎派人飞报东都：杨玄感反了，东都洛阳马上进入战备状态；同时修武的百姓自发地把守住临清关，杨玄感的起义军无法从这里通过，只能绕道汲郡南渡黄河。在杨玄感看来，河内郡打不下来没有关系，临清关过不去也没有关系，只要南渡黄河直逼洛阳，天下就在自己的手中。在杨玄感的指挥下，老弟杨积善率领三千人在偃师南郊顺洛水向南进发，老弟杨玄挺（实际已经过继给叔叔杨约当儿子）率领三千人从白司马坂翻过邙山南下，而他自己率领三千人紧随其后，这就是杨玄感的全部主力。
说起来这些主力军还是很寒酸的，武器装备就是每人一把单刀，一件柳木做的盾牌，没有弓箭，也没有铠甲，跟大隋正规军的装备相比，隋军是凤凰，杨玄感军是白条鸡。不过初次遭遇，白条鸡还是显示了威力，因为留守的隋军还不如白条鸡呢。细想一下也很合理，能派上用场的都被皇帝杨广带往辽东，家里剩下的全是老弱病残，这些留守的军队根本不能算作军队，只能算作维持治安的老弱病残组合。杨积善率领的起义军一路提心吊胆地渡过洛水，迎战他们的是河南令达奚善意率领的五千精锐兵马。看着人家雄壮的五千兵马，杨积善手下的三千人心里都有些打鼓，可是没有办法，只能硬着头皮往前冲。冲着，冲着，奇迹发生了，对方的五千人马自己崩溃了，士兵四散逃去，白条鸡首战获胜。杨玄挺的一路人马也遭遇了隋军的抵抗，带队的将领是将作监（建设部高官）裴弘策。这个裴弘策平时主管工程建设，现在被赶鸭子上架带兵平叛，这就叫“赶鸭子上架，逼张飞绣花”。将熊了一个，兵也熊了一窝，裴弘策这八千兵马跟前一拨一样，两军一照面，八千人就开始四散奔跑了。
裴弘策没有办法只能后退几里垒砌防御工事，没想到杨玄挺又追了上来，再打，那帮熊兵还是接着跑。一天之内，杨玄挺打了五次，熊兵跑了五次，跑到最后，八千兵马只剩下十几个骑兵，剩下的哪去了？要么阵亡，要么开了小差，要么投了杨玄感。两战接连败北，洛阳留守樊子盖坐不住了。樊子盖一生兢兢业业，从地方官做起，大好的时光都耗在地方官任上了，年轻时他想调进京城，隋文帝总是不准，后来年老了，皇帝杨广总算看到了他的价值，这才提拔起来，更是委任给洛阳留守这个关键岗位。两战一败涂地，洛阳告急，樊子盖如坐针毡，可因为他是地方官起家，洛阳的官员们对他并不感冒，他的命令到了洛阳官员那里总是要打些折扣。樊子盖正郁闷时，败军之将裴弘策撞到了枪口上。按照樊子盖的部署，裴弘策需要接着带兵出战，可裴弘策就是不执行，主要是被杨玄挺打怕了。在平时樊子盖和裴弘策级别是一样的，所以裴弘策从心里也就没把樊子盖当回事，不出战，就是不出战，你能把我怎么着吧！怎么着，砍！说砍就砍，建设部高官裴弘策说没命就没命了，不是因为建筑质量，而是因为一场败仗。
砍完了裴弘策，国子祭酒(国立贵族大学校长)杨汪还对樊子盖面有不愤，好，接着来，再砍！杨汪这才意识到樊子盖真敢下死手，赶忙磕头，直到把自己磕出了血，头才算保住了。一个被砍了头，一个头磕出了血，樊子盖用两个老家伙的头树立了自己的威风，洛阳城内才算统一了思想。在樊子盖的指挥下，杨玄感在外面拼命地砸门刨墙也没效果，毕竟他的军队一穷二白，既没盔甲，也没弓箭，更别说攻城工具了，穷成这样还好意思出来打仗。洛阳城虽然没有攻下来，杨玄感的队伍却迅速壮大了，加上陆续投降的隋军，杨玄感的队伍已经达到五万人，而且人数还在不断增加。令杨玄感更兴奋的是，一大批高官子弟也加入了起义的队伍，这着实让他吃了一惊。这些高官子弟包括已故大将韩擒虎的儿子韩世咢、观王杨雄（杨坚的族侄）的儿子杨公道、内史侍郎虞世基的儿子虞柔、大将来护儿的儿子来渊、御史大夫裴蕴的儿子裴爽、大理卿郑善果的儿子郑俨、大将周罗睺的儿子周仲等四十来人，总之这些人都是高官子弟。
说起来这些高官子弟投奔杨玄感的原因其实很偶然，原因只有一个：贪生怕死！按原计划这些人是响应政府号召来东都平叛的，本来指望着平叛立点战功，好让老爹们的脸上更有光。等到了洛阳门口他们听说将作监裴弘策因为兵败被斩首了，这下可把公子哥给吓坏了，“闹了半天，要是打了败仗还要杀头呢！”公子哥们一商量，算了，别去了，省得回头再让人给砍了。可是已经到了洛阳城下了，就这么回去大家又不甘心，也不知道谁先提了一句：“要不咱投杨玄感吧，没准成功了咱都是开国元勋！”就这么着，原本立志为国杀敌的公子哥们转身就参加了起义军。历史有的时候就是这么讽刺，老爹们正在前线给皇帝卖命，儿子们却在后方革皇帝的命，这到底唱的是哪出呢？就在杨玄感在洛阳城周围横行霸道之时，得到消息的十岁皇孙杨侑已经悄悄派出刑部尚书卫文昇，率四万人从大兴出发增援东都。卫文昇也是一个狠人，最大的特点是胆大心细，最经典的案例是一人招降十万人。隋文帝仁寿初年，山獠作乱，卫文昇出为资州刺史以镇抚之。卫文昇到任以后，正赶上山獠围攻大牢镇，卫文昇单骑赴其营，谓群獠曰：“我是刺史，衔天子诏安养汝等，勿惊惧也。”诸贼莫敢动。
于是说以利害，渠帅感悦，解兵而去，前后归附者十余万口。一征辽东时，东渡辽河九个军全都损兵折将，唯独他的部队全建制返回，征辽将领基本都受处分，就他一个人升官，这就是传说中的天才吧！这次出兵平叛，卫文昇也是下了狠心。一出兵，他先处理了一件小事，这事对一个四万大军统帅来说实在是太小了，什么事呢？也就是挖了一个坟头，只不过坟头的主人有点特别，不是别人，就是杨玄感的老爹杨素。卫文昇命人挖了杨素的坟墓，纵火烧了杨素的尸体，从此他跟杨玄感就不共戴天了，按照血亲复仇的原则，这种大仇，三辈子也报不完。烧了杨素的尸体，卫文昇就算把自己的后路彻底给堵死了，同时也向四万士兵证明，我卫文昇就是要跟杨玄感死磕！洛阳城外乱成一片时，皇帝杨广正在辽东城下指挥围攻，包围圈已经越来越小，城里高丽军的抵抗也越来越弱，杨广屈指一算，顶多三天，辽东城定然告破。为了攻破辽东城，杨广是下了血本的，他下令制造布袋一百万个，这一百万个布袋用来做什么呢？答案是用来装土的。按照杨广的规划，这一百万个布袋将码成三十步宽，从城外的平地开始垒，一直垒到城墙边，垒砌起来的布袋跟城墙一样高，这样就不用爬城墙了，直接一抬脚就进城。
这么浩大的工程能在高丽军的眼皮底下完成吗？答案是能。按照规划，在工兵垒布袋的同时，将有数辆比城墙还高的战车矗立在两端，上面布满弓箭手，皇帝一声令下，工兵开始垒布袋，弓箭手负责射箭掩护，这就叫“武装修路”。只要神射手压得城里的守军抬不起头，这条极有想象力的高架大道也就有盼头了。等弓箭手停止射击，里面的高丽守军刚一抬头，就会看到无数的隋军迈着方步，提着砍刀冲了进来。（国家强盛就是霸道！）一切都在按计划进行，总攻也进入了倒计时，就在这时，杨玄感造反的消息传到了辽东城下，此时距离杨玄感造反已经过去了二十多天。洛阳到北京七百多公里，北京到辽东城又是六百多公里，那个年代从洛阳往辽东捎个信太难了！按照《新唐书》的说法，这个十万火急的消息是李渊传递的，而《资治通鉴》却没有相应的记载。根据我的推测，皇帝杨广很有可能先后收到过几个同样的消息，因为举报谋反是每个官员应尽的义务，李渊很有可能也派人送了这样的鸡毛信，而这封信为他在关键时刻赢得了皇帝的信任。接到告急的文书，皇帝杨广显然有些慌乱。
他从来没想到国内会乱成这个样子，更没有想到杨玄感这个白眼狼会造反，令他更意外的是，居然有四十多个高官子弟跟着造反，这是唱的哪出呢？他们的老爹可正在前线为朕卖命呢！这帮小兔崽子。想了半天，皇帝杨广也没有想到办法，只好把纳言（最高人民检察院院长）苏威叫来一起商量，判断一下杨玄感这小兔崽子能否成气候。在杨广看来，杨玄感非常聪明，他老爹杨素是只老狐狸，老狐狸的儿子自然就是中狐狸，或者小狐狸。纳言苏威见多识广，他早已看出国内民变之火已经开始燎原，一个智商不高的杨玄感不足为虑，怕只怕从此民变一发不可收拾。
杨广听完，沉重地点了点头，杨玄感的叛乱必须平定，那么高丽怎么办？征辽东还能进行下去吗？就在杨广郁郁寡欢之时，一个黑影悄悄地离开了东征军大营，当夜就投奔了辽东城内的高丽军，这个人不是别人，正是杨玄感的同党之一兵部侍郎斛斯政，也就是兵部尚书段文振一直告诫杨广不可重用的那个人。先前斛斯政接到杨玄感的密信，随即安排杨玄感的两个兄弟杨玄纵、杨万石从辽东前线返回参加叛乱。现在杨玄感已经正式起兵，皇帝追查同党迟早会追查到他，索性一不做二不休，投奔高丽去吧，出了国，皇帝杨广也不能把我怎么着。然而斛斯政的精明小算盘只打了一年多。一年后，他成了高丽与大隋的交易品，在大兴的金光门下，他被文武百官变成了刺猬，死后在这个世界上彻底消失，连灰都没留下（汉奸的下场）。斛斯政投敌了，杨广的决心也终于下了，此时的辽东已经不是鸡肋，而是卡在他嗓子眼里的鸡骨头，这个鸡骨头既然吞不下去，那么只能吐出来了。
六月二十八日凌晨，皇帝杨广下令全面撤退，为了走得轻松，走得愉快，什么都不带了，只要人回去就行了，二征辽东就此猝然停止。由于隋军走得实在太轻松了，大营跟有人时一模一样，高丽守军看着空空的大营就是不敢进，因为他们也知道兵法上有一计：“空城计”。一直挨到了六月二十九日中午，壮着胆子的高丽士兵才进入隋军遗弃的大营，他们简直不敢相信自己的眼睛，隋军真的放弃全部辎重撤退了。领头的将领放眼一看，乐得合不拢嘴，从来没听说挨打还能领红包，这次光隋军留下的这些辎重，就够辽东城吃好几十年。求你了，以后多打我几次吧！兵法有云：有便宜不占是王八蛋，现在隋军仓促撤退，高丽军就有机可乘，高丽军队随即出发尾随隋军。因为国小没有自信，高丽军队一直与隋军保持八九十里的距离，等到皇帝的大营已经渡过辽河，岸边剩下的只有几千老弱残兵，高丽军队这才鼓足勇气发动进攻。即便这样，一仗下来战果就可以写进高丽国史了，歼敌数千，隋军殿后的老弱残兵全被屠杀。
惨！惨！惨！回到国内，杨广着手平叛，两大猛将宇文述、屈突通迅速被派上了前线。在国难面前，另外两个将军也起到了特殊的作用，只不过一个是正作用，一个是反作用。起到正作用的是左骁卫大将军来护儿，起反作用的是右武候大将军李子雄。当时来护儿正驻扎在东莱郡，按照计划他们将出海远征平壤，现在听到杨玄感谋反的消息，来护儿决定不等诏令直接带兵赴洛阳平叛。部将们刚刚表示反对，来护儿说出了一句非常经典的话：“高丽只是疥癣小病，洛阳被围才是心腹大患。”（洛阳被围，心腹之疾；高丽逆命，犹疥癣耳。）这句话后来被唐王朝引用，只不过主语稍微换了换：“朝鲜半岛只是疥癣小病，吐蕃才是心腹大患。”经典就是这样被传承的。来护儿自动加入平叛，李子雄则是自动加入反叛。李子雄原为天子十六禁军第六军的大将军，因为被指控有罪免除官职，杨广责令其以平民的身份在来护儿的大营效力。由于李子雄与杨玄感私交甚笃，交好到连杨广都知道他俩穿一条裤子，本着敌人的朋友就是敌人的原则，杨广自然不会放过李子雄，所以就派使节捉拿李子雄。李子雄当然也不是吃素的，找了个机会杀了使节逃了出来，自此就算彻底跟杨玄感穿一条裤子了。