“咱们起事，不能学窦建德、李密、刘武周、梁师都等人。”李世民道，“现在杨广远在江都，京城长安空虚，可打出义旗，招兵买马，誓保大隋江山，以笼络人才，而后进兵长安保代王，称当今天子无道，立代王杨侑为帝，再挟代王以令诸侯。”
李渊捻须沉吟，良久才说：“这个主意好是好，就是有点像曹操。”
“曹公平定北方，救黎民于水火，后人胡言，岂可当真？”李世民道，“父亲大人可于明日在官署议事，看看官吏们的意见如何。若僚属皆不情愿，只好作罢；若众意相近，父亲大人切不可寒了大伙儿的心。”
次日，李渊召集将领僚佐，聚于堂上，说道：“刘武周占据汾阳宫，我们却不能制止，论罪当灭九族，各位有何良策？”
众人你看看我，我看看你，都显露出害怕的神情。
李渊又道：“按大隋兵制，我们的行止进退，均须向兵部禀报，受朝廷节度。如今贼人在数百里之内，江都在三千里之外，加之道路险要，还有别的盗贼盘踞，靠着据城以守和拘泥不知变通之兵，以抵抗狡诈与狂奔乱窜之盗贼，必然无法保全。我们现在是进退维谷，怎么办才好？”
虎贲郎将王威说：“大人勿忧，事急从权。你位居留守，又是宗亲贤士，与国运休戚相关，要是等着奏报回复再去行动，恐怕时机已失，更是大罪。只要能平灭盗贼，苟利国家，专权有何不可？”
李渊叹了口气：“世道纷乱，我也是不得已而为之。既然这样，我看当前要务，还是要大力募军，才能剿灭逆贼，为国家出力。”于是命李世民、晋阳令刘文静、右勋卫长孙顺德、右勋侍刘弘基等人各自募兵。
李渊在河东一带经营数年，钱粮丰厚。正值饥荒之年，但凡给口饭吃，百姓莫不相投。十天之内，有近万人应募。李渊暗喜，密遣心腹召回儿子李建成、李元吉和在长安任牵牛备身的女婿柴绍，速来晋阳起事。
李渊长子李建成，其时留守河东郡，主要任务是看顾李氏家眷。接到父亲的手令，李建成既兴奋又害怕。这是谋反，河东临近京师，若被官吏得知，恐怕死无葬身之地！
李建成与二弟李世民不同，志大才疏，脾气暴躁，好自专。虽为长子，但嫉贤妒能，在众兄弟中，只与四弟李元吉要好，特别妒忌二弟李世民和五弟李智云。二弟文韬武略，律己宽人，身边网罗了一批贤人志士，向来为父亲所倚重；五弟李智云十四岁，不仅精于骑射，连书法、棋艺都颇为出众，自小被父亲视为掌上明珠。
李建成赶紧派人把李元吉找来商议。李元吉见信后道：“大哥，父亲大人这是要起兵了，咱们在河东郡，离长安近在咫尺，手头兵马不多，一旦事发，恐怕会身首异处。当今之计，得赶紧把家人秘密送出城，与父亲大人会合。”
“这个有些难度啊。”李建成心狠手辣，脑子向来不糊涂。“河东司马刘庆龙，是左翊卫将军阴世师的部下，也是阴世师安插在我们身边监视的眼线。阴世师这老家伙忠于朝廷，琢磨着想扶代王登位，与我们李家势同水火。倘若咱们轻动，被刘庆龙察觉，谁也走不脱。”
李元吉听大哥这样说，顿时急得团团转。李氏家眷人数不少，要想偷偷溜走而不被发现，实在难于登天。
突然，李元吉击了一下掌，回身对大哥说：“咱家老五，跟这个刘庆龙是棋友啊，成天没事就黏在一起下棋，我看，咱们要想顺利投奔父亲大人，必须在老五身上下点工夫！”
李建成一怔，随即点了点头：“好是好，只怕老五不好脱身啊。”
“大哥！”李元吉顿足道，“咱家老五，跟二哥一个鼻孔出气。要是三哥没死，咱哥仨对他哥俩，倒也有胜算。可是这老三一死，就变成了势均力敌，就算将来父亲坐了龙椅，咱们也讨不得便宜，不如借此机会，让老五受点罪。是死是活，就看他的造化了。”
李建成想了一会，终于下定决心：先不将父亲起兵之事告诉李智云，让他与刘庆龙对弈，稳住刘庆龙，随即简单收拾家当，货赂守城卫士，聚亲属尽快撤离。
当晚，建成、元吉兄弟秘密行动，李智云蒙在鼓里。
次日一早，李建成带着李智云前去刘庆龙府上，提了一些礼物，说是今天要赌个彩头。这刘庆龙嗜棋如命，平日罕逢敌手。李智云虽年幼，但精通棋理，往往有出奇妙着，因此刘庆龙对这个后生十分喜欢。
刘庆龙在河东郡任司马，无非是奉阴世师之命监视李渊家小。见李家大公子和五公子前来，自是不疑，当下置酒布棋。李建成对寻花问柳之事倒是乐此不疲，对这种斯文玩意儿向来不感兴趣。看了两局，兴味索然。刘庆龙战得兴起，生怕李智云不下了，就对李建成说：“大公子啊，你别老打哈欠，老刘府上没啥好玩的，不过隔壁有家青楼，女子也还过得去，要不我派人陪大公子前去逛逛如何？”
此言正中李建成下怀。他站起来说：“难为司马大人如此细心！派人陪同就不必了，这种事，还是单独行动方便些，不过……”
“不过什么？”刘庆龙以为是说钱，就摸出了一块金子。
“刘司马，你见外了。”李建成摸摸肚子，“是这里叫唤了。你们是以棋当食，我可是饿得不行了。”
刘庆龙哈哈大笑，赶紧叫厨子弄了些饭食来，请李家兄弟吃了。李建成吃得仔细，仿佛逛青楼要花很大气力一般。刘庆龙看在眼里，心头暗笑。
饭毕，李建成抹抹嘴，叮嘱五弟好好陪刘司马下棋，他去去就来。李智云对大哥此类做派早已司空见惯，也就一笑了之。
李建成悠闲出了刘府，径直去了青楼。见了老鸨，塞了些钱，也不找姑娘，就从后门出去了。到了外头，有家丁牵马相候。李建成上马扬鞭，去了北门——今日北门看守，已被李家兄弟重金买通，自然是毫不查问。
李建成快马加鞭，一路北行。两个时辰后，但见路前方浮尘飞起。奔过去一看，原来是柴绍，正带着十余骑往前奔。于是二人会合，不久就赶上了前面的车马——李元吉正看护李氏家眷匆匆前行。
此时柴绍与李氏兄弟会合，已快到临汾了。临汾是柴绍老家，颇有根基。前头的军士已通报柴家，看来是安全了。李元吉问及柴绍，姐姐现下何处？柴绍低首道，事急怕被发现，你姐姐让我先行，别耽误了父亲的大事。建成、元吉由是感佩。柴绍问起智云，建成推说五弟会随后就到。但经不住柴绍缠问，只得说五弟在刘庆龙处下棋。柴绍长叹一声，已知李智云凶多吉少。
却说李智云与刘庆龙对弈，斗得难解难分。渐渐过了午后，也不见李建成返回。刘庆龙手下一兵士突然来报：李氏家眷，凌晨已从北门出城，向北方而去……
刘庆龙大惊，扔了棋子，一把揪住李智云，喝道：“好你个小贼！跟老子玩起了诡计！来人，给我拿了！”
李智云糊里糊涂就给绑了，也不知道是怎么回事。
刘庆龙拿了李智云，不敢怠慢，将李智云驮在马上，直奔长安。京兆郡丞骨仪得知，大惊，随刘庆龙押了李智云去见阴世师。
阴世师得报，连夜审讯李智云。李智云此时已明白原委，既然大哥四哥弃自己而去，父亲起事势在必行，也无须示弱，便历数杨广罪过，大骂阴世师、骨仪、刘庆龙等助纣为虐，阴世师气得七窍生烟，当即下令斩了李智云，将首级挂在城门。可怜一个十四岁的英俊少年，就这样死于非命。
李靖得知这个消息，暗叫不妙。虽然，他与李渊有过节，但平心而论，即使没有与李世民这层关系，他对李渊的印象也并不是太坏。世道纷乱，李氏家族多年所作所为，颇得民心，比朝廷实在强得多了。然而李靖此时是自身难保，就算他当时就在旁边，李智云也无法存活。
李建成、李元吉和柴绍等领着家眷到了晋阳。刚进营门，李渊就问李建成：“智云呢？”
李建成吓得不敢说话。李元吉道：“父亲大人，五弟随后就到。”
在一旁的李世民见事情有异，便悄声问柴绍。柴绍不敢隐瞒，将实情说了。
李渊抬起手，给了李建成一巴掌，又踢了李元吉一脚，顿足大呼：“老五休矣！”言毕泪下。
不几日，果然传来李智云被阴世师斩首的消息。李渊大哭，发誓要杀阴世师、骨仪全家为儿子报仇。柴绍又向岳父禀报，李靖现已回长安，与阴世师在一起，常为之出谋划策。李渊深恨之。
未出师就先亡爱子，李渊悲愤交集，同时更加意识到前程的凶险。突厥虎视眈眈，各路反王互相攻击，朝廷势力仍然强劲。这三种力量，李渊认为首先应联合外援，结盟义军，再集中力量攻打腐朽的朝廷，才有可能取胜。
于是他派人出使突厥，对始毕可汗言明，称自己兴义军是为了远迎隋主，重兴开皇时期与突厥和亲的旧制。若可汗与我共兴义兵，希望不要侵扰百姓，所得财物定当奉上。始毕可汗很狡猾，回信李渊说，杨广这个人我是了解的，若接他回来会派兵攻突厥，也必然加害唐公；若唐公自立为王，我们当派兵马襄助，以成霸业。
突厥人的回信到达后，李渊的将佐们都很高兴，说突厥人要是翻脸，就会腹背受敌，不如先稳住突厥，待拿下京城后再回头应付。裴寂等人就请李渊尊杨广为太上皇，立代王杨侑为皇帝，以安隋室；传布檄文到各郡县；改换旗帜，用红、白掺杂的颜色，以此向突厥示意不完全与隋室相同。李渊叹道：“这是‘掩耳盗钟’，但情势所迫，不得不如此！”于是派使者知会突厥，约定“若入长安，民众土地归唐公，金玉缯帛归突厥”。始毕可汗盼望汉人大乱，极为慷慨，除却先前卖给李渊的五千匹马，还追加了五千勇士、两千良马。一时间，李渊军威大振。
李渊为笼络民心，开仓济民，应募兵士如云。李渊将募军分左、右军，通称义士。裴寂等人给李渊上尊号为大将军。大业十三年六月十四，李渊设大将军府，任命裴寂为长史，刘文静为司马，唐俭为记室，殷开山为府掾，长孙顺德、刘弘基为左、右统军，其余的文武僚佐都按照才能授予官职；封世子李建成为陇西公、左领军大都督，左三统军由他统辖；封李世民为敦煌公，右领军大都督，右三统军归他统辖；任命女婿柴绍为右领军府长史，协助李世民军务。
一场轰轰烈烈的战争打响了。