随着地位的上升，蒋介石的领袖欲也在潜滋暗长。他想做中国的领袖，为他的独裁统治而战。
蒋介石要兑现他的领袖欲望，当时面临的阻碍还很多，刚开始与他争雄的，主要来自国民党内部，最大的竞争对手就是汪精卫。
汪精卫跟蒋介石差不多，开始都是靠谋杀起家的“壮士”。1883年5月4日他出生于一位汪姓客商家，1905年参与组建同盟会，1910年3月曾谋杀清摄政王载沣。汪精卫的运气比蒋介石差一点，谋杀事泄被捕，判处终身监禁，直到武昌起义后才获释出狱。
汪精卫出狱即去法国留学，回国后在孙中山领导下创办《建设》杂志。1921年，孙中山在广州就任非常大总统，汪精卫任广东省教育会长、广东政府顾问，次年又任总参议。1924年1月，他被选为中央执行委员兼宣传部长。
到1925年3月孙病危，汪精卫代为起草遗嘱。
孙中山病逝后，广东政府于1925年7月改组，汪精卫被举为国民政府常务委员会主席兼军事委员会主席。作为这样一个实权派人物，加之他自以为是的个性，汪精卫的领袖欲望自然不比蒋介石有丝毫逊色。关于这一点，蒋介石看得非常清楚，一刻也不忘了与汪精卫的争权夺利。
汪精卫在成为国民党领导人的初期，还是坚持孙中山的联俄容共政策，继续国共合作，准备进行北伐。可是，在汪精卫的骨子里，对共产党的政治主张还是相当敌视。1925年11月，国民党右翼在西山召开会议，决定了反对容共的政策。
与汪精卫一样，对于共产党的政治制度，蒋介石也是持反对、甚至仇视态度的。他考查苏联后曾对人说：“苏联的政治制度，乃是专制和恐怖的组织……俄共政权如一旦臻于强固时，其帝俄沙皇时代的政治野心之复活并非不可能。则其对于我们中华民国和国民革命的后患，将不堪设想。”
他后来创办黄埔军校之所以与共产党合作，完全是因为有孙中山在，为形势所迫。蒋介石从苏联回来后，曾对孙中山讲过他对苏联政治制度的看法，孙中山批评他的这种看法说：“未免顾虑过甚。”
看着共产党的势力在黄埔军校里一天天坐大，蒋介石一直都很焦虑，这时见汪精卫等国民党右派跳出来反对容共，因为共同的政治观点，他决定暂时放弃与汪精卫的权力争斗，支持汪精卫反对共产党。
1926年3月18日晚，蒋介石指使亲信去给中山舰舰长（代理海军局局长、中共党员）李之龙中传达命令：
海军局速派得力兵舰两艘开赴黄埔。
李之龙接令，随即通知中山、宝璧两舰于3月19日晨开往黄埔。当他在证实了根本没有什么命令困惑不已时，却受到擅自移动阴谋暴动的诬告。
紧接着，蒋介石进一步放出“共产党要暴动”、“共产派谋倒蒋、翻国民政府，建立工农政府”等谣言，在逮捕李之龙的同时大举逮捕共产党人。不但解除了中山舰武装，还派兵包围省港罢工委员会以及苏联顾问、共产党人的住宅以及全市共产党机关，扣押了军内国民党左派党代表和政治工作人员40多人。
除此之外，蒋介石派人严密监视共产党领导人邓演达、电令撤销并驱逐第一军内所有的党代表。结果，以周恩来为代表的全体共产党员被迫从第一军退出；蒋介石从此完全掌握了第一军的军权，使之成为自己的嫡系部队。
作为富人的代表，蒋介石对共产主义深恶痛绝，他并不满足于仅在军内排挤清除共产党，他还要从国民党的领导机构中排挤所有的共产党人，由自己来全面控制国民党的党权。基于这样的目的，蒋介石在1926年4月1日与谭延凯、朱培德、宋子文等一起，提出“整军肃党、准期北伐”的建议，并通过种种手段使这个《整理党务决议案》得以通过。
因为这个议案，原任国民党中央部长的共产党员全部离职，蒋介石当上中央组织部部长兼军人部部长。
其间，蒋介石自然也不乏与汪精卫的权力争夺。就在人们普遍看好汪精卫的情况下，国民党的领导权，一点一点地集中到了掌握军权的蒋介石手上。
不久，蒋介石就任国民党中央常务委员会主席和国民革命军总司令，一手控制了国民党的党、政、军大权。
此刻，为了尽快消除军阀割据的局面，1926年7月，北伐战争开始，蒋介石率总司令部赴前线指挥作战。
北伐一路顺胜，很快打垮了北洋军阀吴佩孚、孙传芳，光复了湘、鄂、赣、闽四省后，再向豫、皖、苏、浙进军。
北伐战争是为了消灭军阀统治，自始至终得到了共产党的大力支持。可是，对共产党消灭剥削等政治主张又恨又惧的蒋介石，并不因此感谢共产党，而是一有机会，就以消灭共产党而后快。
1927年2月21日，蒋介石在南昌总部演讲中对共产党人进行恐吓威胁。
之后，蒋介石先后指使部下枪杀了江西省总工会副委员长、赣州总工会委员长陈赞贤等人，并实施派兵强占左派领导的国民党市党部和市总工会、捣毁左派领导的国民党安徽省党部和安庆市党部，以及安徽省总工会和农民协会筹备处等暴力行动。
1927年3月26日，蒋介石到达上海，以建立上海的法律与秩序为名，迅速解除了上海工人武装。4月12日，蒋介石收买青红帮流氓打手，袭击闸北、南市、沪西、吴淞、浦东等14处工人纠察队，尔后又派国民革命军第二十六军以调解为名收缴了工人纠察队武装。蒋介石在上海屠杀共产党员和革命群众的同时，还在广东和东南各省展开清除共产党的活动。
就在蒋介石于上海解除工人武装后的第6天，1927年4月18日，他在南京成立了国民政府；6月，与冯玉祥在徐州开会，俩人签订了合作反共的协议。到1928年2月，在蒋介石主持的国民党二届四中全会上，已经全面改变了孙中山的革命政策。4月，蒋介石与冯玉祥、阎锡山、李宗仁组成四个集团军合力北进，战胜了奉系军阀张作霖，结束了北洋军阀的统治。
尽管如此，当时的中国，在国民党内还是派系林立。官吏们争权夺利，军阀们称雄割据，大家利字当先、各霸一方。
只不过，在所有的派系中，蒋介石集团实力已为最强。他占据着富庶的沪、宁、杭和江浙地区以及江西、安徽、福建等省，财力丰富，更有利于招兵买马。相比而言，据有山东、河南、陕西、甘肃的冯玉祥集团和势力范围在山西、察哈尔、缓远、河北和北平、天津的阎锡山集团，都比蒋介石差了许多。至于雄踞两广和两湖的桂系，还有刚被打败的东北军，以及四川的刘湘、刘文辉，云南的龙云等地方实力派，就更不能与蒋介石抗衡。
然而，这些人为了自己个人利益，都各怀鬼胎，为分配地盘和编遣军队展开激烈的争斗。汪精卫与陈公博这些改组派，还有胡汉民、孙科之类的再造派，连同邹鲁、谢持的西山会议派、丁惟汾的三民主义大同盟，等等等等，一个个都蠢蠢欲动，眼馋地瞪着国民党的首领的宝座，时刻寻找机会想要取蒋介石而代之，自己坐上去。
国情如是，蒋介石殚精竭力试图改变。他最终精心设计了三招。一招为“晓以大义”，以“裁军建设”为号召，企图借此来编遣冯玉祥、阎锡山、李宗仁的军队，只是立马就遭拒绝。
接下来，蒋介石再用“明升暗弃”为第二招。他对各实力派首领加官晋爵，统统调来中央，希望籍此夺去他们的兵权。结果，首领们虽应允官位，却都不亲来北京任职，皆派一副手来京顶替。
接连两招，均遭失败，蒋介石并不气馁，再出第三招。
1929年元旦，蒋介石召开了一个全国军队编遣会议，要求国民党中央执监委员、各集团军总司令、总指挥，一个都不能缺席。会前，蒋介石带领大家一起在中山先生遗像前庄严宣誓：
“敬以至诚，宣誓于总理灵前：委员等遵奉总理遗教，实行裁兵救国。对于本党之一切决议，竭诚奉行，不敢存丝毫偏私、假借、欺饰、中辍之弊，如有违犯，愿受本党最严厉之处罚。”
誓词焯焯，振慑人心，宣誓之后，蒋介石趁热打铁，很快让与会者通过《国军编遣委员会进行程序大纲》，会上随即成立“编遣委员会”，由蒋介石兼任委员长。
《国军编遣委员会进行程序大纲》规定：全国一切权力收归中央，正式取消国民革命军总司令部、各集团军司令部、海军司令部。各集团军无权自行调动与任免军官，驻扎原地，听候点编。
此举可谓出手凌励，可惜只是一道醉风，一切都还只在纸上。与会者，尤其是那些集团军的司令官们一回领地，立刻幡然醒悟，立刻纷纷抵制编遣一事，准备着与蒋介石来一番最后的较量。
此时的蒋介石，招数已经使尽，再无耐心和平一统，把脸一抹，笑脸露出凶相。为独裁统治而战！他在心里喊着，高举军刀，命令他的那些黄埔同学会的将领们，带着训练有素的军队，扑向桂系、杀向冯系、打向阎系。
中国大地，空前规模的蒋桂战争、蒋冯战争、蒋阎战争由此此起彼伏。
这一连串的大战，无论是战争的规模和持续的时间，都大大超过北洋军阀时代的战争。仅在1929年3月至1930年11月不足两年的时间里，大小军阀混战十多次，其中全国性的就有5次。1930年4月至10月的中原大战，更是令人瞋目，蒋介石与阎、冯、桂三方，在东起山东，西迄襄樊，南至长沙，北到河北的数千里的战线上，双方各动用100多万军队。200多万军队相互展开生死厮杀，给人民的生命财产造成的损失，空前巨大。
由于得到江浙财团和英美的援助，加上利用手中中央政权的便利条件，蒋介石采取高官厚禄、分化瓦解等手段，最后终于把对手一个个击败。
在短短的5个月当中，冯玉祥的几十万部队几乎全部被歼，冯玉祥含泪退隐山西，再无颜见江东父老。而同样战败的阎锡山，则被迫取消陆、海、空军司令部，自己通电下野，然后也去山西做了缩头乌龟。李宗仁、白崇禧的桂系军队遭到重创后，只能退守广西，再无问鼎中原的实力。
大获全胜的蒋介石，由此在国民党中的党、政、军、财大权得到空前巩固，这以后，在中国境内，再没有一支军阀军队敢跳出来挑战蒋介石的领袖地位。