随着北伐战事由南向北推进，革命势力由南部延伸至中部，革命重心也由珠江流域推移到长江流域。作为革命指挥中枢的国民政府是否随军北进的问题也逐步凸显出来。1926年8月22日，北伐军总司令蒋介石以军事进展迅速，政治党务亟待讨论为由，召集在湘中央党部执行委员及监察委员、湖南湖北两省执行委员董用威、罗琢章、缪斌、詹大悲、邱维震、熊亨翰、李荣植、邓演达、陈公博、王基永、夏曦、蒋兆骧、易礼容、郭亮、李汉俊等，在湖南省党部举行特别联席会议，讨论了当时所面临的政治、党务诸重大问题。在会上，委员们在讨论北伐军占领武汉后政治及党务问题时，首次有人提出了中央政府移至武汉的动议。会议通过了《中央政府移至武汉案》的决议。
北伐军在湖北势如破竹地推进，华中重镇武汉为北伐军占领指日可待。9月4日，张静江在广州政治会议上提议召开国民党大会，研究并决定攻克武汉后的对策。会议决定于10月1日召集中委及各地省党部联席会议，并指定政治会议委员徐谦、孙科、鲍罗廷等负责起草联席会议议事日程。9月14日，方案起草委员会举行第一次谈话会，中央政府迁移问题成为此次会议的重要议题。1926年10月15日，国民党中央委员、各省区、各特别市、海外各总支部代表联席会议在广州召开，讨论武汉克复后国民政府的迁移问题。
围绕迁都问题，会议进行了热烈讨论，形成了主张立即迁移与暂缓迁移两派。以孙科为首的一批人主张立即迁都武汉。他们认为，首先，从革命形势的迅猛发展看，两湖已为北伐军占领，革命势力已由南方推进到华中，而且还将继续向北发展，这是历史的必然趋势。在这不断发展的政局中，武汉无疑将成为一个新的中心，广东是革命策源地，但偏于中国南部，如迁至中部，指挥比较可以便利。而中央仍留在广州，实有鞭长莫及之慨，应急迁都武汉，以适应形势发展的需要。其次，从两湖的实际情况看，虽然北伐军占领了两湖并向江西进军，工农运动也发展起来了，但新占之区并不巩固，特别是武汉人民仍然恐慌，各种谣言不一而足。若国民政府立即迁都武汉，既可以就近指导一切，也可以安定人心，使谣言不攻自破，稳定两湖地区的形势，是为一举几得。其三，从广东的情况看，在国共两党合作的前提下，通过两党的共同努力，南方的军阀势力已经被消灭，广东的民众运动已有相当基础，广东革命根据地已相当巩固，成为革命向前推进的后方，国民政府及中央党部北迁没有后顾之忧，不致影响广东的进一步巩固。正是基于上述考虑，孙科等人赞成国民政府立即北迁武汉。
吴玉章等人则主张暂缓迁都武汉。根据****中央的有关指示，吴玉章与国民党左派协商取得一致意见，针对孙科等人的观点提出暂缓迁都的三点理由:第一，武汉虽然收复，但地势易受敌人包围，尤其是怕敌人的经济封锁，因武汉是内陆腹地城市，敌人如果切断主要交通线，就只有束手待毙。而广州是一个海口城市，可以与外面往来，即使帝国主义封锁香港，还有其他出海口，不怕敌人封锁。第二，国民政府不能放在前线上。两湖克复未久，人心不定，局势不稳，各种秩序尚未建立起来，不宜即行迁都武汉。而且江西战事未了，胜负未决，贸然迁都，实无把握，因此“现尚未届国民政府迁移之适当时期”。第三，至于广东的形势并非主张立即迁都派所说的那样乐观。他们认为，广东革命根据地经过几年来的苦心经营，有了一定基础，但并不很巩固。除省港罢工的工人组织得比较好以外，农民的多数尚未组织起来，战斗力并不强，广大农民不仅没有掌握农村政权，而且还在成批地被地主武装所屠杀。自北伐出师后，在中山、广宁、花县、普宁等县均发生过屠杀农民的惨案。中央党部和国民政府在此情况尚且如此，如中央北迁后，广东的右派势力更可恣意妄为，后方情形实在堪忧。不能因为在武汉建立了一个新基地而失掉广东，到头来武汉也不能巩固。而且，一个国家的首都是不能随便迁移的，更不能受前方军事将领的摆布，“政治之根据地并不因军事之发展而骤变”。再说，为适应形势的发展，可以在武汉设置一个高级的中央代表机关就近指导而不必兴师动众去迁都。会议经过讨论达成共识:(一)国民政府的地点，应拿他最主要的工作来决定，并指出目前主要的工作是在巩固省的基础，什么地方最容易实现此种工作，国民政府就在什么地方。这个答案当然就在广东了。(二)国民政府在广东离张作霖较远，不会与张冲突;而到武昌则与张较近，容易发生冲突，这种冲突于国民政府是不利的。要留在广东重要原因还是第二个。这次会议由于会场完全为左倾空气包办，徐谦的议案报告、谭延闿关于国民政府发展的说明，也陈述了国民政府继续暂驻广州的理由。因此，10月16日会议决定:国民政府地点，应视其主要工作所在地而决定之。现在国民政府之主要工作在巩固各省革命势力之基础，而此种主要工作以首先由广东省实施最为适宜，故国民政府仍暂设于广州。
此次中央各省联席会议虽然以表决的形式暂时否定了国民政府北迁的动议，但并未说服主张政府北迁的人，而且北伐军内的高级将领如李济深、邓演达、张发奎及国民党内的一些重量级人物随着战事的推进，也都倾向将政府北迁武汉。北伐军在江西战场击溃孙传芳后，两湖与江西联成一片，工农运动发展迅速。在蒋介石提出中央党部迁移武昌之议后，11月8日，国民党中央政治会议根据形势发展的需要和蒋介石的要求，决定于最短时间内将中央党部和国民政府同时迁往武昌，并于近日内做北迁的各种准备。
为了给迁都创造条件，会议还决定改组广东省政府，以加强领导力量。11月16日，以宋庆龄、孙科、宋子文、徐谦、陈友仁及顾问鲍罗廷等组成的迁都调查委员会先期赴武汉准备一切，为政府北迁铺路。23日，主张迁都的邓演达、张发奎衔蒋介石之命从武昌飞抵广州，敦促中央迅速北迁。11月26日，广州国民党中央政治会议作出迁都武汉的正式决定。11月28日，国民政府宣布:自12月1日起广州国民政府停止接收文件，5日停止办公，政府负责工作人员分批陆续前往武汉。12月7日，国民党中央发表迁都通电谓:党政府为适应环境，实行迁鄂。决七日迁移，准半月内可到武昌办事。继宋庆龄、徐谦等第一批于11月16日离开广州后，其余分三批于此后赓续离穗北上。
蒋介石作为北伐的总司令，提出迁都武汉有一个过程。长沙特别联席会议后，蒋介石并未向广东国民政府提出立即迁都武汉，而是提请政府常务委员来鄂主政。在北伐军攻占汉阳、汉口后，蒋介石于9月9日致电国民党中央常务委员会代理主席张静江、国民政府代主席谭延闿，提出:“汉阳汉口既克，而武昌城敌因无退路，故尚负嵎，现在正在设法劝降中，城虽未下，而军事实无问题。武昌克后，中即须入赣督战，武汉为政治中心，务请政府常务委员，先来主持一切，应付大局。否则迁延日久，政治恐受影响。请勿失机”，并建议谭延闿先来武汉主持中枢。
同一天，蒋再致电张静江:“政府常务委员至少要来武汉三人执行职权，并请顾孟余、鲍罗廷同志等亦速来汉。闻俄同志胡定康已来粤，可否请其来此也。”同月14日，蒋又致电张静江催促:“函悉铁先生赴苏进行军事亦可，惟行营苦无政治帮手，不胜苦楚。弟将于一二日内入赣督战。武汉为政治中心，务请常务委员速来数人进行一切为要，黄埔学生铁先生可派也”。两天后蒋致电鲍罗廷，询问胡定康是否在广州，在能速来汉指导党务政治，尤为盼却。
为加强对新占之区湖北的指导，16日，经蒋介石提议筹设的湖北临时政治会议成立，蒋自兼主席。18日，蒋介石致电广州中央报告湖北政情，担心他离开武汉后，“武汉政治，恐不易办，非由政府委员及中央委员先来数人，其权恐不能操之于中央，必中央来人另组政治委员会，以代临时政治会议为妥”。25日，蒋再致电广州的张静江、谭延闿，“催促徐顾二同志，均须速行到汉”。蒋介石迭电广州催促国民政府速派要员来鄂主持一切的请求，并未立即得到广州的回应。
问题明摆着，蒋介石担心的是军事力量急剧扩充的唐生智尾大不掉，国民党中央将来很可能失去对两湖的控制。
11月8日，国民党中央政治会议决于最短时间内将中央党部和国民政府同时迁往武汉，并于近日内做北迁的各种准备。蒋介石对这一决议表示欢迎。11月14日，他在南昌答谢古应芬代表中央党部、国民政府劳军的致辞中说:“现在中央党部、国民政府已议决迁移到武昌，这是我们总理生平所希望的，现在总算能够达到了。但总理主张建都有两个地方，第一个是在南京，第二个是在武昌。现在南京虽然没有打下，武昌已为我们占领，总理主张第一个目的虽未达到，而第二个目的则已实现了。党部、政府既已议决，仍请早日迁移，这是我们所最希望的。”可是不久，蒋介石对于迁都武汉又不积极了。
因为随着蒋介石的权力日益膨胀，威福日甚，左派也感到一种压迫感。于是便想借助钟馗打鬼，抬出汪精卫以为抵制。早在1926年5月就有人提出汪精卫销假归国，广东内外，军政各界迎汪的空气十分浓厚。
蒋介石对此甚为疑惧，认为这是共产党在幕后操纵，目的就是“倒蒋”。而且这一时期他的嫡系第一军表现平平，而受到唐生智的轻视和排斥，因此他心急如焚。12月2日，宋庆龄偕同国民政府司法部长徐谦、交通部长孙科、财政部长宋子文、外交部长陈友仁以及苏联顾问鲍罗廷前往南昌，在蒋介石的安排和主持下，在庐山召开会议，会议主要做出以下几个决议：采取消灭孙传芳联络张作霖的策略，工人运动从缓，农民运动加快，凡北伐军攻克的省份，财政由中央统一管理，取消主席制的一长制，改为委员制的合议制，电请汪精卫回国复职。会上，蒋介石以“政治与军事发展便利起见”为由，提议改迁都为南昌，未被与会者同意。会议结束后，蒋介石回南昌，宋庆龄一行赴武汉。
12月13日由在武汉的国民党执行委员暨国民政府委员临时联席会议在武昌正式组成，代行国民党中央党部和国民政府的职权，同时发布命令定都武汉。以武昌、汉口、汉阳三镇合组为“京兆区”，又组织委员会，以财政、外交、交通诸部长，汉口、武昌市长及防军司令九人为委员，徐谦为主席。会上，蒋介石被点名批评，认为是要搞专制、独裁，把个人权力凌驾于党中央之上，因此在会议所通过的决议中个人的权力被限制，规定：凡军事委员会的决议，要由中央执行委员会议决，总司令动员令要由军事委员会七人主席团讨论，通过后再交中央执行委员会批准，总司令不得擅自决定一切和任意下令。很明显，这几个决定主要是针对蒋介石作出的。
武汉国民政府的成立对控制两湖局势，对唐生智加以限制起到了一定的作用，但与蒋的愿望还相去甚远。再加上国民党中央防蒋军事独裁的气氛正日渐浓厚，鲍罗廷等人对蒋是如此的不留情面，甚至连联席会议也没能让蒋插上一脚，蒋遂开始按照自己的意愿一步一步行动起来。
蒋介石在12月间，把张静江、谭延闿从广州接到南昌，还截留了部分取道江西去武汉的国民党中央执监委员和国民政府委员，于1927年1月3日擅自在南昌召开了中央政治会议第六次临时会议，非法决定中央党部和国民政府移驻南昌。会后用国民党中央的名义发表通电说：“现因政治军事便利起见，中央党部及国民政府暂驻南昌，待三月一日中央执行委员全体会议公决中央党部及国民政府驻地后，再行迁移。”为了顺利实现迁都南昌的目的，蒋介石在1月10日和21日又两次操纵南昌政治会议，做出要求武汉成立政治分会，解散临时联席会议的决定。这实际上是等于否定了武汉国民政府的合法性，只将其作为南昌政府的一个分支机构。
蒋介石无视党纪，公然向武汉国民党中央临时联席会议挑战，激起了武汉方面的强烈不满。武汉国民政府主席徐谦三令五申要求南昌的国民党官员前往武汉。1月中旬，蒋介石前往武汉，摇唇鼓舌，四处游说。但是蒋介石所到之处，屡遭抵制，蒋甚为难堪。在1月12日武汉各界召开的欢迎大会上，就有人当场质问：为什么违抗国民党中央迁都武汉的决定?为什么无理扣留国民党中央委员?苏联顾问鲍罗廷也当众批评和羞辱了他。最后蒋介石在武汉待了一周之后，毫无收获，并且几次受辱，众人排挤，甚是郁闷，最后悻悻离去。
在1月18日回到南昌之后，蒋介石回顾这几日四面碰壁、屡受侮辱，心中怨愤油然而生。他立即给临时联席会议主席徐谦打了个电报，要求撤出鲍罗廷的顾问职务。徐谦收到电报后，未予理睬，蒋介石无可奈何，只能将此账记在心头，待日后寻机报复。迁都之争以武汉国民党左派的胜利而告结束，但蒋介石的妥协施展的是“以退为进”的策略，不久，他与黄郛等人密谋，决定了“底定东南”的策略，蒋意已决，不愿再与国民党右派和共产党合作，打算凭借自己的军事力量重新创造一个局面。
在迁都之争中，国民党左派和共产党人对蒋介石的军事独裁、专制跋扈义愤满腔，一时舆论沸腾，纷纷要求提高党权，限制军权。孙科当时发表文章，指责二届二中全会变更党章规定，设立常务委员会主席，“差不多在政治上是一国的大总统，在党务上是一党的总理”，对蒋介石表达了强烈的不满。邓演达亦撰文指出：国民革命的成功、总是工农的力量做主，不应再把政权操到其他反革命人们手上，对蒋介石直接抨击。2月22日，武汉中央执行委员会常务委员会决定接受21日扩大联席会议的要求，决定于3月1日在武汉召开国民党二届三中全会。在武汉方面的一再施压下，蒋介石被迫于28日通电服从中央，并要求二届三中全会延期一周召开。武汉方面接受了蒋的意见，主动将会议延至3月7日。蒋介石虽然被迫同意全体在赣委员6日启程，但第二天，蒋介石随即表示，说他“虽然通电服从中央，但非他的本意”。他要求会议延期，并以部署作战为由，提出自己须待朱培德去樟树检阅部队后再一起动身。蒋介石在设宴为谭延闿、何香凝、李烈钧、丁惟汾、陈果夫等人饯行时说：“他们能等我等到3月12日开会，就相信他们有诚意；假使提前举行，其虚伪可知!”3月7日，谭延闿等一行抵达汉口，在第三次全体会议的预备会上，谭延闿在报告南昌方面的情形时提议大会延期数日，待蒋介石、朱培德赶到武汉后举行。吴玉章、于树德、******、恽代英、彭****等人强烈反对谭的提议，认为：“革命是共同工作的，革命不能由一二人的意思来指挥，不可使蒋同志因此而生错误。”“自开会以来，决无等人来而始决议之先例。”谭延闿、李烈钧力争，徐谦、吴玉章坚持意见，李烈钧愤而退席，致使会议气氛极为紧张。筹备会议期间，陈铭枢辞职离汉赴南昌向蒋介石报告情况，并请蒋决计反共，李烈钧退席后乘轮返赣，请蒋介石“速作移师之计”。蒋介石闻讯决定不去武汉，并致电武汉辞去中央常务委员会及政治委员会主席职务。
3月10日，国民党二届三中全会正式开幕，出席代表共33人，左派和****党员超过了三分之二，会议于17日闭幕。会议通过了一系列旨在提高党权、抑制蒋介石军事独裁的决议案，主要有：《统一党的领导机关案》，确定了国民党内集体领导的制度，取消了主席制度案。《军事委员会组织大纲》，规定军事委员会为国民政府的最高军事行政机关，将原属总司令的任命与指挥权集中于军事委员会主席团，而军事委员会主席团7人，则由中央执行委员会全体会议指定，并“至少须有未任军职之中执委三人参加”。《国民革命军总司令条例》重新规定了总司令的职权，《外交统一方案》规定党员及政府职员不得擅行与帝国主义各国交涉，《统一革命势力案》规定了国民党与共产党与第三国际间的关系，允许****党员参与国民党的决策与政府。此外，会议还追认了武汉临时联席会议的一切决议，并对国民党中央和国民政府的主要机构进行了改造。通过这一系列决议案，使蒋介石从独裁统治的权力最高峰跌落下来，而左派的权力由此大增。
蒋介石对二届三中全会前后国民党左派和****开展的提高党权运动，极为恼火。2月21日，他在南昌总司令部总理纪念周上发表演讲，攻击武汉的左派和共产党人：现在武汉的本党一部分同志，有一种运动，有一种宣传，所谓要提高党权，集中党权。……今日提出这集中党权，提高党权的口号，不过拿这一个口号，来排除异己的同志，做他们真正要想把持党权的武器就是了。……联席会议是没有根据的，若要提高党权就要取消汉口的联席会议!……现在还有人说我们党里有独裁制的倾向，……今日所谓独裁制，不知究竟是指什么东西?……我以为只有徐谦是实行独裁制的!他以没根据的汉口联席会议自居主席，不受党的命令，这才是独裁制!……现在共产党党员事实上有许多对于国民党党员加一种压迫，表示一种强横的态度，并且有排挤国民党员的趋向，使得国民党党员难堪，这样我便不能够照从前一样的优待共产党了。……我是中国革命的领袖，并不仅是国民党一党的领袖，共产党是中国革命势力之一部分，所以共产党员有不对的地方，有强横的行动，我有干涉和制裁的责任及其权力。蒋介石这篇演讲发表以后，京沪帝国主义的通讯社和报纸都对其大加吹捧，极兴奋地同声说：“蒋介石已起来反对左派，抑制共产派了。”孙传芳、张宗昌的上海新申报和西山会议派的上海江南晚报也以大字刊登蒋介石的演说，大加赞扬，而且评论说：“到底蒋介石不错，还能起来抑制共产分子。”蒋获知后，备受鼓舞，更要放开去干了。
国民党二届三中全会闭幕后，武汉提高党权的运动掀起新的高潮。邓演达、郭沫若等人在汉口《民国日报》上发表大量反蒋文章，吴玉章以“中国国民党湖北省执行委员会”名义发表了《为党权运动敬告全党同志书》，邓演达以“国民革命军总政治部”名义，编印“护党运动专号”的宣传品。武汉政府为夺回蒋介石的军权曾采取过重大措施。1927年1月中旬蒋介石离汉后约一星期，鲍罗廷曾专柬约李宗仁小叙，对李明确表示：“我看你们绝不能再让蒋介石继续当总司令了。再当下去，中国必然又要出现一个独裁者，革命就会前功尽弃。”鲍罗廷还表达了希望李宗仁能取蒋而代之的愿望，但为李宗仁拒绝。二届三中全会结束后不久，武汉国民政府“有一个俟机逮捕蒋介石的秘密命令，交给程潜执行”，但程潜没有执行这个密令。1927年3月10日，国民党二届三中全会在汉口召开，会议通过了限制蒋介石权力的决议迁都之争后，蒋介石锐意经营东南，企图攻下沪宁后，将首都定在南京。武汉当局对蒋之意图了如指掌，因而决定不让蒋氏有完全支配上海南京的机会。随着北伐军即将抵达南京、上海，左派力量同蒋介石的政权之争便围绕着对南京、上海的控制而展开。武汉国民政府为阻止蒋介石在南京另建中心的阴谋得逞，决定责成二、六两军控制南京地区。南京于3月23日克复，最先攻入南京的部队是程潜的江右军所属二、六两军的部队。3月27日，蒋介石电召程潜至沪，与其他国民党将领商议“清党”反共之策，因程潜倾向武汉政府，随即向鲍罗廷报告了蒋介石等人在上海筹议“清党”。在这种紧急情况下，为先发制人，鲍罗廷于4月7日下午在其寓所召集临时紧急会议，决定：“中央党部及国民政府迁至南京”，并命令武汉军事委员会准备“以南京为中心之作战计划。”但因为程潜立场不坚定，又有自己的想法，所以失去了控制南京的机会。
武汉方面丧失对南京的控制的一个重要原因是程潜反蒋的不坚决。早在江右军出发进攻南京之前，程潜就向武汉表明了自己的政治态度：党权运动渐起，李济深等与我通电商约拥蒋之事，我置之不理。武汉方面因此过高估计了程潜反蒋的诚意。为阻止蒋介石在南京建立反武汉的中心，武汉国民政府曾将“一个俟机逮捕蒋介石的秘密命令交给程潜执行。……如蒋氏违抗，江右军总指挥程潜便可根据国民政府的密令，将蒋氏逮捕起来。”程潜“表面上虽然满口答应要完成这个重大任务，但暗中也流露出身当其冲、踌躇为难的神情”。实际上，程潜后来没有执行这个密令。而二、六军放松控制南京地区的军事部署，责任主要在程潜，因为作为江右军总指挥，程潜掌握着军事处理权。
关于程潜为何失去南京这一问题，张国焘曾有一段评论：“程潜之所以失去南京，踌躇不决是一个重要因素。他究竟不是****党员，不能和****党员一样的坚决反蒋；而且二六两军的军人们多系湖南籍，他们的家属受到湖南农运的威胁，也有不满武汉左倾做法的情绪；再说他们与唐生智是不和的，对蒋又并无深仇大怨，哪里肯替人火中取栗，守着南京与蒋硬拼起来呢?鲍罗廷没有充分估计到这些情况，以致铸成大错，林祖涵也就因程潜反蒋的不够坚决，从此离开了第六军。据说他们这两位老朋友，还曾因此拍桌子对骂了一阵才分手的。”张的这番评论，对程潜行为是较好的解释。
双方在争夺南京的同时，对上海的争夺亦在进行。上海工人阶级在北伐军未克上海前，在中国共产党的领导下曾举行过两次武装起义，但都失败了。3月22日，上海工人阶级第三次武装起义取得了胜利。武汉国民政府完全支持****的行动，承认“上海市民大会为上海市民正式代表机关”，“上海市民大会选出之市政府委员十九人为上海市政府临时委员”等。希望在****的领导下，上海会被武汉方面控制。然而，蒋介石无视上海市临时政府的存在。蒋于3月26日自九江进驻上海，随后命令白崇禧军事当局直接控制上海局势，并擅自任命上海市的行政官员。3月29日，上海临时市政府委员举行就职典礼，蒋介石致函临时市政府：“查上海市之政治建设，实为当今要图，欲谋市政之建设，在此军事期内，一切行政处处与军事政治统系攸关，若不审慎于先，难免纠纷于后。中正为完成政治统系及确定市政制度计，已另电中央熟商办法。务望暂缓办公，以待最后之决定。”蒋氏此一函件显然是公开反对临时市政府的成立。虞洽卿、杨杏佛、陈光甫、王晓籁等资产阶级代表先后辞去市政府委员的职务。其他大部分市政府委员在****和市民群众的支持下，虽然也进行了斗争，并宣布就职办公，但由于蒋介石军事当局竭力阻挠、干扰，使之无法行使职权。4月8日，蒋介石指派吴稚晖、钮永建、白崇禧、杨杏佛等组织上海临时政治委员会，并授予“决定上海市一切军事、政治、财政之权”。****、国民党左派与蒋介石的权力争夺已升级到白热化程度。但最终因为力量不济，政治还是败给了军事。