李宗仁逃到香港后，在半山中的罗便臣道92号住下，密切注视大陆蒋介石的动向，以图东山再起。
这时，蒋介石认为，第四集团军李宗仁已经解决，该是着手解决第二集团军冯玉祥的时候了。只是又担心，躲在香港的李宗仁，有可能会与冯玉祥暗通曲款。如果李宗仁趁机策动旧部粤桂起义，声援冯玉祥，事情就很糟糕。蒋介石想到这些，干脆一不做二不休，派人去与香港总督交涉，逼迫李宗仁离港。
万般无奈之下，1929年10，李宗仁在香港上船，驶过海南岛，前去西贡避难。谁知刚到没多久，就被蒋介石的人发现。在西贡住了仅20多天，李宗仁便折返越北的海防居住。
这时候，大陆北方的冯玉祥和阎锡山为避免被蒋介石各个击破，暂时联合在一起，正在积极备战；国民党中汪兆铭等，也因蒋介石包办国民党“三全大会”而联合反蒋；新四军也高举义旗，反对蒋介石，还特派人来与李宗仁联系，商议共同出兵入粤，重奠中央事宜。
李宗仁见情况如此，精神大振，立即回到南宁，成立了“护党救国军”。李宗仁自任总司令，让黄绍竑任副总司令兼广西省主席，白崇禧任前敌总指挥。李宗仁这个总司令旗下，直辖第三、第八两路军，盘踞广西，与蒋介石对抗。
1930年3月中旬，以冯玉祥、阎锡山为首反蒋人士在北平发起“扩大会议”，组织新的党中央与政府，推荐阎锡山为全国海陆空军总司令，李宗仁、冯玉祥、张学良为副司令。4月1日，李宗仁通电就职，将其原在广西的第三、第八两路军改编为“中华民国陆军第一方面军”，自己兼任总司令。
为尽快进军湖南，5月22日，李宗仁不与粤军纠缠，大胆放弃广西根据地，兵分三路入湘。关于这段战事，著名史学家唐德刚在他的《李宗仁回忆录》中写道，开始时：
“大军北进，所至如入无人之境，湘军何健等部都望风披靡。5月27日，湘军唐生明率部向我输诚。我军旋即占领衡阳，继续北进，于6月3日占领长沙……预计15日可攻占武汉，与友军冯、阎部等会师。”
“孰知6月10日，我后方交通重心的衡阳突为粤军蒋光鼐所占，我军顿被迫腰折，首尾不能相顾……”
“6月18日，我军全线自长沙南撤，围攻蒋光鼐于衡阳。不意是年湖南大旱，赤地数百里，购粮无处。我军给养中断，军心涣散，加以缺乏重武器，屯兵于坚壁之下，无能为力。衡阳久攻不下，而敌人援军云集。6月底，敌我复在湘南展开激战。我方官兵至此已疲惫不堪，我虽亲赴前线督战，终以全军缺粮，无法维护。不得已，再向广西撤退，情形狼狈不堪……”
轰轰烈烈的，由中国国民党内北伐后失势的国民党左派领导人汪精卫，联合反共右倾西山会议派和亲国民党军人阎锡山、冯玉祥、李宗仁、张发奎发起的，挑战蒋介石中央政府及国民党中央会议的夺权内战，就这么结束了。
二、三、四共三个集团军的联合反蒋，之所以失败，与蒋介石许以高官重利，说服了张学良入关勤王之计分不开。本来，张学良是与李宗仁、冯玉祥、阎锡山一道要反蒋的。只是，三人派人游说张学良时，仅许张学良“全国海陆空军副总司令”的虚衔，以此想让他保持中立。而蒋介石，除了答应给张学良“海陆军军副总司令”的头衔外，又加了河北、山西等地盘、连同600万元大洋。这样一来，张学良就转过身来帮助蒋介石了。
经此一战，冯玉祥惨淡经营了二十余年的西北军全部瓦解，只好与阎锡山双双下野。李宗仁带着残兵败将退回广西后，环境仍然非常险恶，单是敌对力量，主要就有四个方面：
一是湘军，二是粤军，三是滇军，四是共产党的军队。
李宗仁不愧是个颇有谋略、能独挡一面的帅才。他采取守势，以待湘、粤；采取攻势，以对滇军和共产党军队。不久，便将滇军全部赶出广西境外，确保了西线的安全；接着集中力量，趁势对右江一带的共产党军队发起进攻。由于李宗仁人多枪好，右江的共产党军队只好撤往湖南。
进攻的对象被打败以后，李宗仁迅速调整战略，对原本防守的对象——粤军，列入袭击对象。他正在制定侵入广西方案时，突然情况有了变化。
因为粤藉国民党元老胡汉民被蒋介石囚禁，国民党的粤籍中委及粤军群情激愤，团结一致，公开反对蒋介石。
世上没有永远的敌人，反蒋的粤军由于利益的需要，主动派人与一直与蒋介石对抗的李宗仁联络。目标一致，双方一拍即合，一直是冤家对头的粤、桂两军，两个月前尚在西江对垒，如今冰释前嫌，共同讨蒋。
1931年5月下旬，中国国民党中央执监委员非常会议在广州召开，反蒋的中委们都赶来参加。会议后不久，5月28日，新国民政府成立，李宗仁被推选为政府委员。会议发出通电，要求蒋介石下野。12月15日，蒋介石第二次通电下野，广州会议成立的新国民政府撤销。
第二年4月，李宗仁被任命为广西绥靖主任，并担任第四集团军总司令。广西得以暂时的平静，李宗仁提出“建设广西、复兴中国”的口号，积极地埋头于广西的建设。他后来在回忆这段往事时曾颇有成就感地说：
“1934年本省召集‘扩大党政军联席会议’，会中通过‘广西建设纲领’，具体地确定了广西省内建设的方针。这一纲领当时便成为广西的‘根本大法’。大致说来，这一纲领系根据‘三民主义’的原则而拟定的。”
“同时，我们的教育和经济建设也齐头并进……不数年间，全省文盲大减。”
“当时我们决定，由省府下令，除通省外的税局外，其余一律裁撤……因自内地各处税局裁撤后，商旅称便，货畅其流，省内的生产和消费，以及对外省的出入口贸易，都大为增加，市场繁荣，税收也就增加了。”
除此之外，李宗仁还主动地裁兵以减轻地方财政负担。1932年以后，李宗仁的军队由原来的40个团，一气裁至14个团。其中两个团且用作兵工，调至贺县的八步开采锡矿。
当然，作为动乱时代久经沙场的军人，李宗仁是深知军队对于自己的权势乃至身家性命万分的重要性，他的裁军，其实是寓兵于民，一旦有事，只要政府一道命令，立刻又可以汇集千军万马。
并且，他在裁减陆军的同时，还积极建设空军，设立航空军事学校。到抗战前夕，李宗仁的广西空军已经拥有各式飞机五六十架，英、美、日式样俱备。与此同时，还设有规模宏大的飞机配制厂。
1933年9月25日至10月间，蒋介石调集约100万兵力，采取“堡垒主义”新战略，对共产党中央革命根据地进行大规模“围剿”。因王明用所谓“正规”战争对待围剿，使红军完全陷于被动地位。经过一年苦战，中央领导机关和红军主力，于1934年10月仓促命令退出根据地。
1934年9月至10月间，红军先遣部队万余人在肖克将军的带领下，到达湘桂边境，另十余万人随后跟进。李宗仁得知这一情报，判定红军要入广西。于是，他下令桂东北各县坚壁清野，以防红军入境，同时将14个团的常备军全部调往湘桂边境，堵截红军。
不久，红军来到桂北边境的全州、灌阳、资源等处，均受到李宗仁部队的阻击。关于这场战斗，李宗仁后来自豪地说道：
“我军以寡敌众，共军无法逞其志。经旬余的战斗，共军攻势已有再衰三竭之势，我军乃全面出击，共军仓皇撤退，伏尸遍野，死伤万余人，被俘七千余人，造成抗战前巢共战役中罕有的大捷。”
从1932年以来，广东广西地方实力派拥立胡汉民，与南京政府对峙，一直处于半独立状态，这对蒋介石来说，始终是一个很大的心病。到1936年5月，胡汉民病逝，两广都有忽失重心人物的感觉，双方关系也开始上疏远。蒋介石见此，认定解决两广问题的机会到来，便以“全国统一”、加强“精诚团结”为名，要求两广取消设于广州的国民党中央西南执行部和国民政府西南政务委员会，结束与南京的半独立状态。
粤系军阀代表陈济棠，长时间主政广东，在政治上与南京中央政府分庭抗礼，在地方经济、文化和市政建设方面则颇多有建树，向有南天王之称。而桂系军阀代表李宗仁，虽然在政治手段与认识上有些欠缺，但颇能带兵打仗，地方诸侯思想很重，权利欲又极强，一直以来都是高举反蒋大旗，与中央强硬对抗。
这样的两个人，当然不可能为了蒋介石的什么“全国统一”，而完全受制于蒋介石。由于胡汉民的死，本来开始生分的两大军阀很快凑到一起，商量对付蒋介石的办法。
“如今日本占领我东三省，全国抗日战争呼声四起，我们应在民众抗日高潮之下，要求中央立刻抗日，不可以像现在这样畏尾。”陈济棠首先有了主意。
李宗仁开始并不怎么明白其中深意，问道：“伯南（陈济棠字）何以一时心血来潮，急于发动抗日呢？如此鲁莽从事，万一与中央部队发生冲突，岂不未抗日而先内战了吗？”
“我不是想内战。我只是想，只要我们西南作出抗日的姿态，登高一呼，全国必定响应。到时候，蒋先生如不顺从民意，则必然垮台无疑。”
李宗仁终于明白了，微笑着频频点头：“这么一来，谁还顾得上取消我们西南执行部和西南政务委员会！”
李宗仁这么想妥了之后，与陈济棠商量了许多细节，到6月1日这一天，他们以西南两部会的名义通电全国，敦请国民党中央和国民政府立即对日抗战，并吁请全国党政军民一致督促中枢抗日。5日，两广组成抗日救国军西南联军，做出准备北上抗日的势态。
第二天，南京国民党中央党部、国民政府饬令两广，不得自由行动，破坏抗日政令军令的统一。对于蒋介石的饬令，李宗仁与陈济棠视若无物，根本不予理睬。9日，两方面同时下达动员令，出兵湖南。
蒋介石见此，急调两个军控制衡阳，阻挡粤、桂军北上，随即再调几十万大军，从广东、湖南、贵州三面，进逼广西。
李宗仁也不含糊，运用他善于扩军的特长，迅速将桂军由原来的14个团扩编为44个团，严阵以待，随时准备战斗。他与陈济棠的什么“抗日救国”，眼看就要演变为一场继“中原大战”后的又场大规模内战。