北京政变后，吴佩孚从塘沽乘“华甲”舰渡海南逃。他不甘心失败，在途中就与亲信策划如何卷土重来，打算以救曹锟的“勤王之义”为号召作为招集直系残余势力的政治招牌。但是，白坚武等人却认为，曹的名声太坏，“不足以资号召”，极力反对。最后，吴佩孚决定打出“护宪”的旗号，即维护曹记“贿选”宪法，而不再拥戴贿选总统曹锟。
11月12日，吴佩孚在吴淞口换乘肖耀南派来迎吴的“决川”舰，于15日到达南京。但是，此时长江流域的直系实力派鉴于形势变化，采取了自保的政策。11月10日，孙传芳、肖耀南等人联名拥护段祺瑞出山。12日，齐燮元又在南京召开所谓10省及海军联防会议。齐燮元等人对吴佩孚的接待仅仅是应酬而已。11月16日，吴佩孚乘军舰离宁赴鄂。途中他接张謇函，张在信中给其打气，说他“为国家战，为主义战，战不足为将军罪，将军之失败于内奸与外谋，败不足为将军辱……”吴佩孚为发泄对冯玉祥的刻骨仇恨，在船上给冯写了一封信。他在信中除对其进行人身攻击外，还声称冯及部下将“被弃于张（作霖）段（祺瑞）也”，表示自己不甘心于失败。
11月17日，吴佩孚率残部到汉口，当即以齐燮元、孙传芳、肖耀南、刘镇华、吴佩孚等人的名义，发出了将在武汉组织“护宪军政府”的通电称“冯玉祥反戈称叛，合法之民国政府不能行使职权，宪法完全失败，亟应联合建立护宪军政府，当讨贼戡乱大任”。通电还公布了“组织法大纲”。
吴佩孚突发此电的目的是号令直系余部，拥己东山再起。但是，他本人此时已无实力，其主张既不实际，又与齐燮元、孙传芳、肖耀南等的“自保”方针相左，故遭到长江诸省实力派的抵制。孙传芳急电齐燮元询问对策。齐燮元即于是日召集同盟各省代表紧急磋商，决定由江苏省长韩国钧出面反对，并电请段祺瑞阻止奉军南下，不要再威胁长江各省直系的利益。11月19日，韩电发出。电文称：“武昌筱电，人民不免惊疑。仅若组织各省联合机构，辅助段公收拾时局，实为大局之幸。”同日，齐、孙、肖等人再发拥段出山的通电，以此来否定吴之筱电，解除段祺瑞的疑虑。与此同时，肖耀南还指使省议会发“马电”，声言要拼死反对，决不让吴佩孚在武昌成立“护宪军政府”。至此吴佩孚在武汉成立与北京相对抗政权的企图完全落空。
11月19日，吴佩孚由汉口到洛阳。他收集在河南的残部，组织“护宪军”。11月下旬，国民军开始攻豫。11月23日，陕西督理刘镇华受段祺瑞密令，伙同吴新田、陆洪涛等联名致电吴佩孚，劝其下野。12月1日，进入豫西的镇嵩军第三十五师师长憨玉琨，突然向东进军，并向吴佩孚发出了最后通牒，限令他在24小时之内让出洛阳。吴率僚属于2日逃往郑州。他致电肖耀南想逃往湖北，但肖怕引吴入境会引起段祺瑞的不满，故复电劝其下野，并令鄂军寇英杰部从河南彰德后退五十里，以对胡景翼示好。12月1日，段祺瑞曾给吴佩孚发“东”电，要其下野。但吴对此置之不理。12月3日，吴佩孚逃往鄂豫边境的鸡公山。此时，他才发复电，表示“当时之事，不敢复问”，气焰才稍有所收敛，但仍不发下野通电。
但是，段祺瑞对吴仍不放心，先发逮捕他“解京治罪”的通令，并派吴的死对头张学颜去汉口，代表自己对肖耀南施压，责成他劝吴下野，并不得在湖北活动。因此，肖耀南一再电劝吴佩孚发表下野宣言，派寇英杰上山相劝。但是，吴不为所动，非去湖北不可。此时，肖耀南又接到段祺瑞密令，允许吴佩孚只身去汉口租界，不许带兵前往。吴佩孚表示，自己一不下野，二不住租界，三不缴械。与此同时，孙中山在北京电令樊钟秀，命其派兵上山，“歼灭此渠魁，以伸公愤”。12月17日，吴佩孚被迫偕李济臣率卫队500多人，乘火车强行南行，但在广水车站被阻。1925年1月1日，吴佩孚不待肖耀南同意，乘车到汉口。最后，肖耀南在得到段祺瑞同意后，于1月3日派“决川”舰送吴及卫队赴黄州暂居。
吴佩孚在黄州以船为家，表面上游山玩水，饮酒赋诗，过着隐居生活，但暗中不断派人四处活动，企图东山再起。川、湘、苏、浙各省也认为吴的潜在势力强大，派代表作赤壁之游。吴与上述诸省代表密订联防盟约，并密令靳云鹗、刘永谦二人与各省加强联系。
段祺瑞执政府对吴的举动非常关注，派王揖唐赴黄州，劝吴进京，但遭到吴的拒绝。段无奈，密令海军派军舰去劫持吴到京。前海军司令杜锡珪闻讯后，急电吴速他往。此时，他接赵恒惕电邀，于3月2日在一风雨交加之夜，乘军舰偷渡武汉，逃往湖南。临行前，他的随员对记者发表讲话称，“果时局非吴某出即不可收拾，吴亦未始不可以出山”。
吴佩孚在岳阳受到赵恒惕代表的欢迎及安置。此之前，部分直系人物迫于形势曾给他一些冷遇，但随着本身反奉自卫的需要，又不得不奉吴为精神领袖，从而提高了吴佩孚的政治地位。因此，在瞬息万变的政局中，吴佩孚仍为各方所瞩目。奉系张作霖出于牵制国民军的战略需要，也开始主动秘密对吴“示好”。
早在吴佩孚于鸡公山避难时，张作霖就派遣密使到吴处，对他表示说直奉战争的结果是“鹬蚌相争，渔翁得利”。如果张吴联合起来，那就“天下无敌”。1925年3月底，张作霖又派亲信杨毓珣到岳州给吴“祝寿”，并一再向段政府疏通释放曹锟。这其中虽然有军阀惯用的应酬手段，但主要还是表示出张作霖向吴做出的“和解”姿态。
吴佩孚不甘心自己的失败，极力同各方联络，也对张作霖伸出的橄榄枝做出了反应。他派亲信张国榕赴奉对张进行了回访。对此，张作霖表现了极大的热情，马上派原吴佩孚的幕僚吴焘为密使赴岳阳。4月7日，吴焘将张作霖亲笔信及日后联系的密电码交给吴佩孚，并转达了张要与吴通力合作，反对冯玉祥的愿望。吴佩孚对张的态度极为重视，派肖耀南的参谋长张月波偕吴焘返奉。4月29日，张月波将吴的亲笔信面呈张作霖。张作霖对吴代表的回访非常热情，并表示了对冯玉祥的鄙视及与吴佩孚合作的愿望。5月26日，张月波从汉口给吴焘来信，说吴佩孚、肖耀南均愿意与奉“合作”。吴佩孚已经与张通了“密电”。这样，张作霖与吴佩孚之间建立了秘密的通讯联系。
不久，张作霖派卫队长苏锡麟去岳州，与吴佩孚就合作进行深层次谈判，提出了双方合作的条件：一、奉军出关，驱段下台；二、释放曹锟；三、推举王士珍为总统。6月中旬，张作霖又邀吴派代表来津，进一步谈判合作。但是，由于爆发了五卅运动及诸多因素所致，奉直双方未就合作达成实质性的协议。
国民军虽然是坚决反直、反曹吴的，但由于他是从直系中分化而自成一系的，所以同直系之间一直是藕断丝连。1925年3月后，冯玉祥、胡景翼（后为岳维峻）、孙岳都先后开始恢复与长江各省直系实力派的政治往来。
国民军领导集团本来与直系各部就有广泛的社会联系。此时，直系各省头目虽然对冯玉祥等人的“倒戈”持异议，但他们很多人原本对吴佩孚也素怀不满，对冯的仇视并不很强烈。他们在奉系巨大威胁面前，认识到拥段并不能自保，又看到国民军与奉军有不可调和的矛盾，愿意与其结盟以与奉系对抗。国民军出于自己反奉的军政需要，也极力向长江各省直系实力派示好。所以，双方或秘密或公开的往来日渐频繁。
吴佩孚蛰伏在岳州，密切注视着各方动态。此时，奉军兵锋南指，长江诸省直系实力派眼看段祺瑞根本无力约束张作霖，故由附段自保改为联省自保。吴佩孚审时度势，乘机打出了各省“联防”的旗号，企图以组织长江及西南各省的同盟做为自己再起的资本。他派亲信向各省游说，表示愿意帮他们建立“同盟”，实现对奉的“联防”。直系孙传芳、肖耀南也意识到，为了联合直系各省，需要一个精神领袖为号召。实际上，他们并不真心拥戴吴出山，只是需要利用老长官的潜在价值，所以纷纷派代表走访吴。“决川”舰一时门庭若市。但是，吴佩孚在大谈联防的同时，仍不忘兜售组织“护宪”的主张。这又不符合直系实力派的口味。因此，孙传芳等人一时还没有公开拥戴他出山的表示。
但是，国民军与直系各实力派在政治上结盟的同时，不可避免地遇到了如何对待吴佩孚的问题。孙传芳主张“尊吴”以联合直系。冯玉祥、岳维峻对“联直”反奉表示赞同，而对“尊吴”则表示疑虑。吴佩孚对直系联冯最初是反对，继而是不置可否，而内心依然是仇冯。因此，国民军与直系各派之间信使往来，围绕上述问题不断会商。这就无形中又提高了吴佩孚的政治地位。
1925年4月，孙传芳派幕僚杨文恺到张家口，与冯玉祥商议反奉，代表孙与冯结为异姓兄弟。冯玉祥表示赞同孙出兵攻打奉军，而从目前的形势看，自己还不能与奉决裂，但如果孙先对奉发动攻势，他一定从北方作出预备作战的姿态牵制奉军，使其不能抽调军队南下支援。杨文恺曾任汉阳兵工厂总办。此时，国民军急需补充军火，而此必须从汉阳兵工厂购得。所以，冯玉祥派顾问段其澎随杨南下。5月，杨与段其澎在开封与岳维峻晤谈。他们商定：孙传芳进攻奉军的同时，国民军二军出兵山东攻打张宗昌，互相策应以收夹攻之效。杨与段随即同赴汉口。段其澎留鄂活动，杨一人前往岳州，代表孙传芳敦促吴出山，并赠款五万元。以后，杨在回杭州途中又分别会见江西督办方本仁和赣北镇守使邓如琢，劝说他们拥戴吴佩孚，合力讨奉。
段其澎在汉口代表冯玉祥拉拢肖耀南以购买军械弹药，并与直系将领靳云鹗相见。靳是吴佩孚的老部下，与国民军各将领关系友谊较久，现其部下田维勤、王为蔚、陈文钊三个师又为国民军二军收编，在修复国直关系中说话颇有分量。靳与吴佩孚关系也一直不融洽，但他和吴枯荣与俱，故极力向段鼓吹冯吴再度联合的可能与必要。靳云鹗称肖耀南没有什么能为，湖北将领均拥戴吴佩孚，所以，冯玉祥联肖不如联吴。孙传芳已与吴佩孚有约，时机成熟时就拥吴复出。冯如联吴，则可结为吴、冯、孙反奉三角联盟，定能胜奉。段其澎回张家口，向冯玉祥陈述了靳的主张。冯因奉系咄咄逼人之势，认为难免一战，也为之心动。他派张之江赴汉口，与靳云鹗通声息，表示愿意联吴以释前嫌。靳云鹗随即往岳州向吴佩孚汇报。吴对冯的示好不置可否。实际上，他与靳在对冯玉祥的态度上是根本对立的。与此同时，孙传芳还派蒋方震为代表谒吴，从而又加强了吴佩孚的政治势力。
与此同时，国民军二军岳维峻也加强了与肖耀南及吴佩孚的政治联系。
胡景翼在世时，为了全力以赴打败憨玉琨，就曾主动地改善了与湖北肖耀南的关系。岳维峻当政后，困难尤多，一则部队庞大，饷械两缺，二则强邻压境。河南虽然有自办的兵工厂，但因缺少原料而无法开工。因此，胡景翼去世仅十天，岳维峻就派代表刘幕东到湖北与肖耀南接洽。5月22日，他又派其第五师师长王为蔚（原直系降将）携自己所拟鄂豫联合剿匪办法到武汉与肖商谈。5月30日，他还派自己的秘书周愚夫赴岳州，谒吴佩孚，交换合作意见（周曾任吴佩孚的秘书）6月上旬，岳维峻派田玉洁到武汉与肖接洽，又在汉口设办事处。
岳维峻在政治上没有明确的个人主张，是个地道的旧军人。前文已述，他早就想投靠吴佩孚，现在依然对其十分“仰慕”，主动与其联系。一时间，岳吴之间信使往来。吴佩孚则顺势派人到国民军二军参加岳的戎幕，以对其施加影响。岳维峻由此从接近国民党的政治路线上倒退，重用吴佩孚的心腹马骧等。但是，岳维峻与吴佩孚的往来却引起了肖耀南的猜忌。他因拥段自保而拒吴入鄂等原因，对吴佩孚的复出有疑虑。实际上，岳维峻是主张“联旧直系”而不拥吴。为了打消肖耀南的误会，岳维峻在7月派总顾问马彦翀到武汉见肖耀南，交上岳维峻给他的信件及电报密码，并告以岳不会拥戴吴再起的种种理由。肖认为他所谈各情出乎自己意料之外，当即表示愿与岳结金兰之好，并约他面谈，且联合方本仁、孙传芳结成攻守同盟。岳维峻、肖耀南由是而电商决定在湖北、河南交界处的鸡公山进行会谈。
7月30日，肖耀南与岳维峻在鸡公山会晤。双方密谈三次，约定协议攻守同盟：联合反奉，决不拥护吴佩孚再起。关于豫省所需补充械弹或其他应用物资，鄂方当尽力设法便利。同时，肖允由他介绍先在汉口某洋行代定机关枪一百挺，并同时恢复京汉交通，以示双方合作之诚意。这就是轰传一时的“鸡公山会议”。鸡公山会议后，岳维峻为表示开诚布公，命原驻扎在豫南之陈文钊、樊钟秀部纷纷调往他处，而鄂军寇英杰部应岳请，则调往鄂北，与豫南接防，以策应防奉。
鸡公山会议本是为防止吴佩孚再起而进行的。但是，由于双方会谈是在靳云鹗的别墅秘密进行的，使外界猜测纷纷，大都认为其是为拥护吴佩孚再起而召开的，从而使其政治行情反而看涨。而各省电请段祺瑞释放曹锟的呼声，更增加了吴佩孚复出的势头。此外，由于岳维峻与肖耀南的关系日渐密切，被收编的原直系将领田为勤、王为蔚、陈文钊更频繁及公开地与靳云鹗等人联络，从而加重了潜伏在国民军二军内部的危机。
鸡公山会议前，肖耀南曾有“艳”电致段祺瑞，称：“豫鄂唇齿相依，两省防务，关系切要，将约河南岳督在鸡公山协商一切”。此引起段的重视。鄂豫结盟之后，他通过自己的亲戚汉阳兵工厂厂长刘亮章（文明），利用各省军阀购买军火的关系，拉拢数省，以互助互保为号召，准备结以肖耀南为盟主的“九省同盟”，为自己的政治基础。他拉拢直系实力派，希望他们发一个请求释放曹锟的联名电报。虽然“九省同盟”因赵恒惕的反对而作罢，但各省要求释放曹锟的电报却纷纷发出。7月6日，国民军三军何遂也领衔遵孙岳入华山养病前之嘱，致电段祺瑞，请复曹锟自由。贿选总统没有被释放，而吴佩孚却在舆论上得到了收益，使世人认为吴有呼之欲出之势。与此同时，国民军三军的将领也加强了与直系势力的联系。总之，国民军与直系的上述交往，虽然主要是出于反奉的军政需要，但有意无意地帮助了吴佩孚。
1925年3月31日，吴佩孚在岳阳过52岁寿辰。各方代表纷纷而至，但只是借拜寿为名来探其虚实。但是，7月16日，他夫人过40整寿，其部下却在中堂挂起了东山再起的绣匾，堂会上也唱起了吴本人亲点的剧目《过昭关》。时间仅过三个月，“决川”号舰上的气氛就发生了截然相反的变化。
上文已述，直系及国民军出于反奉需要而密谋联盟，造成了吴佩孚政治上的起死回生之势。这其中，孙传芳的态度起了直接的作用；国民军对吴佩孚的幻想也是导致这个结果的原因之一。
本来，长江各省军阀都认为，只有联防才能对抗奉系。他们需要一个精神领袖，但都不乐意再受吴佩孚的挟制。然而，他们见孙传芳出于反奉的需要而“尊吴”，又见国民军为联直而对吴叙“旧谊”，均认为其复出是个迟早的问题。肖耀南见此，也被迫对吴转变了态度，派部属去岳阳向他“示好”。吴佩孚乘机拉拢肖之部下，向他们封官许愿。陈嘉谟、寇英杰、刘玉春等人先后被吴收为己用。他们开始对肖耀南施加压力。肖耀南对吴的态度也被迫软化。与此同时，岳维峻对吴的态度也开始发生变化。自九省联盟之说起后，国民军二军中各派人物大肆活动，据《申报》报道，“更有老军宿将，适念吴佩孚旧宠，每一道及，辄为之感激涕零，岳维峻因张冯间空气不良，姜登选坐据徐州，举目环顾，殊多险境，而部下士卒，又念吴心切，不得不从权应变，顺水推舟。这说明，由于被收编的直系诸将的影响，国民军二军中充斥着亲吴的情绪。此外，在吴佩孚心腹马骧运动下，岳维峻对吴产生了不切实际的幻想，认为应联合吴佩孚反奉。此时，吴佩孚在表面上不再提及讨冯，对岳维峻、孙岳等也尽力笼络，巧妙地利用了这个形势，纵横捭阖。他操纵鄂军中的寇英杰等将领削弱肖耀南的权力，逼迫他任命陈嘉谟为武汉警备司令并控制汉阳兵工厂，逐渐掌握了湖北实际统治权。肖耀南为了自保，也被迫向吴疏通，并信誓旦旦，再表拥戴之意，并事事请示。吴佩孚在岳州仅数月，其地位前后俨若两人。在此情况下，肖耀南及岳维峻的联防之议，逐渐有了亲吴的性质。8月16日，直系军人在岳州秘密集会，策划吴佩孚出山的步骤，湖北将领也在武昌召集军事会议，会后又赴岳州谒吴，向他表示了拥戴之意。与此同时，靳云鹗、寇英杰与国民军二军王为蔚等人在鸡公山靳云鹗宅迭开会议，名义上是商讨鄂豫联防问题，实际上策划如何拥吴复出。
此时，孙传芳加紧了反奉的准备活动，为造成直系大联合的声势，不断四处表示对吴佩孚将有所借重，进一步造就了吴复出的条件。10月15日，孙传芳发动了反奉战争。他在通电中首列了“吴玉帅”的名衔，次列冯玉祥、岳维峻等。同日，肖耀南通电响应。16日，靳云鹗电复孙传芳、响应反奉，并告以“今日赴汉口会商，一面请吴玉帅出山，一面约同各将领按以前计划积极进行……”。17日，江苏将领白宝山、陈调元等宣布反奉，并电邀吴佩孚出山。18日，以肖耀南为首的鄂军将领也联名通电拥吴“出山共定国难”。长江流域诸省掀起了一股反奉拥吴的声浪。
10月19日，吴佩孚在岳州发通电，他为迎合直系反奉的情绪，攻击张作霖“贪天之功，不自戢兵，既盗直隶，旋攫山东，更为系蛇，消食苏皖……”；还抨击段祺瑞金佛郎案。他宣布，自己应孙传芳、周荫人、肖耀南之邀，定于21日到汉口“共同反奉”。
10月20日，吴佩孚由岳州赴武汉。同日，孙传芳、肖耀南、周荫人、方本仁、杨森、邓锡侯、袁祖铭、刘存厚、王天培、靳云鹗等人致电吴佩孚，请其出山，组织联军，共讨奉张，并推吴为讨贼联军总司令。岳维峻、孙岳虽然列名其上，但事先并未应允。21日，吴佩孚抵武昌，肖耀南率僚属在码头恭迎。吴渡江到汉口后，当即通电就任川、黔、桂、湘、浙、闽、苏、皖、赣、鄂、豫、晋陕、甘等省讨贼联军总司令。他宣称自己是为“护法”而复出，但所护之法为曹锟贿选宪法，还不敢成立“护宪军政府”，只是以原来左右亲信为班底，在汉口查家墩组织了总司令部，其组织俨然为中央政府。
吴佩孚是在全国人民反奉声浪中，利用直系反奉情绪才得以重新登上政治舞台的。直系军阀头目迷信吴能打仗的“常胜”之名，希望利用他的声望对奉系起威慑作用。21日，孙传芳又与江苏将领联名致电吴佩孚，“仰恳出山，北上申讨”。他更希望吴到南京担任进攻徐州的主帅，以个人名义迎吴赴宁主持大计。冯玉祥虽然对吴的再起非常警惕，但出于与奉系对抗的需要，对他又有某些幻想，也对此采取了默许的态度，从而，促使了吴的死灰复燃。
吴佩孚复出后，虽然有反奉的表示，但对待奉张的口气与以前大不相同，不再用“胡匪”、“盗阀”之类的词汇，并在重新挂出的招牌上，玩起了文字游戏。他不打“讨奉”的旗号，而用“讨贼”的名目，就说明反奉已不是真意。他到汉口的当天，就召集湖北军事头目举行军事会议，决定派鄂军寇英杰师、张建立旅为先遣队，于学忠、宋大沛等旅为续发队，以援孙为名，赴豫到郑州集中。吴佩孚把矛头首先对准国民军二军，企图假途灭虢，收复河南；而对援孙反奉持消极态度。孙传芳反奉得手后，以“五省联帅”自居，对吴的遥控更不买账。奉军退居徐州后，国民军没有如约与孙军配合。这固然与冯玉祥见奉军急剧后退，在直隶集中兵力而有意保存实力等诸多因素有关。但是，吴佩孚再起之后对国民军的态度，也是使国民军持此态度的重要原因。冯玉祥、岳维峻见吴对国民军仍持敌意，故才有失信于孙传芳之举。