张勋复辟平定之后，做了大总统的冯国璋又面临是否去北京任职的问题。如去北京，离开自己的地盘和军队，有可能像黎元洪那样受段祺瑞控制。但不去北京，段祺瑞很可能乘机主持中央。正当冯国璋犹豫时，李纯、曹锟等将领纷纷通电全国，拥戴冯国璋到北京就任大总统一职。
对于是否支持冯国璋来北京做大总统一职的事，段祺瑞也曾犹豫过。他担心大总统的职位与冯国璋手握重兵加在一起会很难对付，同时又认为只有让冯国璋来北京，才可以合理地解除黎元洪总统的职务。
段祺瑞左思右想，犹豫之后对自己说：不管怎么样，冯国璋一旦离开南京老窝，离开他的军队，就一定容易对付一些。于是，派出心腹靳云鹏，前往南京去请冯国璋来北京就任总统职。
靳云鹏对冯国璋说：“段总理特意吩咐我对你保证，此次组阁，一定服从大总统冯国璋。”
虽说有了段祺瑞的保证，冯国璋还是提出两个条件：一是调江西督军李纯为江苏督军，为他守着南京地盘；二是擢升第十二师长陈光远为江西督军，接替李纯。
段祺瑞原打算由皖系心腹段芝贵接任江苏督军，没料到冯国璋来这么一手，若不答应，岂不是一开始就否认自己的保证。思之再三，段祺瑞提出，由心腹段芝贵任京畿警备总司令，傅良佐为湖南督军，吴光新做长江上游总司令兼四川查办使。这样一来，既控制京城，又加强了皖系在长江中上游的力量。
冯国璋知道这于自己不利，但有南京老巢在，也足可以段祺瑞抗衡。于是，双方交易达成。8月4日，冯国璋来到北京代理中华民国总统，与内阁总理段祺瑞共掌北京政权。
段祺瑞重掌内阁，却不去恢复张勋解散的国会，只组织了一个临时参政院代替国会功能。这显然是想独裁，立即遭到南方反对。
孙中山再次挑头揭起“护法”大旗，海军总长程璧光与第一舰队司令林葆怪立刻率部响应，然后是广西陆荣廷、云南唐继尧等西南各省地方军阀纷纷出来响应。
孙中山趁热打铁，8月中旬南下广州，号召各地国会议员南下护法。8月25日，非常国会在广州召开，孙中山被推选为护法军政府大元帅，唐继尧、陆荣廷为元帅。至此，护法战争爆发。
在北京，一切又如原来段祺瑞与黎元洪执政时的分歧一样，段祺瑞主张武力解决南方问题，冯国璋主张和平统一南北争端。
段祺瑞之所以主张武力，是想借对西南用兵之机，将自己的皖系势力打入直系一直控制的长江流域。冯国璋明白段祺瑞的用意，又与南方关系良好，为此对段祺瑞呈上来的“讨伐令”用尽一切办法拖着，就是不给签发。
段祺瑞急了，派出两路人马，出兵南下，擅自讨伐。因为武力有限，段祺瑞把讨伐的命令下达给直系和亲近直系的部队。冯国璋带兵有方，在军界比段祺瑞人缘要好许多，自己带出的部队当然不会听命于他人，立马把情况报告给冯国璋。
在冯国璋的指示下，直系的长江三督——湖北督军王占元、江西督军陈光远和江苏督军李纯立即联名提出：停止湖南战争，撤回傅良佐，改善内阁，整理倪嗣冲部。
长江三督的这4条意见一出，段祺瑞立即感到事态严峻，经过反复斟酌、权衡利弊，也使出两招，对付冯国璋。一招是推迟全面进攻计划，另一招是迅速成立临时参议院为代立法机关，修改国会组织法与国会选举法。这后一招是要召集新国会，正式改选总统，让他们的师字辈元老徐世昌把冯国璋从总统的位置上顶替下来。
冯国璋见段祺瑞开始对自己下狠手，于是也决定来个釜底抽薪，把段祺瑞赶下台。他想到的也是徐世昌，请来商议，希望徐世昌出面组织内阁，把段祺瑞的总理大权给捋去。可老谋深算的徐世昌有他自己的打算，只不过是想利用直系和皖系的争斗来坐收渔人之利，坐上大总统的职位。
冯国璋见徐世昌搪塞他，不为所用，便又去找王世珍。结果王世珍因惧于段祺瑞的淫威，也不敢答应。正苦恼时，总统府日籍顾问青木中将和日本公使林权助双双来访，表示日本政府不会坐视中国因内阁变更引起纠纷，警告冯国璋不要搞掉段祺瑞。
由于日本人的干涉，冯国璋只好暂时不动段祺瑞。可就在这时候，直系四督李纯、陈光远、王占元、曹锟于11月18日联名通电，主张撤兵停战，和平解决护法军的问题。段祺瑞一见通电，立即怒发冲冠，依仗有日本人支持，于11月20日，有恃无恐地再次提出辞职。
冯国璋见到段祺瑞的辞职报告，误以为全面夺回北京政权的时机已到，下令允准段祺瑞辞职，任命王士珍署国务总理。
段祺瑞虽然又一次下野，但皖系的实力一点也没有损失，他让徐树铮出面活动，自己在幕后指挥，以日本势力为靠山，策动山西、奉天、福建、安徽、浙江、陕西、黑龙江、上海、察哈尔、绥远和热河七省三区的督军、都统和护军使代表齐集天津，举行督军团会议，商讨对西南的和战问题。
这些与会代表都是亲段派，会议又是段祺瑞暗中指导，于是主战声一片。大家都纷纷要求，冯国璋迅速下令讨伐湘、粤。这次会议，还初步制定了进攻湖南的计划，决定兵分两路：第一路由曹锟做主帅，率军从京汉路南下，经由湖北进攻湘北；第二路由张怀芝做主帅，率军从津浦路南下，经由江西进攻湘东。
督军团会议由于有了直系实力派将领曹锟的支持，形成了声势浩大的公开挑战。
曹锟是个看起来憨直其实颇有心计的人，因为书读得少一些，遇事喜欢脚踩两只船看看再说。这次原本支持主和，因为对江苏督军李纯不满，再加上徐世昌对他的一番劝说，突然改变主意。曹锟是北洋军阀中颇具实力的将军，他的态度这么一转变，直系和皖系两派力量的对比也跟着变化起来。
由于曹锟的加入，皖系倚仗着天津督军团，在实力和声势上都占了优势。
战乱时期，政治搏弈的筹码只能靠实力。冯国璋虽然在实行“和平统一”政策，博得更多的人心，但在实力上一下子处于了劣势，他不得不努力地想尽快突破这个困境。然而他现在能做的已经比较有限，只能在宣布暂时停战的同时派人赴广西与陆荣廷谈判。
可是，当他的私人代表正在谈判时，皖系借助督军团力量，加紧了对北京政府施压。12月4日，国务院任命曹锟为攻湘援鄂第一路总司令，张怀芝为第二路总司令。在一片呼声中，到18日时，无可奈何的冯国璋被迫任命段祺瑞为参战督办，段芝贵为参谋总长。
段祺瑞再次公开指挥军队，更加快了“合法倒冯”的计划，责令徐树铮加快速度，尽早解决把冯国璋拉下马。在徐树铮的策划和督促下，临时参议院很快制定出“国会组织法”和“两院议员选举法”。
冯国璋一看这“两法”，就知道此事是冲自己来的，于是提出新主张，要同时取消北方的临时参议院与南方的旧国会，按照原来国会组织法与两院议员选举法进行选举，产生新政府与新总统。
冯国璋的主张，遭到段祺瑞的强烈反应。最让冯国璋头痛的是，曹锟等10督军也联名发表通电，一起反对冯国璋的主张，要求以临时参议院代行国会职权，选举正式大总统。
冯国璋嫡系的长江三督，针锋相对地发出通电，主张解散临时参议院。冯国璋与段祺瑞的斗争，又一次激烈起来。因为是北京，一直是段祺瑞的地盘，相比之下冯国璋有些势单力薄之感。如果离开北京，回到南京，段祺瑞就好对付多了。有了这想法，冯国璋琢磨着怎么才能脱身。
1918年1月24日，在与王士珍、段祺瑞、徐世昌讨论局势时，冯国璋突然变成了主战派，指责西南方面欺人太甚，提出亲自出征讨伐。随后，冯国璋率领自己的拱卫军一旅，乘专车沿津浦线南下。
冯国璋走后，段祺瑞越想越不对劲，突然一时醒悟：冯国璋这是要回老巢南京。段祺瑞一拍脑袋，立马发电给皖系干将倪嗣冲，便将列车截住，迫使冯国璋转回北京。这时，冯国璋专车正开到安徽蚌埠。
半道上被截回，冯国璋异常沮丧，被段祺瑞逼着，不得不下达讨伐西南的命令。他属下的将军们，一个个都不愿改变原本主和的主张，剑拔弩张地与皖系对抗着。
段祺瑞把这些看在眼里，很快使出一招以日本的军火为条件，引诱奉系入关。军火是军队的命根子，有先进的日本军火为诱饵，奉系张作霖得迅速出兵入关。
情况如此，冯国璋只得再次任命段祺瑞为国务总理。段第三次组阁，接着推行武力统一政策，同时加快合法倒冯步伐。
到1918年8月12日时，安福国会成立。倒冯的时机刚刚成熟，曹锟却突然生变，来一个180度的大转弯，由主战再变成主和，与长江三督又唱成了一个调。
段祺瑞见此，只好采取表面上看来是同归于尽的一招。与冯国璋同时下野，这样方方面面都说得过去，冯国璋下台也有面子。
9月4日，安福国会选举中华民国大总统，徐世昌毫无悬念地当选。第二天，徐世昌宣誓就职，与冯国璋行交替礼。
此时的冯国璋，接近花甲之年，遭此失败，再无入仕之意，决定“返我林泉”，永不出山。而段祺瑞则以参战督办的名义，继续控制着中国政治。
冯国璋不打诳语，下野后即回河间，隐居故里，经营家产。1919年12月28日，冯国璋因为肺病不治，死于北京帽儿胡同私寓，享年60岁。
临终前，冯国璋还在做着和平之梦，留下遗言：“和平统一，身未及见，死有遗憾。”他是因为看不见和平，抱着遗憾离去。战争在他身后的30年，打得越来越惨烈。