冯玉祥下野后，心有不甘，反蒋之心不死。于是派邓哲熙、曹浩森（冯的参谋长）到太原找阎，希望阎共同反蒋。阎闪烁其词，主要的意思就是约冯过河到晋面谈。冯以不得要领，又派邓哲熙到太原找阎。冯面告邓说：“只要阎能够共同反蒋，除去不能应允亲到山西这一个条件以外，阎其余的条件，都可接受。”邓受命后，由潼关渡河，刚到对岸风陵渡，遇见李书城正要去见冯，请其赴晋。邓告李，冯不能考虑赴晋。李说，他已与阎说好，马上过河见冯。
李书城与阎为日本士官学校的同学，这时他是唐生智的总参议，由北平到太原访阎，代表唐与阎商反蒋之策。李听到阎部重要将领孙楚等谈起，冯不接受阎的劝告，无意出洋，李当即表示，如果阎决心与冯一同出洋，他可以去见冯面劝。孙楚等立即把李书城的话报告阎，阎大喜，第二天就派汽车送李到风陵渡过黄河见冯。李与冯原是旧友，早在一九二四年间，冯玉祥联合胡景冀、孙岳发动北京政变，倒吴囚曹，曾由黄郛出来组织摄政内阁，李书城就是由于孙岳的推荐而担任内阁中的陆军总长的。从那时候起，李与冯成为相识。李是同盟会会员，辛亥革命时他曾任黄兴的参谋长。冯对李向来很尊敬，此时冯遭韩、石之变，正在伤心愁苦的时候，见李远道而来，甚表欢迎。李与冯谈，大意说：“蒋自打垮李宗仁以后，排除异己，更见毒辣，唐生智和两广方面，连阎锡山在内，都想反蒋。但是唐生智对你（指冯）素有恶感（唐的老师蒋百里，是有名的军事学家，有一次报上误载蒋是冯玉祥的参谋长，冯部加以否认，言词之间对蒋很不客气，蒋认为这是冯有意污辱他，非常愤恨。唐对蒋百里极为尊重，言听计从。由于蒋的恨冯，因而唐对冯也发生了严重的恶感），唐一定要先打垮你，才反蒋。目下桂系新败之余，蒋的气焰正盛，你要反蒋，没有帮手，形势对你不利。况且韩、石是你一手提拔起来的人，无异于自己的亲子弟，竟至突然叛变，如果马上兴兵反蒋的话，那你就不能不考虑对自己军队的把握问题了。我看阎的为人尚称诚实．他现在约你一同出洋，你何不趁此机会，躲闪一下，和他出洋走走，我也可以陪你们同去。这样做法，于你有利。你在军事上威望很高，但在政治方面还须要树立威信。你出国后，把军队交给将领，力量还是整个的，蒋决不敢打他们。你在国外与外国的政治家往来接触，取些联络，有时对国内发表一些政治言论，借此增高声望。不出半年，国内反蒋之战必起，那时你回到国内，重新掌握自己的军队，其他反蒋的势力，一定会推重你。你振臂一呼，蒋介石非垮不可。”冯与李谈话后，决定赴晋见阎面商，遂于1929年6月24日，偕妻女离华山，赴山西，25日抵太原，下榻西郊晋祠行馆。
阎锡山约冯到山西，目的在于挟冯自重，增强自己举足轻重的地位。6月26日，阎冯联名通电，表明将一同出洋，阎又另电南京政府，声明在出国前需检查身体，并随即前往北平住进德医院，以示将丢下所负军政责任，一并归蒋。实际上，是对蒋的一种要挟手段。
蒋介石大为惊异，认为阎冯已经结合，于己不利，便急忙派人挽留阎继续负责，不要出洋，只令冯一人出去，并亲赴北平，与阎密谈，多方拉拢，以拆散阎冯合作。
冯玉祥初到山西时，阎锡山热情招待，有时偕夫人、公子等前去拜访，每隔三、五日必亲去看望，交谈中，经常商讨反蒋办法，阎还积极准备出国的服装和用具等。自从阎在北平与蒋密谈之后，便不谈出洋，也不谈反蒋了，更进而不与冯见面了。冯玉祥在晋祠住了三个月，9月末移住五台县，10月5日又迁移到建安村，被阎锡山软禁了起来。冯住所的周围有武装把守，村外有铁丝网阻拦，通往外界的公路挖有壕沟。冯得知受骗，非常愤慨，曾经计划化装跑回潼关，又因他的身材魁梧，无法改装隐蔽而作罢。李书城因为他是劝冯到晋与阎共商反蒋的，现在阎对冯如此，李心甚为不安，每日打坐习静，表示一定要在建安村住下去，与冯一同“坐监”。这时，主张阎冯联合反蒋而对阎有说话资格的人，除李书城外，还有山东名流王鸿一。王与冯相识多年，素受冯的尊敬。李、王二人，常常向阎进言。
冯部将领对阎扣冯甚为愤慨，又因经济困难，极待接济，便自行恢复了与蒋方的往来。鹿钟麟和唐悦良曾随同冯一起离职，8月间，应蒋方邀请，恢复陆军部常务次长和外交次长的职务，冯部的薛笃弼又就任了卫生部长。宋哲元也派人去南京直接见蒋，得到了一些给养补充。蒋也想乘机分化冯部，先后派人到西安宣慰。阎锡山见此情形，大为恐慌，深怕冯军与蒋继续勾结，联合起来，共同对付自己。
8月上旬举行的编遣实施会议决定：（一）定全国军队数目为68个步兵师，以及其薪饷服装、公费和中央直辖军事机关月费为1884万元。（二）各省政府主席不得兼军职；各师长不得兼任政务官。（三）各编遣区以团为单位编遣，削师长之权。会议宣言又强调，欲谋国权统一，应由军队统一开始，坚决实行‘化私人军为党****，化地方军为中央军‘。这种将全国军权集中于蒋一人之手、化全国军队为蒋家军的做法，威胁到阎的利益，因而不满。
编遣实施会议，遭到各方反对，阎认为，此时反蒋，时机有利。
这一年的农历中秋之夜，阎锡山忽然亲自拜访冯玉祥，在冯面前大骂蒋介石，鼓动冯再次举兵反蒋，表示愿与冯部忠诚合作，负责一切供应。阎锡山主动约冯反蒋，冯玉祥欣然同意，两人商定仍以国民军名义兴兵讨蒋，以增强号召力。
冯玉祥电令宋哲元等克期举兵，阎锡山也派人和冯部将领接洽，商讨进兵方案，答应充分供应冯军粮秣等。冯军将领从编遣实施会议中看到了蒋介石排除异己的毒辣手段，就已酝酿讨蒋计划，现见阎锡山态度明确，大力支持，可以免除阎军抄袭后路之忧，于是，也就下定了讨蒋的决心。
宋哲元表面上不动声色，暗中调动部队，积极备战，同时，电告南京鹿钟麟等脱身出走。鹿得讯后即刻微服逃往天津。
此次讨蒋，冯、阎均未公开出面，以留回旋之地。10月9日，宋哲元等致电阎、冯，列数蒋介石罪状，表明他们出于被迫不得不起来反蒋。次日，阎、冯回电说：‘应从长计议，以求政治趋入正轨，仍望先行切实编遣，冀达诸同志救国之初衷，国事当由国人解决也。‘以此来造成他们与反蒋无关的假象，掩护他们的幕后指挥。
10月l0日，冯部将领借庆祝******之机，誓师讨蒋，宋哲元、孙良诚、刘郁芬等二十七人联名通电，推戴阎、冯为讨蒋军总、副司令，宣布蒋介石六大罪状：假中央集权之名，行专制独裁之实，以天下为私；任用私人，贪污成风，开国正气，破坏无余；骄奢淫逸，榨取民脂民膏民血；诡计百出，制造战祸，使兄弟骨肉自相残杀；外标和平统一之名，阴行武力统一之实；中东路事件，坐令俄兵出没边境、焚烧城池，丧权辱国。通电最后宣布：‘蒋氏不去，中国必亡‘，‘即日出发，为国杀贼，万死不恤。‘
冯军印发宣言，指明出师目的，专在打倒蒋中正一人，凡属袍泽，自要站在一道战线，均认为战友，荣辱均等