在张学良发表通电的前几天，阎锡山即已密令陇海线晋军准备向黄河以北撤退，冯当时尚在梦中（陇海线晋军，名义上是归冯指挥，而实际上则是由阎直接指挥，冯对这个问题最感头痛）。张的通电发出后，冯仍然希望阎锡山抽调有力部队开到河南，与蒋军继续作战。在他看来，张学良虽然举兵入关，但自己的实力尚存，只要阎能坚持到底，局势仍有扭转的可能。于是他一方面打电报给邓哲熙，请汪精卫力持镇静；一面派张允荣往见阎锡山，陈说继续打下去的理由。但是，汪和阎都失去了坚持到底的信心。当阎锡山接见张允荣的时候，态度消沉，连说：“不好办，不好办，仗是不能打了。”张问他对时局的看法，亦不表示意见，只说：“退到山西再说罢。”张还想继续谈下去，阎即乱以他语，不愿再谈时局问题，张遂不得要领而回。
由于冯的个性很强，看问题主观片面，虽然局势的发展在军事上、政治上已经处于极为不利的地步，但是他仍在幻想用背城借一的办法挽回军事上的颓势，因而对于退保西北的问题，并没有采取安全可靠的措施，仅仅派宋哲元带着葛运垄赵登禹两师兵力防守于洛阳一带，因兵力有限，并不足以保证郑州到潼关这一段交通线的安全。他仍以大部兵力布置在郑州外围，准备在晋军的协力下继续作战。可是等到碰了阎锡山的钉子以后，他再想把军队转移到陇海路西段时，杨虎城部已于九月十七日攻克洛阳附近的龙门，西撤已不可能，便只有退往豫北之一途了。当宋哲元率葛、赵两部移到洛阳的时候，宋的参谋长曾向冯建议：为了挽救整个西北军，乘晋军全部调出山西的机会，将西北军开入山西境内，使晋、陕连成一气，如此尚可在西北造成一个局面。因这时冯还想拉阎继续作战，没有采纳这个建议，但亦未表示反对。当时宋哲元还以为这一计划颇有实现的可能。但是，情势的演变越来越坏，不但郑州附近的军队无法西撤，而且葛运隆接受了徐源泉的劝降条件，将宋逼走。宋退到潼关后，适杨虎城军追至，无力抵抗，即由朝邑渡河退往山西运城。这时，留守西安的刘郁芬，闻杨虎城军由潼关直取西安，自度无力抵抗，乃率同陕西一部分军政人员和卫队千余人沿渭河北岸撤至朝邑。杨军跟踪追至，杨虎城念及旧日情面，除将刘之卫队留编外，余均任其退往晋境。最后由黄河铁桥北撤的西北军，计有：新编第一军，孙连仲的三个师，张自忠的两个旅和季振同的卫队旅。除张自忠部先开到山西晋城附近外，余部皆分驻于新乡、焦作、清化一带。此外，由豫西过河到达晋南的有刘汝明、赵登禹、鲍刚和张人杰等部，均已残缺不全。冯玉祥统率的西北军，是由一个混成旅发展起来的封建军事集团。冯在这个集团中，一向有着很高的威信。但是他既没有一定的政治主张，更不可能提出明确的政治纲领，只是拿一些救国救民的空洞口号和个人之间的感情作为维系这个团体的思想基础同时，他又一贯采取家长制的作风，个人专断，缺乏民主。有些由士兵提拨起来的带兵官即使已经当了军长、总指挥，乃至当了省主席，冯对他们仍然象对待子侄一样，不肯给以应有的尊重和礼貌，甚至他们在他面前连吸支香烟的自由都没有。因此，有些高级将领渐渐感到太受拘束。特别是那些有了地盘的将领，更需要一个无拘无束、自由自在的环境，以达到他们为所欲为的目的。韩复榘、石友三就是在这样的情况下被蒋介石拉了过去的。韩、石投蒋后，其他将领虽然表面上对冯仍很恭顺，但在内心里都有了自己的打算。