“七七事变”后，冯玉祥被任命为第三战区司令长官。当时，京沪一带有一个传闻，说在中央会议上，蒋介石不主战，冯玉祥坚决要抗战，争执不过，冯乃拔出手枪，愤欲自戕。对此，冯玉祥曾一再声明，并无此事。但从中可以看出人民渴望抗战的心情和对冯寄予的希望。的确，在人们的意愿和推测之中，都认为指挥北方军事，统率西北军抗日，冯是一位最理想的将领。所以，每天到冯的陵园寓所访问者踵迹相接。结果，发布的命令却南辕北辙，因第三战区所管辖的是京沪线周围。同时受命的还有第九集团军总司令张治中，在京沪线；第八集团军总司令张发奎，在沪杭线，人称“二张”。
8月9日以后，淞沪局势日益紧张。张治中电贺冯玉祥任第三战区司令长官，并欢迎他早日履新。冯复电除表示钦佩张之革命功业及学识外，还写有“此后共在一区，抗敌救国，互相策勉，尤愿一致在大元帅领导之下，牺牲小我，而谋民族复兴”等语。冯痛心国难，忧愤日深，决心不惜为国捐躯，写下遗嘱七条，留给家中。
张治中正在青岛养病，忽闻卢沟桥战事起来，第二天即拒绝医生的劝告，径返南京，接受京沪总司令的任命。8月11日夜半，张治中离开苏州，他统帅的军队也在当晚向上海挺进，12日清晨就占领了上海。从苏州出发的前一天，他把在“一·二八”率领第五军参加淞沪抗战时所写下的遗嘱取了出来，交给友人，重申他为民族战争准备献身的决心。上海的居民清早从梦里醒来，看见遍地都是国军，惊喜交加。8月12日清晨，张治中已到指挥所，穿一身整齐的军服，佩着上将符号及领章和参谋们谈话。他见左右有些惊奇，便说：“将军若在战场上阵亡，敌军官兵看到，都要敬礼保护，准许将尸体领回，所以穿戴要整齐。”参谋刘劲持听后忍耐不住，提出建议：“今天是八一二，过去‘一·二八’沪战，我们挨了打，吃了亏，今天要狠狠地回敬它一下。扫荡计划规定夜间袭击，今晚就可全力进攻，旗开得胜，首建奇功。”
张治中回答：“委员长指示，等敌人先动手打我们，我们才能回击，否则国际舆论对我不利。”
“那很容易，”刘劲持说，“部队进攻部署好后，到晚上派便衣去打响几枪，一面进攻，一面向上报告敌已进攻就成。”
张治中摇了摇头：“不能这样欺骗领袖。”这一整天白白过去了。
13日拂晓以前，攻击部队对虹口杨树浦敌根据地攻击准备完毕。但突然接到南京电话：不得进攻。张治中飞急电告：“我军业已展开完毕，攻击准备也已完毕。”但回电仍是：不得进攻。张治中本想以一个扫荡的态势，乘敌措手不及之时，一举将敌主力击溃，把上海一次整个拿下。现在失此良机，心急如焚！
正式开战是8月14日，这样耽搁了两天，给了敌人一个从容部署的机会。
8月14日上午，国民党空军开始向黄浦江敌舰轰炸。下午3时，国军接到总攻击命令。下午4时，炮兵开始集中射击，步兵勇猛攻击前进，到日落时，多有进展。忽然又奉上令：
密。今晚不可进攻。另候后命。（寒酉侍参京电）
于是攻击停止。15日、16日，都是奉令作攻击准备，并没有实行全线攻击。
“八一三”之后的第三天，冯玉祥来到苏州城外张治中的司令部，看见张的参谋长，知道上海附近同日本人打得很厉害。冯玉祥对张的参谋长说：“你们这司令部应当挪一挪，以免被炸。”他离开苏州向上海前进，出来不过三华里，日本人的28架飞机就把张治中的司令部内外全炸平了。他的汽车刚到昆山火车站，就听得炮声隆隆，震动大地。冯玉祥环顾左右，意气风发：“我年来奔走抗日工作，今日始听到民族的怒吼声，何等痛快！”正说着，敌人那28架飞机又俯冲过来，对着车站的三列兵车狂轰滥炸，敌机飞得很低，机上的人和枪都清晰可见。官兵死伤很多。冯的临时参谋长熊斌幸而蹲在稻田的水中，只露出一个头来，才没有被百米外的轰炸炸伤。
到了上海附近张治中的前方司令部，张治中、张发奎、杨虎几位总司令都在。几十架日本飞机仍在头顶上飞来飞去。冯玉祥提醒张治中：“你这司令部当赶紧移开，这里不大妥当。你是这方面的最高司令官，不能冒这样的险！”
张发奎问冯玉祥：“前头一连炮队不知哪里去了，是不是你把他们调开了？”
冯玉祥惊讶：“不知道。”
查来查去才知道是蒋介石把那一连炮队调到旁边去了。气得张治中直掼帽子，望着远处的炮火摇头。一个委员长隔着司令长官、总司令、军长、师长，多少级长官，把一连炮兵随便调走了，这叫什么统帅法？真是太无知识了！
张治中对前方打仗的军队十分忧虑。就说吃饭吧，全靠用大锅做大米饭。烧火是用稻草，白天点火，一冒烟，日本人的飞机就来轰炸；夜间点火，一见红光，敌机又来了。上海附近雨水很多，稻草一湿点不着火，就没有法子做饭。做饭的地方离前线远了，饭没法子送；靠得前线近了，一轰炸做饭的地方，前线的人就要吃亏。这些炊事兵没经过军事训练，人手又少，去送饭了就没人做饭。因此前线的官兵虽然很忠诚，很勇猛，很爱国，可是老饿着肚子，一天两天还可以，要一连三天，谁也打不了仗……再说阵地，造得太差了，钱却花了不少。据说是姓黄的找了一个商家，把阵地包给他们造的。像机关枪阵地，不但里面有三尺多深的水，连机关枪都架不起来。三百多个机枪阵地，能用的还不到三分之一。前方的伤兵没有医药，没有包扎所，更没有担架队……
冯玉祥答应一定跟蒋介石商量，替部署说话，给予补充和调整。不久，冯得南京电话，说蒋介石已派陈诚为第十五集团军总司令，参加第三战区作战。