从8月14日以来，张治中没有好好吃过一餐正式的饭，也没有得到一整夜的安眠。在过度疲劳之后，反而觉不出困乏，只是感到眼睛红红的，涩辣辣的，喉咙嘶哑疼痛。这些本来都可以忍受。可是当这一切都不能被人理解，遭到一些无端的横逆时，他的心便刺痛难忍了。
那是8月23日深夜，张治中吃了一点粥，在椅子上略靠了一下。他想到第九十八师已划归第十八军军长罗卓英指挥，应该去看一下，商询对该方面登陆敌人的作战方案，并指示机宜。一想到这些，立刻起身，带上也在前线指挥所的胞弟张文心等人，星夜出发，于凌晨赶到太仓，见到刘和鼎军长，然后冒着轰炸赶了很长一段路，来到嘉定，费尽心机才找到罗卓英军长。一见面，罗军长诧异地问：“总司令怎么会跑到这里来呢？”
张治中一听知话中有音，反问道：“贵军既然划归我指挥，我应该来看看。”
罗卓英笑道：“总司令消息也太不灵通了，我们已归建第十五集团军啦。司令是我的老长官辞修先生……”
张治中这才知道，陈诚已不是军政部次长，他已经做了第十五集团军总司令。自蕴藻浜以北地区的防务，统归第十五集团军，由陈诚指挥。他与罗卓英谈了半天，傍晚回到徐公桥总司令部。他是一肚子闷气，越想越费解：怎么发表了陈诚做第十五集团军总司令，连我也不通知？第十八军本归我指挥，为什么忽然划归第十五集团军？这究竟是何缘故……
当张治中从罗卓英处回到徐公桥时，得到电话说第三战区副司令长官顾祝同已到苏州。张治中想，两日来，只顾前线，没有同后方联络，应该到苏州看看顾祝同，有许多问题需同他商酌，并可借此向南京统帅部报告请示。
打定主意，张治中来到苏州，还没见到顾祝同，就打电话给蒋介石，想一吐内心的苦闷为快。不料，蒋介石一接电话，就厉声追问：“你在哪里？”
“我在苏州。”
“为什么到苏州？”
“为着左翼作战，亲到嘉定会罗卓英，听说顾墨三到苏州来了，所以来同他商量问题。”
蒋在电话里大声地叫：“为什么商量？两天找不到你，跑到后方来了！”
张治中呼地一下涨红了脸，心跳加剧，仍试图解释：“罗卓英原来归我指挥，我不能不去看看，我不知道他已划归第十五集团军陈辞修指挥了。”
电话里的声浪越来越大，如风声雨声刺激着耳廓。蒋介石根本不听张治中的申辩，只是一味地斥问：“为什么到苏州？嗯，为什么到苏州？”
一股压抑不住的怒火直冲脑门，张治中索性厉害起来：“委员长你说该怎么办？我是到苏州与顾墨三商量问题的，我一直在前方，委员长究竟要怎么样？”
电话那边又传来粗厉地叫喊：“你究竟要怎么样？还问我怎么样！”一下就把电话挂上了。
张治中听见电话里没有了声，脸色由红转白，由白转青，太阳穴上青筋暴起，双颊微微颤抖，满腔怒火无处喷射，气得把听筒“咣当”一声摔在电话机上。他走出房门，听着远处的隆隆炮声，牙齿咬得咯咯响，鼻孔煽动。他伤心透了！“八一三”之战，他自信毫无错误。尤其以一个总司令的地位，大胆而勇敢，开战以来一直在第一线，亲在叶家花园的水塔上督战。至于上海未能一举占领，统帅部失机在先，三次叫他停止攻击！后来，大战展开，除陆军外，又没有有力的空军配合。在开战前，蒋介石问过他：“有没有把握？”他曾答复：“一定要有空军和炮兵的配合。”而开战以来，根本就没有这些条件……他自问道：“我是临阵脱逃吗？为什么不能谅解，反向我生这样大的气呢？”
由于日夜指挥策划，四处奔波，他的体力已疲惫不堪，再加上精神上的苦闷，他决心辞职，提出职务由顾祝同兼代，如顾不愿，请朱绍良继任，或将第九与第十五集团军合并，由陈诚统一指挥……
张治中的辞职请求迟迟没有批准，但陈诚已投入到了上海的指挥。
陈诚形象地告诫官兵：登陆敌人使用轻重机枪，都用“啪啪啪”三发的点来考验我们，意思是问你“怕不怕”，我们应还以两发的点放，表示“不怕”，“不怕”！敌人听到后就不敢进攻。如我们连续不断地“啪啪啪啪”乱放枪，就等于说“怕怕怕怕”。敌人知道我们是新兵，无作战经验，待我子弹放光后，就猛烈反攻。陈诚还主张有作战经验的部队不要多换防，伤亡重大时宁可将兵员于夜间送上前线补充以免换防后发生危险。所以有些素质稍差的师，如湖南的第四十六师师长戴岳部和河南的第四十五师师长戴屈权部开到前线，就全部拨补了。各省调去作补充兵的保安团更多。陈诚的四个师都经过四五次补充，能打到最后。
8月22日夜晚，日军以增援来沪的三十三师团由狮子林、石洞口、川沙口方面登陆，同时以一部从张华浜附近强行登陆，企图威胁中国军队侧面。陈诚指挥左翼军在宝山、月浦、罗店、浏河一带与日军进行了十分惨烈的激战，给日军以迎头痛击。在整个淞沪战役中最为激烈的罗店争夺战，即是在陈诚指挥下进行的。罗卓英率领十八军的十一师、十四师、六十七师抵挡了精锐的日军一个旅团的兵力。当时，日军先用舰炮、重炮、飞机猛烈袭击，随之战车冲锋，步兵扫荡。中国军队只能以密集轻武器火力阻击。这样，往往成营成连地牺牲，然后成连成排地补充上去。双方阵地得而复失，失而复得，反复争夺，罗店镇变成了一片焦土。中国军队的英勇，使得日军为之胆战心惊，把罗店称为“血肉磨房”。
陈诚在对淞沪战场考察了几天之后，感到步兵的配属力量太弱，以致影响了步兵的战斗力。于是，他在8月26日向蒋介石建议：第一，鉴于前方部队对防空兵器至为缺乏，请派3.7公分及2公分机械化高炮各一连，迅速开赴前方；第二，由于各重要公路不断遭到敌机轰炸，请拨派工兵一部，随带桥梁架设材料，开前方，由他指挥，并暂控制于苏州、太仓、昆山附近；第三，请准将步兵学校最近成立的81公分迫击炮四个连队，开赴前线，以充实步兵的重武器装备。
也就从这天起，淞沪战事重心移至吴淞、罗店一带。
9月11日，日军主力进攻杨行；14日，陈诚到刘行日夜指挥作战。日本援军在吴淞等地强行登陆，国军全线退守。最高统帅部决定再调整部署：司令长官：蒋中正（兼）。副司令官：顾祝同。陈诚升任左翼军总司令，统辖原有的十五集团军和薛岳的十九集团军。
经过几次周折，张治中的辞职报告得到批准，并发布了调任大本营管理部部长的命令。敌人广播说是张的建议不被采纳，而且与陈诚闹意见，所以辞职。
回到南京，蒋介石约他吃饭。饭间，各自谈些题外的话，蒋似对前次的不愉快已忘却。张治中却不然，心里一直烦闷。他请求回家休养。蒋介石答应了：“好，但你先就了职再走。”
于是，张治中遵命先就了管理部部长的职，随即带着一个困乏的身体和一种落寞的心情，回到他的家乡洪家疃了。