台儿庄和临沂大捷，吊起了蒋介石的胃口。他这个当时中国的最高元首，好大喜功的心性又反映出来，他要用更大胜利来证明自己是当之无愧的中国人的领袖。他决定在徐州地区进行一次大会战，和日寇一决雌雄。
从3月下旬起，他从各地调集九个军另一个师共20余万人到徐州地区，到4月下旬，聚集于徐州地区的中国军队合计不下45万人。
但是，日本侵略者是狡猾的，不会按着你蒋介石的方案走，所以日军随即改变战略，以少数兵力在正面牵制守军，同时调动主力30万人，兵分南北两线，从侧后包围徐州，企图围歼第五战区主力。南线为日军第九、第十三师团和第三师团，两个师沿安徽涡河西进，分别于5月9日攻陷蒙城，12日占领永城，第三师团沿津浦铁路向北攻宿县（今宿州）。北线为日军第十六师团、第十师团和整补后的第十师团，亦分3路进攻，第十六师团由济宁南渡运河，到5 月14日，连下郓城、单县、金乡、鱼台等地；第十四师团从濮阳东南强渡黄河，于14日攻陷荷泽，尔后直插兰封（今兰考），整补后日军第十师团由南山镇西渡微山湖，18日攻陷沛县。
5月16日，南北日军会师砀山，对徐州形成合围之势。蒋介石战略上的失误，使中国军队陷于被动。
被围的中国军队虽然数量庞大，但形势十分不利，在心理与士气上也处于劣势，如不及时突围，后果堪虞。
为避免在不利局势下与敌决战，保存有生力量，蒋介石在武汉主持召开最高军事会议，决定放弃徐州。
16日，第五战区长官部在运河车站召开军以上将领会议。出席会议的将领有汤恩伯、孙连仲、张自忠、于学忠、李仙洲、孙震、廖磊、卢汉等人。李宗仁亲自主持会议。
会议由参谋长徐祖诏宣布开会：“现在请李长官训话。”
李宗仁示意大家坐下，然后说道：“日前由蒋先生亲自主持在武汉召开了最高军事会议，商讨目前战局。最初策划是在徐州地区与日本侵略者进行一次决战，可是，日军十分狡猾，面对我徐州地区汇集的40余万大军采取避我锋锐、迂回包围的战术。从目前战场形势来看，敌人以徐州为中心，企图合围歼击我军的势态将成。如果敌人一旦合围成功，对于我军来说，形势十分不利，几十万大军，都被隔绝，弹药、给养都将无法补给。虽有数十万之众，也如孤军作战一般。所以武汉最高军事会议审时度势，决定放弃徐州，令我徐州地区各部突围而出，保存有生力量，觅时再与日军一决。根据目下敌军合围尚未完成的形势，日军兵力最为薄弱的西南面利于我军突围，所以长官部决定，我战区各部分兵三路，向西南方向豫皖边界山区突围，各部的具体划分、时间要求及行进次序等部署，由徐参谋长跟大家交待布置。为了保证此次突围的成功，故长官部决定，命令二十七军团军团长张自忠，指挥五十九军及第二十一、第二十七、第一三九师等部殿后，掩护大军撤退。”
张自忠起立：“遵命！保证完成任务。”
李宗仁道：“你们完成掩护大军撤退任务后，率部撤至河南许昌集结。”
张自忠道：“是！”
会议结束后，李宗仁叫住张自忠：“荩忱，这次殿后，掩护各部队撤退，有什么困难没有？”
张自忠坦诚地道：“不瞒李长官，困难不能说没有，尤其是对五十九军，困难很大，但为了保证我大部队人马顺利脱出敌人的包围圈，哪怕有天大的困难，我们也会克服。我保证完成任务，争取不负李长官厚望就是。”
李宗仁道：“我相信荩忱你的能力，你一定能克服困难，顺利完成任务的。我代表战区所有各部谢谢你了。”
张自忠接受战区指示殿后、掩护大军撤退，是张自忠、五十九军又一次面临的严峻考验。
自淝水之战以来，五十九军已连续作战三个月，装备整齐、训练有素的五个旅已打得只剩下不到两个旅，亟需撤出战场进行休整补员。这次又将这殿后掩护任务交给这屡担重担、支离破碎的五十九军承担，确属勉为其难。但张自忠却没有半点迟疑地接受了这个艰巨的任务。
回到军团部所在地，他立即召集五十九军及其余会同殿后的三个师的师长、旅长开会进行布置。他把战区开会内容复述一遍以后道：“我军团奉命殿后，掩护大军安全突围，责任重大。我们必须全力以赴，不畏牺牲，克服一切困难完成这项任务。根据敌情，我现在命令：一一二旅由李九思旅长率领，占领徐州以北郝寨、夹河寨一线阵地；二十七师黄樵松师长率领所部占领徐州西北九里山的阵地；一八○师由刘振三师长率领、九十二军二十一师由李仙洲军长率领占领肖县及凤凰山、霸王山阵地，解救被围困的商震部第三十二军，掩护战区主力军集结转移突围。”
16日至17日，上述三路掩护部队与进犯之敌展开激战，并将已经陷入包围圈的商震三十二军解救了出来。
等到战区主力部队陆续脱离战区，张自忠于18日才率领各部放弃当面阵地，进行撤退。他让三十二军、二十七师、二十一师先行，自己则指挥五十九军一八○师和一一二旅殿后掩护。
这时，又一个极其严重的危机发生了。一一二旅在徐州以西一个车站陷入了日军包围圈中。
看来这次日本人存心要把张自忠这支五十九军的主力“吃”掉，所以特地放出载人气球，在空中监视一一二旅的动向，使一一二旅无法行动。
这围困一一二旅的日军，正是那支在台儿庄被打得丢盔弃甲、狼狈逃窜，但在前日西渡微山湖、占领沛县的日军第十师团。这个日军第十师团，在台儿庄大败，师长矶谷廉介被撤职，由筱塚义男继任。而这个师团前不久却又碰上了张自忠的五十九军，尽管这个重新整补、恢复编制的日军第十师团，以优势兵力、优势装备，却仍没有碰得赢连续激战未得整补的残破的五十九军，冈田和濑谷两旅团都吃了“瘪”，激战五天，不得不以伤亡3000人的代价落败。这次又碰上了，真成了“冤家路窄”了。筱塚、冈田听说被围的中国军队，竟然是张自忠的五十九军三十八师的一一二旅，不禁欣喜若狂。
筱塚道：“好个张自忠，你终于被我扼住了你的咽喉了。我看你这次往哪儿跑！”
那日军第十师团第八旅团旅团长冈田资少将更是高兴得手舞脚蹈地狂呼起来：“哈哈！太好了！你张自忠再厉害，这下可让我逮住了，这次我非把你这支‘胳膊’砍掉不可！”他在潢川被打得“体无完肤”，这下复仇的机会来了。他决心要把一一二旅“吃”掉。
张自忠得知这一消息，十分着急，忙令传令兵前往向李九思旅长传达口谕，指示机宜。但几次派出的传令兵还未到达便被敌人打死。
李九思率领全旅被围困在这里无法行动，如果不及时设法，便有被敌人全部围歼的危险。
李九思也急得在屋里来回踱着。
他的一个护兵在旁边站着，看见旅长着急，他心里也着急，因为他也知道，如果不赶快想出一个万全之策脱身，全旅5000弟兄，就会被日本鬼子“吃”掉。可是他也没法为旅长分忧。
他抬头望望天上飘荡着的鬼子用来监视他们的载人气球，不禁骂道：“可恶的日本鬼子，在天上挂上他妈的这个大卵泡盯着咱们，怕咱们上天入地不成！”
正在来回蹀躞的李九思突然停下脚步道：“你说什么！？上天入地？入地！哈！我怎么没想到哇！这是个好办法！这是个好办法呀！”李九思笑容满面地、竟然像个小孩子般跳了起来。
那护兵却怔怔地望着旅长，不知道刚才还愁容满面的旅长，为什么突然一下变得这么高兴。
李九思旅长站下来对护兵道：“你立即去通知各团团长和营长，马上到我这儿来。”
“是。”护兵立马跑步走了。
不一会儿，各团团长和营长都来了。
李九思道：“我们旅被日军包围在这里。日本鬼子放了载人气球在天上监视我旅，使我们不能自由行动，并且又设法切断我们旅同军部的联系。刚才我想了一个死里逃生之策，特找你们来商议。敌人可以上天，难道我们不能入地么？敌人放出载人气球在天上监视我们旅的行动，我们就跟他来一个从这车站利用房屋作掩护挖一条地道，咱们从地道钻出敌人的包围圈去。不知你们以为如何？”
团长、营长们听了，齐声说妙。
李九思道：“我已想了，这是我们旅脱出敌人包围的惟一可行之策。现在我决定，由二二三团监视敌人，二二四、二二五团全力投入抢挖突围地道，人员太多，可以轮流换班操作，务必于最短、最快的时间以最快的速度挖通这突围地道，以利我军突出敌人的包围圈。”
当下，一一二旅便以大部兵力投入了挖掘地道的行动。他们从一栋大房子里往日军包围圈脚下向外挖，官兵们挥汗如雨，轮流挖掘。二二三团为了转移敌人注意力，还不时向敌人发起佯攻。
经过一昼夜的艰苦努力，终于挖通了地道。18日夜，全旅5000官兵，从地道悄无声息地突围而出。临走前，他们还扎了一些草人，穿上军衣、戴上军帽，放在工事里。又在炉膛里塞满柴禾，使得远处敌人看去，炊烟袅袅……布置不少疑兵，以迷惑敌人。
就这样，人不知鬼不觉地，一一二旅5000官兵，竟从敌人眼皮子下消失。
19日清晨，日军通过天上监视的气球，仍认为一一二旅还在他们的“瓮”中。直至快到中午时，围困一一二旅的日本鬼子，奉命向一一二旅发起进攻，他们才觉得奇怪，怎么敌人静悄悄的，居然不发一枪还击，不知在玩弄什么玄虚。他们害怕其中有诈，不敢贸然接近，又是大炮轰，又是机枪扫，但是敌人还是没有动静。日军发起冲锋，除了踩响几颗地雷，伤亡了许多士兵外，十分顺利地攻了进去。这才发现包围圈中空空如也。一一二旅5000人马，却不见一人踪影。最后搜遍车站的每个角落，才发现新挖的地道以及废弃的大量泥土，才知一一二旅果真是“遁地”而去。
这时一一二旅已在旅长李九思的率领下，脱围而出，与张自忠率领的一八○师会合。
一一二旅“遁地”而逸，把日军第十师团师团长筱塚、第八旅团旅团长冈田气得几乎吐血，大骂一一二旅“狡猾狡猾的”。
张自忠见一一二旅在李九思旅长率领下，居然在敌人铁桶般重重包围下，不折一兵一卒脱困而出，感到高兴而又惊异。他问了脱困经过，不仅大加赞叹。
两军会合后，在张自忠的率领下，向徐州西南肖县方向而去。
19日上午，日军占领徐州。
在徐州安全撤出的中国大部军队，纷纷按照战区长官部的部署，向西南方向豫皖山区撤退。
九十二军军长李仙洲率二十一师，先于五十九军撤出，退至徐州的南韩庄一带待命。恰巧李宗仁率长官部向南撤退也路过此地。
李仙洲前往晋见，并请示今后部队行动方向。李宗仁担心各部队先于长官部竞相溃退，于是含糊其辞地答复说：“待我们到了宋埠（位于鄂东北麻城附近）以后再说。”
李仙洲一听，心中十分不满意，嘴上虽然不说，心里却想，在这军机瞬息万变的时刻，日军凶猛追击，我军或进或退，必须有坚决果敢的行动，怎能犹豫不决呢？但是没有上一级的命令，他也不敢随意行动，可又害怕日军追上，只好原地不动。
李仙洲正在焦急不安之际，张自忠率五十九军退至韩庄附近。李仙洲急忙前去报告，要求及时撤退。张自忠立即指示他向西撤。
事后李仙洲颇有感慨地对左右说：“现在下令进攻的有人，下令退却的却无人。因为要负责任。张自忠将军不顾个人利害，勇于负责，是名将风度，非同一般。”
从徐州撤退的各路军队，往西撤去。但日军追击部队，却有一部竟然先期在我撤退的大路北侧占了一个村庄，企图拦截我各路撤退部队。
几支部队撤到此处，发现敌情，搞不清日军虚实，加之各部队没有一个统一指挥的长官，纷纷停止前进，形成观望，谁也不肯先行，更不愿殿后。双方形成对峙，干耗在那儿。
这支日军，属于日军第三十九师团，由该师团参谋长专田盛寿率领。这个专田盛寿，也可算是一位中国通了，在“七七”事变以前任中国驻屯军高级参谋，与时任天津市长的张自忠见过面；“七七”事变时又作为日方谈判代表之一，多次与张自忠会晤于谈判桌前。他率领的这支日军人数不多，因而对中国数量这么多的军队，一时也不敢贸然发动进攻。他像一头凶猛的掠食者，正在等待时机，要在对方惊慌失措、一片混乱的情况下发动攻击，这样可以以最小的代价取得最大的斩获。
在双方干耗对峙了两小时后，张自忠率五十九军赶来了。
在这一大群番号繁多的庞大军队群里，李仙洲率领的九十二军二十一师也在其中 。因为李仙洲九十二军划归张自忠二十七军团指挥，便又来向张自忠报告敌人情况，请示办法。
张自忠听了李仙洲的报告，便让副官把各部队的指挥官请来。张自忠爽快地对各部队指挥长官道：“我以一个旅监视该股日军。请李军长率二十一师先行，你们其余各部队可以率军即刻依次而行。行动时要有秩序，大家可以议定各部的先后次序，不要争先恐后，不要惊慌、混乱。敌人之所以与我们对峙而不先行发动攻击，估计是他兵力不足，不敢轻率地和我们作正面交锋，而是想趁我大部队混乱惊慌之机发起突然攻击。只要我们大家有秩序地撤退，不给敌人以可乘之机，我料想敌人不敢贸然发起进攻的。也许敌人会鸣鸣枪扰乱军心，只要大家不乱，就好办。我们五十九军殿后掩护，大家放心地走，敌人如果发动攻击，由我张自忠对付便是。”
于是各部队相互议定先后秩序进行撤退。果然进退有序，秩序井然。
我军各部刚一开始撤退，专田盛寿便让其所部日军作好战斗准备，等他下令即开始向撤退的中国军队发动攻击。
但是，他从望远镜中看到，中国军队撤退时井然有序，全无一点慌乱的迹象。他正感到惊诧之际，侦察日军又来向他禀报，说有一支估计一个旅的中国军队，已然占据有利地势，所有武器，全都对准我皇军。
专田盛寿一听大惊，忙问道：“你们可探听明白，武装戒备监视我们的是什么人的部队？”
“报告长官，我们已探听明白，是张自忠的五十九军。”
专田盛寿一听，神色呆了一下，跺脚叹道：“罢了，怎么会是他！？看来，我们这次袭击中国军队的行动，只好放弃了，唉！”
旁边一个日本军官不明白究竟地问：“为什么是张自忠，我们便要放弃这次突击计划呢？”
专田盛寿道：“你当然不明白，我还在驻屯军时，在天津、北平就和张自忠打过多次交道，他是一个十分可怕的对手和敌人。在他已有准备的情况之下，以我们这里的兵力同他硬碰，那是要吃大亏的。”
各部由于张自忠的正确指挥和掩护，都得以安全撤退。日军也没有敢轻举妄动。
当时在场的军委会联络参谋李诚一亲历现场，后来回忆说：“张自忠予人以安，自己处在危境，真名将典型。”
20日，五十九军行至肖县西南杜楼时，遇到汤恩伯第二十军团的两个炮兵营。因与主力失去联系，该部官兵惊慌失措，想弃炮而逃。张自忠闻讯，即把两个营长找来，对他们说：“慌什么！炮不准弃。我派队伍掩护你们，跟着我走好了，到许昌后你们再返回本部就是。”
两位营长见张军团长不慌不忙，便定下心来，带领部队加入五十九军行列。
在这次撤退中，张自忠对五十九军宣布了如下措施：
一、在所属部队中，让临时所属的友军先行，自己亲率本部殿后；
二、大小军官一律不准骑马、乘车，要同士兵一道步行，以树立榜样，鼓舞士气；马匹、车辆，包括军长专车均用于运输伤兵；
三、各部主官和军法官一路要严密巡视，维持军纪。
21日，五战区各部兵团相继进入皖东北。由于渡濉河进度缓慢，大军汇集于濉河溪口一带。其中有于学忠的东北军（五十一军）、李仙洲的中央军（九十二军）、孙震的川军（二十二集团军）、廖磊的桂系军（二十一集团军）、卢汉的滇军（六十军）和孙连仲、张自忠的西北军。由于缺乏统一指挥，加之后有日军追兵，上有日机轰炸，所以秩序很乱，一遇敌机轰炸，更是乱成一团，这样更加不利于行动，而且混杂难分。许多部队长官因此而失去对部队的控制。但张自忠却只下令五十九军全体官兵一律将军帽翻戴，以便与兄弟部队相区别。此法果然有效，在混乱不堪的大军之中，惟独五十九军标记明显，秩序不乱，事虽然小，却说明张自忠丰富的带兵经验和五十九军的训练有素，严格的纪律。
正当各路大军在濉河溪口缓慢渡河之际，由蚌埠开来的日军突然向我军发动攻击。
张自忠果断指挥部队投入战斗，并命令师旅长全部到一线指挥。经过一昼夜的全力阻击，终于将日军打退，掩护了各路友军的安全撤退。
26日，部队撤退到永城东南青龙桥地区，又一次与大股日军相遇，并遭到日机轰炸。张自忠命李九思旅长率一一二旅抢占阵地，阻击日军。激战至黄昏时分，待友军全部通过，才撤出战斗，边打边撤，经鹿邑、淮阳以北向豫南撤退。
这一路之上，五十九军经常黑夜绕过敌区。凡遇有敌人驻扎的村庄，张自忠都是派部队乘黑夜将敌人包围监视起来，掩护大军安全通过；若被敌人发现，则制敌先机，以强大火力压住日军。待大部队安全通过后，方撤出战斗。在危急时刻，张自忠常常亲率手枪营走在全军之后。
有一次，天近黄昏，一支日军装甲车部队向我军逼来，距离越来越近。张自忠令大部队先行，自己则指挥手枪营埋伏于公路两侧壕沟内，准备用集束手榴弹炸毁敌坦克。日军发现前方设伏，未敢轻举妄动，停止了追击。
还有一次，部队正在一个小镇上休息，突然飞来3架敌机，一阵狂轰滥炸，街道旁的几十间房屋顿时被炸成一片瓦砾。张自忠趴在路边一个洼地处，一颗炸弹在他附近爆炸，气浪掀起泥土，掀飞了他的军帽，泥土盖满了一身。敌机过后，他站起身来，掸去泥土，戴上帽子，若无其事地说说笑笑又继续前进。
他这种临危不惊不乱的镇静，给官兵很大感染，稳定了军心。
五十九军在这一路上所碰到的困难，可以说用笔墨难以形容，也说不完，道不尽。一个随军记者写道：“我们随张军长徒步行走，刚出了村庄，敌人的炮弹便落在我们背后了，黄沙扑在我们身上。……远处村庄上的火和天空连接起来。机关枪在旁边响着，经过的村庄见不到一个人。我们渴得要命，口干得说不出话来，好不容易找到一个水坑，里面的水浑得成了糨糊，臭气难闻得很，我们只得闭着眼睛，用手掬起来，喝了下去……坑水一连喝了五六次，在麦田中不小心便会踏到死尸身上去，有时遇见了腐烂的死人，和生蛆的死马，臭气熏人欲呕，老远便使你喘不过气来。
“但是，最大的困难还在于五十九军自身。因为五十九军官兵从淝水之战以来，连续作战数月，从未得一日休整，极度的疲惫和困乏。这次撤退，从徐州到许昌，约有500公里路程，全靠步行，而且还要不断和敌人战斗，其艰苦情形可想而知，尤其是在徐州黄口一带招募的新兵由于未经训练，很多人走得东倒西歪，叫苦连天，但张自忠却与士兵同甘共苦，以他自身实际行动，激励、感化着全军，坚持地、胜利地走了过来。”
这次撤退中，张自忠率领所部，殿后、掩护，始终走在最后，而张自忠作为一个高级将领，却还走在部队最后，这在国民党军队中是极为罕见的。因而张自忠的事迹，很快传播开来，也传到了蒋介石耳里。蒋介石因为未能亲见，对此半信半疑。后来在武昌见到冯玉祥，蒋便问冯：“徐州队伍退下来，张自忠走在最后是真是假？”
冯玉祥回答：“当然是真，绝没有半点虚假。”并把了解到的情况，向蒋介石作了详述，一一列举了不少军中高级将领亲眼目睹的“证词”，最后还加上一句：“你要是不信，可以去问他们。”
蒋介石听后连连点头说：“真是好将领。”
冯玉祥接着话茬道：“你应该赶快拨五六个军归他指挥就好了。”
蒋介石点着头说：“好，好！等我想想再说。”
张自忠承袭了冯玉祥西北军“不扰民，真爱民”的治军传统，多少年来都坚持不懈，始终如一。在徐州突围中，张自忠不管在条件如何艰难困苦的情况下，都要求全体官兵做到这一点。为此他曾严肃处理过好几次扰民违纪事件，并曾处决了几名严重扰民违纪的士兵和一名排长。所以全军军纪肃然，部队所过，秋毫无犯，鸡犬不惊。
正因为这支军队真爱民，所以沿途群众对五十九军十分爱戴。沿途群众踊跃为部队带路，并提供日军驻地等情报。在群众的帮助下，五十九军耳聪目明，得以在日军封锁的空隙中穿行自如。
随同五十九军撤退的还有许多战地记者，如中央社、《大公报》、《新华日报》、《扫荡报》、《河南民国日报》、南洋华侨报刊的记者及战地服务团、宣传队成员。这些记者记下的所见所闻，使人得以了解张自忠指挥五十九军徐州突围的具体情形。
胡定芬写道：“张自忠的部队在掩护大军突围途中，纪律严明，处置情况又迅速确实。他始终紧密地掌握部队，没有使之有丝毫紊乱。”
《新华日报》记者陆诒突围时加入三十八师骑兵连的行列。在同官兵一道行军宿营的半个月里，他对三十八师师长黄维纲的带兵作风赞叹不已：“师长黄维纲以及其副师长都是典型的刚毅军人，他们都具有西北军的优良的光荣传统，朴实而讲求实际，尊重老百姓，爱护部下。在突围作战最紧张阶段，他们总是冲锋在先，退却在后。……行军过程中，亦无落伍及扰民现象。黄将军不愧为张将军部下优秀的干部，而张将军平时治军之成功，在战争最紧迫的关头，已见诸事实。”
另一位随三十八师撤退的记者高天也对三十八师严明的军纪留下了记载：“黄维纲将军领导三十八师，从陇海路北侧急行军突破敌人的封锁，路上虽然在万分紧急的时候，对民众的良好关系，官兵兄弟一样的情感，还能保持如常，宿营时往往是露宿在天井里，屋子仍然留给老百姓。黄将军说：‘我们军团长自己也是这样做的啊！’”
经过千里跋涉，五十九军终于于6月1日抵达目的地——许昌。
张自忠指挥少数部队为数十万大军殿后，不仅成功地完成任务，而且一路上也有不少斩获。五十九军也从日军眼皮下全师而还。日军花了那么大的精力，投入了庞大的兵力，不仅未能围歼第五战区主力，甚至连中国军队的一个尉官都没有捉到。
徐州突围成功，使中国军队保存了数十万有生力量，这对于坚持持久抗战，具有重大意义。
五十九军抵达许昌后，奉令驻扎于许昌西南霸陵桥。一到驻地，张自忠顾不上休息。他一面布置部队休整，一面派出一部兵力担任郑州、许昌间的防务。
6月13日，鹿钟麟北上就任冀察战区总司令，路过许昌。鹿钟麟是原西北军冯玉祥部下五虎将之一，也是张自忠的老长官，也曾担任过第六战区副司令长官，颇受张自忠敬重。张自忠得知此信息，亲自到车站来迎接这位老长官。
鹿钟麟乘坐的这趟列车，徐徐地驶进了车站，张自忠迎了上去。列车停稳以后，张自忠走进特等车厢，鹿钟麟迎了出来。张自忠仍然如在西北军一样，立正向鹿行了一个军礼：“职张自忠，特来车站迎送老长官。”
鹿钟麟笑着还了个军礼，向张自忠伸出手来：“好了，好了，荩忱，我们都是老弟兄了，何必来这一套，这样岂不显得生疏了吗！”
两人热烈握手，都十分高兴。
鹿钟麟道：“临沂这一仗，你们打得好啊，打出了咱西北军的志气，打出了中国军人的志气，也鼓舞了全国人民。咱西北军的老弟兄们，没有一个不感到高兴，感到自豪的。”
张自忠道：“临沂之战，我们虽说没有让日本鬼子号称铁军的第五师团攻入临沂，但是我们五十九军也死了万多弟兄，损失也是惨重的。许多跟随多年的老弟兄，这次也为国牺牲了，想来也令人心痛得很呀！唉，要是我们的装备能够好一点，能够和敌人差不多，我们就不会死伤那么多人了！”
鹿钟麟道：“你说得对，这些日子来，确也太难为你了。”
张自忠道：“只要能够为国家、民族的独立，就是牺牲自己的生命，也是应该的。”
“是呀，我这次奉命北上冀察，也是为抗战，为国家和民族尽一分力。”鹿钟麟道。
张自忠道：“冀察两省大半已陷于日本鬼子手中，那里的困难更大。”
鹿钟麟道：“是呀，虽说我被任命为冀察战区总司令，可是在实际上我现在手上却没有一兵一卒，还有在那里的军队，是否又听我这个光杆司令的指挥，尚是未知数哩。”
张自忠对身边的护兵低声说了几句，护兵转身走了出去。
不一会儿，一个壮实的军人跟在护兵身后走了进来，向张自忠敬礼：“报告军团长，手枪营第一连连长张法义奉命来到，请军团长训示。”
张自忠点点头：“这是鹿总司令，也是在西北军的老长官。”
张义法向鹿钟麟行了个军礼。
张自忠道：“现在鹿总司令奉了军委会的委任，出任冀察战区总司令。现在我派你率领你那个连，随鹿总司令去河北，担任鹿总司令的护卫工作。不管在任何情况下，你和全连战士，都必须保护鹿总司令的安全。你这就立即回去，集合全连，带上武器、装备，随同鹿总司令北上。今后必须完全服从鹿总司令的命令，明白了吗？”
张法义立正应道：“是，明白。军团长放心，只要我连还有一个人在，就会保证鹿总司令的安全。”
“好吧！快去集合部队赶来车站。”
“是！”张法义走了。
鹿钟麟十分感动：“荩忱……”
张自忠不等鹿钟麟把话说完，便道：“老长官，您别说什么了，这只是自忠能够表达的一点心意，也算为您壮一下行色。张法义是二十九军的老兵了，也是有西北军的光荣传统的老兵。他一定会对老长官忠心耿耿的。我现在队伍也是在这连续作战中减员严重，只能算是自忠的一点心意。老长官如说咱们是老弟兄，那就什么话都别说了，就率领他们北上吧。”
鹿钟麟对此还能说什么呢，他只好说道：“好！荩忱，我领你的情，谢谢了。”
张法义带着他的手枪连，随鹿钟麟去河北，后来这一连手枪兵竟成为保卫冀察战区总部和河北省政府的中坚力量，在反击日军大规模九路围攻的作战中，张法义连长率领全连官兵英勇战斗，以热血和生命保卫了鹿钟麟将军的安全，这是后话不提。
张自忠到达许昌后，主要努力开展五十九军的休整、补员工作。
其实早在临沂战役期间，他就开始思虑兵力补充问题。为此，张自忠多次致电军令部次长熊斌，向他汇报战况和五十九军伤亡情况，并派交际处长李炘前往武汉与熊斌接洽。
5月11日，熊斌曾给张自忠发过一封电报，表示愿意相助。
“荩忱吾兄勋鉴：
临沂战绩，誉倾中外。驱寇固圉，群属望于兄，非弟一人之私祝也。时艰孔棘，相期共济。关于贵部事项，苟可襄助，何惜绵力。来示称誉过情，非所敢承。余由显堂兄代达，不更缕。顺颂戎绥。弟熊斌拜启。
得到熊斌相助，五十九军获得部分兵员、武器补充，但仍远未补齐空额。
抵许昌后，张自忠又致电蒋介石，呈报了五十九军自参加抗战以来兵力伤亡和武器损失情况，要求予以补充。电报说：
职部自参加鲁南及徐海会战以来，后复奉命掩护大军转进，当即一面行进，一面以有力部队与敌接触，掩护大军转进，且战且却，幸克全师而还。本月一日到达许昌，奉命担任许昌守备。先后经过情形，迭电奉闻，谅邀钧览。职部作战以来，伤亡达一万四千余人，除补充四千人外，尚有空缺万余迄在虚悬。至于枪械遗失损毁，计步枪四千余支、机枪四百余挺，除补充步枪一千五百支、机枪一百挺外，尚缺步枪二千五百支、机枪三百挺。力恳钧座鼎力说项，俾能赐予提前拨补，以便增加抗战实力。兹谨派职参军潘蕴玉晋谒崇阶，当面禀报一切。尚祈南针时颁，藉资遵守为祷。肃此奉恳，敬请钧安。职张自忠谨呈。
电报发出去了，发到武汉去了。回音也终于盼来了，委座蒋介石从武汉发来电报，召张自忠去武汉晋见，一切到武汉见了蒋介石后面谈。
张自忠把军中事务交给副军团长李文田后，便偕同参谋长张克侠动身去了武汉。
到了武汉以后，他便和张克侠先找到侍从室主任钱大钧报到，表示自己应委座之召而来，请他向委座禀报，安排晋见时间。
他们又去拜访了军政部长何应钦。因为张自忠也挂过几天军政部部附的职，何算是顶头上司，而且这休整、补员的事，也是何在管理。所以先走走何的门路也是必要的。
很快钱大钧打来电话，告诉他们明天上午9时，委座召见他们。
第二天，张自忠带着张克侠、潘蕴玉来见蒋介石。
钱大钧领着他们走进蒋介石的办公室，何应钦也在座。
张自忠等三人向蒋介石、何应钦敬礼。蒋介石让他们坐下说。
张自忠向蒋介石详尽地汇报了临沂两次战役的经过，也详细陈述了从抗战以来，五十九军一直转战淝水、临沂、徐州突围，连续战斗，未得休整、补充，部队减员严重，枪械弹药损耗巨大，已然几尽丧失战斗能力之境况。如不休整、补员、补充装备，实难承担抗战之重担等。
蒋介石听了张自忠的汇报以后，沉吟了一下说道：“五十九军在临沂战役中打得很好。在徐州会战中表现尤其优异。很好。荩忱你和五十九军，都是中国军人学习的楷模。至于补员和装备补充的问题，你的电报和潘蕴玉已向我报告了详情，我已给何部长讲过了，应该解决，那是没有什么问题的。”
何应钦在一旁道：“对，委座昨天已同我谈了，补充兵员和补给装备，都没有问题。”
这次武汉召见，对于兵员补充和装备补给，都得到满意的答复。张自忠兴冲冲地回到了许昌。
此后，五十九军从中央和战区陆续得到补充，实力有所恢复，但仍未达到临沂战役以前水平，所得到的武器装备的质量，也远不如中央嫡系部队。
其实这一点也不奇怪，蒋介石对于各个派系的杂牌军队，本来就不放心，心存歧视，巴不得借日军之力，把这些队伍削弱和消灭呢。
6月下旬，五十九军奉命转移到河南省平汉线上的驻马店整训时，张自忠发现沦陷区大批学生流亡到武汉等大城市，没人过问、安置。张自忠于是决定成立一个“干部训练团”，招收流亡学生入团受训，充实部队基层力量。张自忠自任干训团团长，参谋长张克侠任教育长、董升堂任副团长，训练期为一年。
于是张自忠派员到各大城市招募流亡学生，不到一个月就招募了2000余名。张自忠将这些学生编为七个中队，还有一个女生中队。干训团聘请了军事教官和政治教官30多人，张克侠推荐的20多名政治教员，全是中共党员和爱国进步人士。干训团采用的教材，以新三民主义为主，时事教育为辅。郑岩平讲现代史、曹荻秋讲大众哲学……延安还派来了几位教员。
这些学兵爱国抗战情绪很高，有很大一部分教官和学员，提前上前线，参加了保卫武汉的战斗。
在驻马店，张自忠抓紧对部队尤其是新兵的训练。因为他知道，不这样，部队就难以和敌人相抗衡。他还特别强调军纪，要求全体官兵公买公卖，对民众秋毫无犯。
这期间，张自明从天津派用人宋茂堂给张自忠带来一封信，告知李夫人患病。
张自忠得知，心中虽然惦念，但却也无法，只能给妻子写了一封信。李夫人不识字，故信写得很简短，大意是：接七弟信，知你患病，盼望你安心治疗，多加保重，能早日恢复健康。
同时还给七弟自明写了南下后的第一封信：
吾自南下参加作战，濒死者屡矣。濒死而不死，是天留吾身以报国耳。吾久在兵间，能习劳。或疲惫之极，转念当此国家民族生死存亡关头，吾幸而得为军人，复幸而得在前线，出入枪林弹雨之中，而薄有建树，吾形虽劳苦，心则至慰也。方今寇益深矣，国益危矣，吾辈军人责亦重矣。吾一日不死，必尽吾一日杀敌之责；敌一日不去，吾必以忠贞至死而已。吾既以身许国，家事非吾所暇问，且家中有弟负责整顿教养，吾何虑焉！然亦盼吾弟勿以我为念也。……
这等于是留给家人的一封遗嘱。
两封信由宋茂堂缝在衣领内，带回天津。
有一天，护兵进来向他报告，说是有一个衣衫褴褛的女青年，带着两个孩子，要求见张军团长。
张自忠在自己暂住的一间低矮的农舍，接见了这位妇女。这个青年妇女却原是在临沂战役中力战阵亡的冉德明营长的妻子李秀芬。她带着两个未成年的孩子，由河南漯河一路乞讨，来到驻马店打听丈夫的音信。
当张自忠看见这母子三人衣衫破烂、孤苦伶仃、面黄肌瘦、狼狈不堪的样子，可以想像，他们在这兵荒马乱的时候，不知吃了多少苦，受了多少难，才来到这里。张自忠这铮铮铁汉，也难过得落下了眼泪。
李秀芬向他叙说了逃难的经过，并急切地询问丈夫的下落。
张自忠沉痛地告诉她：“冉德明在台儿庄战役抗日阵亡，为国牺牲了。”
秀芬得知丈夫已死，放声痛哭，悲痛欲绝。张自忠恳切劝慰道：“冉营长在抗日战场上牺牲，死得光荣，死得是有价值的。今天我张自忠在，说不定哪一天也会牺牲在抗日战场上。这是一个军人在国难当头时，对国家应尽的责任。冉营长已经葬在郑州，人死不能复生，你不要过于难过，要坚强地活着，要好好地抚养孩子，让他们替父亲报仇。”
他还郑重地对秀芬母子道：“只要有我张自忠一天，就有你们母子一天。你的两个孩子的教育费由我负责。你们现在可以暂时随队伍生活，以后我的家眷在哪里，就送你们去哪里，与我的家眷在一块儿。”
后来张自忠对李秀芬母子三人，始终从生活上、经济上给予了很多的关心和照顾。
当然，张自忠对烈士遗属的关心，还远不止这一个事例。