日军的炮火继续猛烈地朝着中国大地倾泻，到了3月份，铁蹄已经踏上津浦铁路，企图直下徐州，打通南北战场。白崇禧奉命去徐州协助第五战区司令长官李宗仁指挥作战。白是国民党战将中的主战派。军委会改组后，出任副参谋总长兼军训部长，同周恩来常常见面。出发前，他特地把周恩来和叶剑英请到他的寓所，请教作战方针。
周恩来呷了一口茶，把茶杯放回茶碟，很随便地谈起来：“请教不敢当，你是军事家嘛。但我有一个建议，仅供你参考。”他的建议是：在津浦铁路南段，由李品仙、廖磊两个集团军在新四军第四支队的配合下，采取以运动战为主、游击战为辅的联合行动，运动于辽阔的淮河流域，使津浦铁路南段的日军时时受到威胁，不敢贸然北上支援南下日军；而在徐州以北，以主力采取阵地战与运动战相结合的方针，守点打援，以达到各个击破的目的。
白崇禧目不转睛地听着。周恩来戛然而止。白崇禧催促道：“接着说，接着说！”
周恩来手一摊：“没有啦！”
号称“小诸葛”的白崇禧咧嘴摇头赞叹道：“你说得太好了！我一定向李长官转告，至于新四军方面……”
“这你放心，我会亲自关照的。打日本嘛，责无旁贷。”
白崇禧走后不久，周恩来又把张爱萍找来，告诉他：“我同白崇禧谈过此事，现派你再直接向李宗仁做工作。”张爱萍领命去办。
3月13日，日军矶谷师团从枣庄进犯台儿庄。台儿庄是山东最南端的一个小镇，地处京杭大运河的北岸，与江苏省隔河相望。台儿庄与西北两个火车站形成鼎足之势，成为重要的物资集散地和两省交通咽喉，是兵家必争之地，古有“天下第一庄”之称。
白崇禧来到军团司令孙连仲设在运河南岸的隐蔽指挥所，看到李宗仁全副戎装，精神奕奕，上去一把拉住他的手，道一声：“你辛苦了！”
李宗仁点点头：“为党国效忠，在所不惜！”接着又说，“保卫徐州很关键，关系到陇海铁路、津浦铁路和武汉的命运。”
一坐下，白崇禧就把行前与周恩来交谈的情况告诉李宗仁：“周恩来主张把阵地战和运动战紧密结合，集中优势兵力把日寇歼灭在台儿庄。”
李宗仁一直在沉思。谈到最后他突然扬起两臂，近乎喊叫地说：“这个主意好哇！周先生真是慧眼，看准了日本孤军深入这一弱点。”说着说着，他又皱起眉头：“如果日军东上徐州呢？”
“李司令不必忧虑，”白崇禧胸有成竹，“周恩来已经命令新四军张云逸部队在津浦线南端，协同李品仙集团阻敌东进徐州。我们要积小胜为大胜，以空间换时间呀！”———这最后一句话是出自毛泽东的《论持久战》。在武汉，周恩来曾向白介绍过毛泽东《论持久战》的基本思想。白崇禧脑筋一转，将此精神摘成两句话：“积小胜为大胜，以空间换时间。”征得周的同意，他又向蒋介石转述，经蒋批准，由军委会通令全军作为对日作战的最高战略方针。
果然，日军麇集台儿庄，双方展开大战。一时间，小镇硝烟弥漫，血肉横飞。4月3日，战斗进入白热化的胶着状态。城里几乎没有完整的房子了，到处火光冲天。街道每隔两三米就有一处工事，双方用刺刀拼了十多次肉搏，四周尸横遍野。中午时分，坚守在前沿阵地的三十一师电讯联系突然中断。徐州方面急电蒋介石。
前几天，蒋介石陪宋美龄吃了几天西餐，觉得很不舒服，他满口假牙只能吃酥软食物，今天又恢复老传统：上了四菜一汤，一碟腐乳，一碟臭冬瓜。他独自一个吃得正得劲，背后一声报告，他停了筷子，拿手绢擦擦嘴角，并不转头，只是等待着。进来的是居副官，他把公文夹递到蒋介石手里：“先生，这是刚从徐州来的急电。”
蒋介石一愣，急忙翻开公文夹阅读。神色陡然一变，脸若冰霜，浑身僵硬。突然，他狠狠地把公文夹往桌上一掷，手一扬：“居副官，马上通知侍卫长准备飞机，饭后飞徐州！”
“是，我马上去办！”居一侨敬礼，转身走出餐室。
收拾停当，蒋介石一行秘密飞往徐州。
“委座，我已下令战地前沿指挥官乘势反击。”李宗仁向蒋介石报告战况，“命令军团长孙连仲、汤恩伯、关麟徵、卢汉率军支援。目前，大本营与台儿庄的电讯仍未接通。”
蒋介石穿着草绿色呢军装，腰间佩着“军人魂”短剑，深邃莫测的眼光注视着李宗仁：“前线尚在激战，最好派人去慰问联系。”
“委座，派我去吧，”居副官自告奋勇，“前面的指挥员我都熟悉，让我去前线吧！”
“好！”蒋介石蓦地激动起来，“把战况快快报来！”
台儿庄前线的电话线都铺在地面上，不用杆子，怕敌机发现轰炸。但地面电线还是时常被截断。后来捕获了几只丝毛小洋狗，才知道日军专门训练小军犬，用来咬断电话线，使联络中断。
台儿庄激战之烈，前所未闻。常常是一个整营整团地上去，又整营整团地牺牲。局势最严重的一天，大约是4月14日的夜晚，前线指挥官池峰城给军团司令孙连仲打电话，说伤亡太大，要求撤退。孙连仲翻身下床，眼睛瞪得大大的，一面大踏步地走向参谋办公室，一面嘴里唠叨：“真是，真是……这家式（孙对部下的惯用语），他敢，他敢？”他拿起电话对池峰城喊：“我告诉你，台儿庄关系战局十分重大，你马上率领你师部的人员进城去增援，我也马上带领总部的人员跟着上去。士兵打完了，你就自己填进去，你填过了，我就来填进去！有敢退过河者，杀无赦！”池师长乃以必死之心，逐屋抵抗，任凭敌人如何冲杀，也死守不退。在最后五分钟，突然乘夜出击，敌人数惊，乱作一团，局势顿时改观……
另一个可歌可泣的故事是：军长张自忠在兼任北平市长时，外界不明真相，以为他是卖国求荣的汉奸，非议颇多。他忍辱负重，来到五战区，重任五十九军军长，李宗仁对他以诚相见，使张由衷感激。可事又凑巧，在临沂告急时，要他驰救的正是他最不愿碰面的四十军军长庞炳勋。原来，张自忠和庞炳勋都是冯玉祥的部下，在军旅中，彼此视为兄弟。但1930年在蒋、冯、阎中原大战中，庞被蒋介石收买，阵中反戈，并且突然袭击张自忠的师指挥所，张险遭不测，从此两人反目为仇。临沂战前，张曾对李宗仁表示：在任何战场皆可拼死一战，唯独不愿与庞炳勋在同一战场作战。李宗仁也考虑到这点，准备让张去淮北。可此时庞部为日军所困，第五战区除张部外无兵可调。李宗仁只得对张自忠说：“你和庞炳勋有宿怨，我甚了解，颇不欲强人之难。不过以前的内战皆为私怨私仇。庞炳勋现在前方浴血抗战，乃属雪国耻，报国仇。希望你以国家为重，受点委屈，捐弃前嫌，我今命令你即率部，在临沂作战。你务要绝对服从庞军团长的指挥，切勿迟疑，贻误战机！”张自忠得令，二话没说，当即表示：“绝对服从命令，请长官放心！”
张自忠接到增援临沂守军的命令后，率部星夜兼程，日行十百八十里，兵分三路对围城之敌发起攻击。日军凭借火力和工事顽强抵抗，致使张部冲杀竟日，伤亡重大，终于救出庞部。李宗仁事后感叹：当时庞氏所部已成瓮中之鳖，必致全军覆没。庞炳勋是员老将，拉着张自忠的手，老泪纵横，从此二人竟成莫逆之交。可惜两年之后，在抗击日军的随枣之战中，张自忠又以义无反顾的勇气，亲率少量兵力与敌搏斗，身中七弹。两名日本兵举刀刺上来，他顺势抓住刺来的枪，挺立起来，又被另一日兵猛刺一刀而倒下……其壮烈令日本人震惊，遗骸被日军盛殓安葬。张自忠捐躯时年仅50岁。蒋介石亲率军政官员至重庆朝天门码头迎榇祭悼。周恩来在追念文章中说：其忠义之志，壮烈之气，真可以为我国抗战军人之魂！
通讯恢复后，蒋介石命令李宗仁、白崇禧火速电告汤恩伯军团，包括于学忠、关麟征旅，增援右翼运河北岸，并令李品仙军和张云逸师配合共同加强护卫台儿庄阵地。在这样的部署下，迫使日军龟缩城内。几天后日军退出台儿庄。蒋又接连急电前方，表示嘉勉。指挥官们将电话抄件互相传阅。卢汉得到最高统帅称兄道弟，心里乐滋滋的，因为他们在守禹王山时也付出沉重的代价。战后，周恩来派出政治部的委员郁达夫等，组成慰劳团，到台儿庄慰问。全国的慰劳函电雪片一样飞来，捐赠的鞋、袜、毛巾等日用品堆积如山。