在留守兵团第一次兵团首长会议上，根据毛泽东同志的指示，制订了军队正规化建设的目标。所谓军队正规化，首先要做到统一思想、统一编制、统一制度、统一指挥、统一纪律。在颁布了留守兵团的统一编制以后，我们认为，要把整顿组织纪律，建立必要的规章制度提到日程上来。第一次兵团首长会议以后，我们即组织力量，做调查研究，制定切实可行的统一的规章制度。到1938年第二次兵团首长会议时，颁布了“建立正规军队制度的各种草案”，其中有“报告制度草则”、“建立汇报制度大纲”、“司令部工作报告大纲”、“平时起居时间规定”、“值班制度规定”、“关于干部提升及调动的规定”，等等。1939年5月留守兵团军事会议上，在上述草案试行的基础上，进一步颁布了《内务条令》（十章一百七十六条）、《纪律条令》（五章）以及《参谋工作条例》等。这些条令、条例和制度的建立，使部队的面貌大为改观，滥用权力、任性处罚的现象没有了，违反纪律的行为成了众矢之的。从指挥员到战斗员，人人都以破坏纪律为耻，把遵守纪律，执行条例、条令作为每个革命军人的职责，并引以为荣。这件工作在当时并不是一件容易的事情。部队良好作风习惯的养成靠我们一点一滴的工作。就拿执行《内务条令》来说，就很不容易。举个简单的例子，当时部队战士大多数来自农村贫苦的家庭，部队的生活条件一直也比较艰苦，在这种条件下，我们提出要改变落后的、不卫生的习惯，养成讲卫生、爱清洁的习惯，降低部队的发病率，就需要做相当的工作。那时，我们干部除了以身作则外，还长一张婆婆嘴，给战士上卫生课，普及卫生知识，经常讲、反复宣传，如：不讲卫生是文化落后，不文明的表现，正规化军队必须建立整齐、清洁、文化的兵营生活，有些事情还得手把手地教。比如挖厕所，南方籍的战士到北方来，挖厕所就是个新事物，在什么地方挖，怎样挖都得教。总之，这一系列规章制度的建立和实行，为保证部队各项任务的完成起了重要的作用，也使这支从五湖四海走到一起的部队，具有良好的精神风貌、严格的组织纪律、统一的编制制度，向部队的正规化建设迈出了坚实的一步。
留守兵团的军事训练是别具特色的。在当时，留守兵团既担负着保卫根据地的战斗任务，又不像前方部队的战斗那么频繁，那样四处流动，因而既有训练的必要性，也具备了一定的进行训练的条件。我当时有这样一个想法，军事是一门科学，有它自身的一般规律性。按照正规化的要求进行军事训练，就要注重一般的基础训练，有相对的系统性；同时，还必须从实际出发，有当前战争的针对性。我们的训练方针应当在这两方面的结合上下工夫。当我把这些想法向毛主席汇报时，毛主席给予了肯定的支持。这样，我们根据部队的实际情况，制定了“打稳部队技术、战术的基础，发扬现有武器的威力，发扬我军优良传统和战斗作风，学习现代新式兵器的战斗法，建立部队中正规制度，加强干部的管理、训练与组织指挥能力”的军事训练总方针。当时我们的武器装备主要是近距离射程的步枪；我们的部队则是经过长期政治教育，有共产党员做骨干，有高度的政治觉悟，有光荣的革命传统的部队。因此，我们的训练就要在发扬现有武器威力的基础上，提高部队的技术、战术水平，突出我军的传统战法，发扬勇猛，果敢、机断的白刃格斗精神。那时部队还担负着剿匪、河防以及生产等任务，就利用作战、行军、筑垒以及战斗、生产的间隙，按照当时当地的情况，根据教育计划，从制式教练、班排动作、射击、投弹等基本战术技术开始，循序渐进地对部队进行系统的军事训练。训练为战斗作准备，战斗又检验了训练的成效。经过半年多的战斗、训练，部队的军事技术有了很大提高。特别是我们开展的创造特等射手的活动，取得了突出的成绩。以步枪卧姿射击为例，1937年100米环靶，命中率只有百分之四十七。而1938年200米灰靶（80公分×40公分）命中率为百分之八十七；特等射手250米命中率为百分之九十四。每班至少有三个特等射手。从这时开始，留守兵团创造了把技术和战术分开训练的方法。从战术方面，注意统一战术思想与战斗动作。各部队根据自己担负的任务进行训练，如河防部队演习河川攻防战，三边部队演习对骑兵的攻防战，游击战术、夜间战术的训练都逐步提到日程上来了。当时的重点是连以下的战术指挥与战术动作，主要演习科目是进攻中的指挥地形利用、队形选择等等。还研究学习对新兵器的防卫战术。1938年7月，在留守兵团的第二次兵团首长会议上，检阅了部队的训练成果，充分肯定了部队的成绩，提出了更高的要求。除了巩固提高现有的训练成果外，从战争的发展着眼，提出加强对各种特种兵器，像炮，轻、重机枪，自动步枪以及炮兵、通信、侦察、特工等特种兵的训练。战术上也加强了对敌特种兵的攻防训练。同时，分别对干部战士提出具体要求：要求一般战士在任何情况下，能灵活运用各种战术动作，老的战士能做班长的动作；现任班长能做排长的动作；现任排长能做连长的动作。干部教育以提高战术技术素养，提高教育、管理和指挥作战能力为主要目的，连排干部以提高对连排战斗的指挥能力，对新兵器、特种战术的教育能力，对部队管理教育的能力为主，学习抗日战争的战略战术。营团以上干部以学习研究游击战术、兵团战术和持久战的战略方针，提高组织指挥能力为主。这时，毛主席的《论持久战》和《抗日游击战争的战略问题》两篇军事著作发表，我们即作为干部必读的教材。在这两篇著作的指引下，部队的各种教育训练内容更加充实、深入和面向实际。