军官学校的宗旨是，培养一批具有多种优秀品质，能够担任各级基层工作的指挥员。张自忠深知，要达到这个目标，学员们必须具有坚强的意志，健壮的体魄，娴熟的技术和必胜的信心，而这些都有赖于平时的刻苦训练。为此，张提出：通过训练，每个学员都要做到冬不衣裘、夏不挥扇，能忍三日之饥渴。训练的具体做法是：“冬练三九，夏练三伏，夜练黑漆头。”
天寒地冻、滴水成冰的三九天，早上5点半开始朝会和晨操。为了给学员示范，张自忠经常把第二十八师的官兵拉来与学员一起操练。在严寒的清晨，士兵们光着膀子练刺枪、劈刀和拳术，杀声震天，威风凛凛，学员们看得目瞪口呆，赞不绝口。强行军是严冬季节经常训练的项目。张自忠和学员们一样，全副武装，不戴手套，不穿鞋袜，将棉裤卷到膝盖以上，往返行军30里，一路上留下了斑斑血迹。行军结束张自忠讲评时，他的脚还在滴血。
夏日三伏天是练兵旺季，除上下午8个小时的课程外，还有早晚两次出操各2小时。要求内穿白裤褂，外穿军衣，扎皮带，衣帽整齐。在酷暑中强行军比冬天更艰苦。强行军都安排在中午11时至下午2时最热的时候，每人负重三四十斤，不准穿鞋，头顶烈日，脚踏热土，路上的蒺藜扎得双脚流血。张自忠不骑马，不殿后，而是走在队伍的最前面。行军结束时，很多学员，包括张自忠，脚板已血肉模糊了。
张自忠特别注重夜间练兵。常在没有月光的黑夜，吹响紧急集合号，不准点灯，在15分钟内，起床着装，束皮带，背水壶和干粮袋，枪上刺刀，到操场集合。夜间训练的项目有：水平射击、对抗演习、挖掘散兵壕、夜行军、利用星辰识别方向等。
张自忠十分注意雨中练兵。常在倾盆大雨中，进行攻防战斗演习，锻炼雨中指挥、射击、行进和识别方位的能力。
张自忠还狠抓刺枪、劈刀及拳术训练，这些是体力与技能的结合。在武器装备不良的情况下，体力与技能对于发扬近战之长，弥补武器的劣势，最终战胜敌人具有重要意义。西北军各部队都特别重视这方面的训练，并取得显著成效，在后来抗击日本侵略者的战斗中发挥了很大作用。
以上都属于“术科”训练。此外，还有对学员进行精神、思想和军事理论教育的“学科”训练。
冯玉祥治军特别重视精神、思想教育，曾亲自主持制定《爱民十事》、《爱国精神三十条》等爱国爱民条规。冯还曾下令全军官兵左臂缀以臂章，上书“不扰民，真爱民，誓死救国”。这10个字概括了冯玉祥爱国爱民的政治理想。
张自忠发扬冯玉祥的治军传统，用精神教育培养、激发官兵为国家为人民而战的勇气，提高官兵遵纪守法的自觉性。当然，由于历史条件的限制，冯玉祥、张自忠的精神、思想教育也有很大局限性。
因为当时士兵和学员文化程度不高，进行爱国爱民教育都采用十分通俗的形式，官兵“对话”就是其中的一种。“朝会”时，张自忠登上指挥台，高声问士兵和学员：“你们的父母是什么人？”答：“老百姓！”问：“你们的兄弟姐妹是什么人？”答：“老百姓！”问：“你们参军前、入学前是什么人？”答：“老百姓！”问：“那我们应不应该保护老百姓？”答：“应该！”
为了对官兵进行思想教育，爱国爱民，铭记国耻，张自忠还请人创作了《爱民歌》、《国耻歌》教士兵、学员传唱。还绘制了“国耻地图”，将被列强瓜分的中国领土，都在图上用红色标明，并注明侵略者，侵略时间和侵略方式。要求每个人熟读熟记，随身携带以备查阅。
张自忠还让士兵、学员在自己的床头贴一个类似座右铭、志愿书的条幅，写上几条，如爱国、勤学、杀敌、立功等，每天以此对照自己的言行，以求上进。
军官学校的纪律非常严格，烟、酒、嫖、赌绝对禁止，学员一律剃光头，违者必罚。有一次正在上课，张自忠突然临时检查，在一个学员的口袋里搜出一个烟屁股，张令他吞下去。那个学员只得硬着头皮，龇牙嘴，把烟头嚼碎，死命咽了下去。
军官学校和第二十八师规定：学员和士兵有事请假外出，必须准时归队销假，逾期不归又无正当理由者，罚。外出服装不整，走路吃东西，两人以上不排队行走，路遇友军不主动敬礼，都要罚“禁足”，甚至关“禁闭”。在外酗酒、违章犯法，轻者罚跪，重者棍责，决不宽贷。
张自忠对第二十八师和军官学校军官的约束也很严厉。一位团长的父亲因土地问题与人发生诉讼，几年未得解决。这个团长要请假回乡解决家中土地纠纷。张自忠说：“军官不能打官司，可以请求解职，以平民的身分诉讼，官司了结后，回队另行任用。”有一次阅兵，某旅号长未按规定穿黑色袜子，张自忠气愤地说：“在这样的场合，你怎敢违犯军纪？”这个号长被军法处拘押多日，该旅旅长被罚立正两小时。
张自忠最痛恨军官贪污、“喝兵血”。他规定，各部出现战死、病亡和逃兵，必须于24小时内报告师部，不报或冒名顶替者，主官一律撤职。张自忠发现某营营长帐目不清，侵吞士兵存款，极为震怒，立即集合全师干部训话，厉声斥责那个营长：“你这种恶劣的行为，是军中的败类，团体的蟊贼，害群之马！”命令打200军棍，撤职镣押。
张自忠投入冯玉祥的麾下后，很长时期从事军事教育，当过学兵连长、学兵团长、军官学校校长，为此，他付出了极大精力，也结出了丰硕果实，培养造就了数以千计的训练有素、能打硬仗的中、初级军官和一批高级将领。他任学兵连连长时的126名学兵中，就出现5个军长、5个师长、8个旅长，团长、营长就更多了。这些人遍布西北军各部，成为全军的中坚力量，绝大多数在抗日战争中为国家、为民族作出了重要贡献。