张自忠的父亲叫张树桂，字冬荣，是山东省临清县人，家住在距县城30余里的唐园。有数百亩的田产，百余间房屋，是个殷实大户。
自忠的母亲姓冯，生下5个儿子，2个女儿。长子夭亡。按照张家的排名，“树”字辈下面，应是“自”字。故5个儿子的名字依次是：自清、自严、自忠、自明。
自忠生于1891年（清朝光绪十七年）8月11日（农历七月初七）。名字是父亲给起的。自忠是名，字是荩（kìn）臣，乳名宝勤。自忠的父亲是个读书人，给儿子起名字是经过仔细推敲的。“忠”字的意思容易理解，“荩臣”的含义是“忠诚之臣”，所以“名”和“字”的蕴义是一样的。
那么，后来人们为什么把张自忠的字称为“荩忱”呢？这是因为自忠成年后参加了冯玉祥的部队，冯思想进步，反对名字带有封建色彩，凡官兵的名字有君臣、福寿、荣华富贵的字，他都要加以更改，张自忠当然也不例外，——“荩臣”改成了“荩忱”。
1897年，张自忠6岁时开始入私塾上学。后来，父亲到江苏省赣榆县做官，把他也带去了，又就教于家庭老师。张自忠小的时候就不爱说话，但好动，贪玩儿，爱打抱不平。在他15岁的时候，有一天在街上，看见一个无赖欺侮一个卖菜的老头儿。他跑过去对准无赖就是一拳。随后两人扭打起来。自忠虽还是个孩子，但身高力大，无赖不是对手，只得认输，给老头儿赔了礼，自忠才放他走。父亲见他不好好学习，怕他外出闯祸，就把他送回老家。不久，父亲因急病死于任上，全家非常悲痛，自忠更为没有听父亲的话，没有好好孝敬父亲而难过。
张自忠少年时代就同情弱者，帮助弱者。有时他与伙伴们赌钱玩儿，要是赢了穷人家孩子的钱，他一文不要；若是赢了有钱人家子弟的钱，就一文不能少。那时在农村，馒头是上等食物，只有富裕家庭才吃得上。每当他看到佃户们吃糠窝头，就拿馒头和他们换。每当麦收时，母亲常让自忠到田里看看。他一到田里，就坐在麦捆上，啥也不管。佃户们知道他心眼好，就让孩子们捡麦穗。有的孩子竟从他坐着的麦捆里抽麦穗，他听任孩子们抽，直到被抽得坐不住了，就坐到另一捆上去。
张自忠16岁的时候，与临清县咨议局议员李化南的女儿李敏慧结了婚。她没读过书，但十分贤惠。
1908年，张自忠考入临清县高等小学堂（相当于现在的中学）。在这里学习的仍是以四书五经为主的“旧学”。所以，张自忠从小就接受孔孟之道及忠、孝、仁、义旧道德的灌输，其中既有积极意义，也有消极影响。他还经常阅读《三国演义》、《说唐》、《精忠说岳传》等古典小说，对关云长、岳飞和秦琼等的忠义品德、浩然正气，他非常敬仰，这对他后来所走的道路起了重要作用。
1910年，张自忠从高等小学堂毕业。这一年，他作了父亲，给儿子取名廉珍。这一年，张自忠19岁，进入青年时代了。