长城抗战后，第二十九军驻防察哈尔省，宋哲元任察省主席。张自忠的第三十八师驻宣化。
察哈尔省（现分属内蒙古和河北省）当时属华北，因境内有蒙古族察哈尔部而得名。省会张家口市，又称张垣，扼长城要塞，为塞北重镇。察哈尔省地处华北西北部，与热河省毗邻，是西取晋绥、南下平津的战略要地，成为日本侵略者攻击的下一个目标。
1935年1月18日，日军在察东无理挑衅，挑起事端，制造扩大侵略的借口。张自忠命所部坚守我阵地，并亲临前线督战。由于国民政府的软弱退让，使日军达到了“用侧击旁敲办法，逐步前进”的目的。是年夏，日军再次接连制造事端，强迫中国政府签订了屈辱的《何梅协定》，致使国民党的中央军、张学良的东北军及国民党的党务、特务机关从河北省、察哈尔省和北平、天津两市撤出。这样，日本就攫取了冀、察两省大部分领土的主权。
紧接着，日本又搞了“华北五省自治运动”，妄图在华北建立亲日的傀儡政权。恰在此时，宋哲元利用汉奸、土匪在天津、北平发动武装暴乱，命第二十九军一部进入北平。在中央军、东北军被日军驱逐出华北的情况下，蒋介石只得承认这个既成事实，任命宋哲元为平津卫戍司令。这样，第二十九军不仅可驻军于冀察两省，而且控制了平津两市，宋哲元则成为华北第一号实力人物。
宋哲元为了在华北站住脚，谋求第二十九军的生存和发展，想利用日、蒋之间的矛盾；而南京政府感到在华北形势日趋紧张、复杂的时候，需要宋哲元从中缓冲，出面与日周旋；日本为了肢解华北，则把第二十九军作为拉拢的对象。在这种错综复杂的形势下，1935年12月8日成立了冀察政务委员会，宋哲元任委员长，下辖冀察两省和平津两市。
北平学生为了反对华北“自治”，反对成立变相自治的冀察政务委员会，发动了“一二·九”学生爱国运动，得到全国人民的积极响应，掀起了轰轰烈烈的爱国救亡运动。
宋哲元主持冀察政务委员会，矛盾重重，处境复杂，左右为难。他既想保持第二十九军的抗日荣誉，不甘心当日军的傀儡，又畏惧日本的强大，不敢公开与之对抗；他既表示拥护中央，不脱离与南京的隶属关系，又想在华北实行有限自治，以使第二十九军的实力得到保存和发展。从后来的事实看，宋哲元的爱国立场和民族气节没有改变。随着时间的推移，他的苦衷逐渐为国人所理解。
政务委员会成立不久，张自忠被任命为察哈尔省政府主席，兼察省保安司令，第三十八师移驻张家口市。
张自忠主察前夕，日本利用伪蒙保安队占领了察北六县，气焰嚣张。张上任后，极为愤怒，欲发兵击败敌寇，收复失地。宋哲元考虑到，政务委员会成立不久，第二十九军在华北立足未稳，不愿与日军发生冲突。张为此情绪低沉，非常苦恼。他对友人说：“日本指使伪蒙军，强占沽源等县，这明明是日军进行侵略，无理欺压。不打吧，我有守土之责；打吧，宋委员长又不准。军人又必须服从命令，硬打又属犯上。只有自杀，才是出路。”
日本占领察北6县后，又要攻占张家口北边的大镜门一带。大镜门乃长城要塞，张家口的大门，如被日军占领，张家口将受到严重威胁。张自忠一面进行兵力部署，一面派人与日本交涉。张对派去的人说：日伪军只能驻张北县以北，我军驻张北县与张家口之间的缓冲地带。如他们继续往南开，发生误会，完全由他们负责。由于我方态度强硬，兵力上又作了部署，日军未敢轻举妄动。
张自忠主察期间，对日军的无理挑衅，蓄意制造事端，也想进行反击，维护民族尊严，但这不是他所能决定的。在当时形势下，他只能谨慎地同日本人周旋，对敌伪方面的人员曲意应酬，甚至作出“友好”、“亲善”的姿态。张自忠知道，同日伪的消极应付，只能是权宜之计，将来全国抗战爆发，仍需要武力解决。为此，他除了积极做好正面宣传，鼓舞人民信心，努力改进军事交通，为将来的抗日战争作准备外，重点是抓紧部队建设，为抗战积蓄力量。张自忠以很大的精力抓部队的整备、训练。第三十八师成立了教导大队，培训中、初级军官。到1936年初，第三十八师下辖4个旅，总兵力达1. 6万人，武器装备也有很大改善。
张自忠任察哈尔省主席不到8个月，1936年6月调任天津市长。