1945年8月，全国人民迎来了抗日战争的最后胜利。冀鲁豫边区的人民经过不屈不挠的浴血奋战，赶走了日本侵略者，赢得了和平，广大群众欢欣雀跃，庆祝胜利。
这时，中国革命正处在历史转折的重要关头。为适应新的形势，党中央决定，冀鲁豫划归刚成立的晋冀鲁豫中央局领导。11月，张玺任冀鲁豫边区党委书记兼军区政治委员。
张玺接任冀鲁豫边区党委书记后，带领全区军民开展扩大解放区的攻势作战，组织指导地方武装和民兵，对蒋介石发动内战抢占我解放区，给予坚决还击，将边区扩充为拥有1400多万人口的革命根据地，对国民党反动派的军事挑衅给予了沉重打击。
1946年6月，国民党挑起全面内战。蒋介石以14个师、30余万人的兵力，压向冀鲁豫所属黄河南岸地区，国民党地方武装、特务和还乡团随后跟进，我黄河南岸地区形势严峻。张玺召集区党委会议研究决定，由他亲自率领独立旅插入黄河南岸敌占区，机动灵活地袭击、歼灭敌人。经过9个月的斗争，控制了黄河南岸被敌人占领的70%以上的农村地区，为刘伯承、邓小平所率野战军展开战略反攻创造了条件。
1947年6月30日，张玺随刘邓大军强渡黄河，动员全区军民全力支援和配合了鲁西南战役的胜利进行。同时，输送大批干部随刘邓大军挺进大别山，开辟江淮河汉新解放区。邓小平还风趣地赞扬说，冀鲁豫是个好战场，到处都有翻身农民的支援，走到哪里都有饭吃。
1948年4月，根据晋冀鲁豫中央局的命令，张玺带领冀鲁豫边区一批干部，进入豫陕鄂解放区，其中心任务是巩固新政权、建设新政权。张玺到达豫西之时，正值我中原野战军主力部队与国民党反动派以鼎足之势逐鹿中原。在此之前的1947年11月，以晋冀鲁豫野战军第4、第9纵队和38军组成的陈谢兵团以摧枯拉朽之势、雷霆万钧之力，挥师豫西，23日解放了鲁山县城，建立了新政权。至12月底，解放了平汉铁路以西、丹江以北、潼关以东的广大地区，开辟创建了豫陕鄂解放区，成立了豫陕鄂军区和豫鄂陕行政公署。
随着解放战争的胜利发展，新解放区迅猛扩大，地跨豫陕鄂8省的边区建制已不能适应当时形势的要求。1948年5月，豫陕鄂边区按照中共中央指示划分为“豫西”、“陕南”两个行政区。
6月1日，中共豫西区委员会成立，张玺任区党委书记，豫西区行政公署也在鲁山县城成立。6月7日，中原军区司令员刘伯承在会上宣布成立豫西军区，张玺兼任豫西军区政治委员，随之，他领导开展了豫西的剿匪反霸斗争和减租减息工作。
当时解放鲁山的野战军主力部队已经撤走，豫西形势比较混乱，反动势力重新抬头，主要是土匪、国民党余孽和地富反坏分子，看到我军主力部队走了，想继续搞破坏，阻挠我新政权的建设，其中土匪的势力最大，活动很猖狂，据称豫西有土匪5万多名。另一方面，由于豫西是新解放区，老百姓对共产党干部有误解，认为共产党在这里干不了多长时间，有苦不敢讲，有话不敢说，并且他们还受国民党反动宣传的误导，说共产党是青面獠牙，杀人放火，对共产党持不信任、不欢迎态度。
张玺主政豫西区委工作后，虽然新政权已经建立，但豫西的斗争形势依然严峻，他认为当前最主要的工作就是剿匪反霸。为了摸清情况，进行调查研究，张玺要求豫西区委人员，每人包片，逐村逐户逐人进行谈话，了解情况，以便进一步发动群众打土匪，进行土地改革。但当时的老百姓根本不敢讲真话，有时为了做通一个人的工作，要找上家门反复做思想工作，讲共产党的政策，讲建设新政权的道理。通过张玺等人耐心真诚的工作，慢慢地取得了群众的信任，真正摸清了当时农村的经济、政治、社会情况。
接着，张玺率部开展剿匪反霸斗争，决不手软。为了争取人民群众，他采取了鼓励多数，打击少数的方法，坚持“首恶必办、胁从不问、立功受奖”的原则，依靠人民群众的力量与土匪和反共分子进行了艰苦的斗争。在豫西军区武装力量的基础上，通过省军区警备2旅的援助，一个山头一个山头地围剿，把土匪的嚣张气焰彻底镇压下去。在剿匪斗争取得胜利的基础上，豫西地区才真正开始土地改革，给农民分田地，分房屋，分生产生活资料，老百姓真正过上了安稳日子。
张玺主政豫西这段时间，伟大的解放战争正处于全面战略进攻的关键时期，他带领豫西解放区人民先后掀起了支援子弟兵强渡黄河挺进中原、支援淮海战役和渡江作战等多次支前高潮，广大青年踊跃参军参战，地方武装不断整编升级，使革命战争得到了源源不断的人力、物力支援。在短短一年多的时间里，张玺对豫西区党的组织建设、政权建设以及地方武装的建设与发展作出了重大贡献，为豫西人民的革命斗争史谱写了光彩夺目的篇章。
1949年2月13日，中共豫西区首次代表会议在鲁山县城举行，会议制定了“放手发动群众，系统地进行社会改革”的工作方针。在会议闭幕时张玺郑重宣布：豫西区党委奉命撤销，成立河南省委；区党委机关干部为河南省委的基础，原班不动，坚守岗位，20日以后迁往开封。豫西区首次党代会的召开，以及撤销区党委，成立河南省委，标志着中原大地进入了一个崭新的时代。