解放战争开始后，1947年3月初，国民党反动派集中20多万人的兵力，准备向陕甘宁边区发动疯狂进攻。党中央、毛泽东审时度势，迅速成立西北野战军兵团，张德生出任野战兵团政治部副主任。随着战势的发展，中共中央西北局决定设立榆林分区，张德生回到自己的家乡出任中共榆林地委书记。为了加强西北地区的民运工作，彭德怀指示西北野战军中共前敌委员会成立民运工作委员会，他自己担任民运工委书记，任命张德生担任第一副书记，全面主持民委工作。在整个解放战争时期，张德生转战大西北，在彭德怀直接领导下，协助彭总、习仲勋、甘泗淇等领导同志，为解放大西北作出了重要贡献。
1949年8月14日，第一野战军解放了定西，在19日召开的定西会议上，中共甘肃工委完成了历史使命，宣布中共甘肃省委正式成立，决定张德生任甘肃省委书记，张德生从此开始主政甘肃。
8月26日，兰州战役胜利结束，担任第一野战军政治部副主任的张德生，随第一野战军司令员兼政治委员彭德怀、副司令员张宗逊以及政治部主任甘泗淇进驻兰州。兰州市军事管制委员会随即成立，张德生担任军管会副主任，协助主任张宗逊开始了接管兰州的工作，顺利完成了对西北重要城市兰州的全面接管。
张德生担任甘肃省委书记后，又兼任甘肃军区政委、兰州市军管会副主任和西北军政委员会委员、甘肃省政府副主席，全面主持甘肃省的工作。在中共中央和中央西北局的领导下，张德生和甘肃省委带领各级党组织和各族人民进行剿匪肃特、建立政权、恢复国民经济以及土地改革、镇压反革命和抗美援朝运动。
解放之初，党中央组织开展“三反”、“五反”运动，省委根据中央指示，把这项运动迅速在全省展开。张德生在大会上带头检查省委机关官僚主义、铺张浪费方面的问题，讲明这场运动的意义和党的方针政策，宣布保障群众的民主权利，做到言者无罪，告者不究，压制民主者必办；对阻碍运动者不论职位高低，一律撤职。在张德生的精心组织和省委的统一领导下，甘肃省的“三反”、“五反”运动成效明显，打击了不法资本家的“五毒”行为，清除了党和国家干部中的腐化分子，挽救了犯错误的同志，教育了干部中的大多数，对于纯洁党的组织，改进干部工作作风起了很大作用。
张德生担任甘肃省书记以后，在恢复国民经济和发展生产方面，做了卓有成效的工作，把一个千疮百孔、百废待举的烂摊子，治理成为一个社会稳定，人民安居乐业，走向繁荣昌盛的新甘肃，奠定了一个可持续发展的良好基础。