甘肃是个多民族省份，历史上由于反动统治者制造各民族间的隔阂，特别是少数民族同汉族之间的隔阂，在甘肃人民中影响较深，因而民族关系相当复杂。刚刚解放时毛泽东曾说“西北地区少了一个工业，多了一个民族问题”，指的就是甘肃省。
解放前，党在甘肃坚持民族团结平等，培养和发展了一些少数民族党员，争取和团结了一些少数民族爱国民主人士。解放后，党中央和西北局根据甘肃实际，任命邓宝珊（甘肃汉族）为省人民政府主席，马鸿宾（甘肃回族）为省人民政府副主席，黄正清（甘肃藏族）为西北行政委员会副主席。这种人事安排充分注意和照顾到了甘肃的民族性、地方性特点，对张德生的教育和启发很大。张德生破除一些思想顾虑，促使省委及时安排了杨复兴（甘肃藏族）、马震五、马辅臣（甘肃回族）、蒋云台、周祥初、杨子恒（汉族）等各方面代表人士为省人民政府和军队的部门负责人。这样，对于各级人民民主统一战线政权的建立、巩固和发展，起到了良好的促进作用。
张德生针对甘肃实际情况，多次召开关于执行党的民族政策专题会议。在每次会议上他都着重强调，进行少数民族工作，必须坚持中央制定的慎重稳进方针，反对轻率急躁情绪；坚持民族平等团结政策，反对大汉族主义和地方民族主义；要求在干部和群众中大力进行党的民族政策、统战政策教育，有关党的民族政策文件，“每个干部都要细心研读，充分了解，熟读背过，融会贯通。”
张德生说，有关民族问题，事无大小，必须事前请示，事后汇报。针对各项民主改革中出现的新情况新问题，他提出了一些促进民族团结的政策和措施。在反霸斗争中，他根据甘肃民族宗教关系复杂的特点和已经掌握的调查材料，提出一批需要保护的少数民族头面人物和宗教上层人士名单，分化瓦解了少数顽固分子，使反霸斗争得以顺利进行。在土地改革中，他针对不同地区的具体情况，提出在少数民族农业区保留道堂、清真寺、喇嘛庙土地的政策，在少数民族牧区实行保护和发展畜牧业和牧主经济的和平改革政策，得到各族人民的拥护。张德生要求参加土改工作的干部，严格尊重少数民族风俗习惯和宗教信仰，使土改在完全有利于民族团结的前提下进行。
在担任省委书记的几年间，张德生在甘肃贯彻党的民族宗教政策，全力巩固各民族之间的和睦团结。面对阶级矛盾和民族矛盾错综复杂的情况，他提出慎重稳进的方针，把原则坚定性同政策灵活性结合起来，一方面放手发动广大群众，另一方面注意团结各民族上层人士，在执行党的民族政策，处理少数民族上层叛乱问题上，工作都很出色，受到了广大群众和中共中央、西北局的好评，使各民族间呈现出团结、互助、友爱、合作的新景象。