中共十一届三中全会以后，我国开始了令世人瞩目的经济体制改革，与此相适应，政治体制改革亦相继展开，其中有干部人事制度的改革，并取得了较大成绩。如在革命化、年轻化、知识化和专业化方针指导下，经几次调整，基本上实现了新老交替的正常化；改革干部任用办法，打破单一的委任制模式，实行了选任、考任、聘任等多种形式；改革培训制度，健全培训体系，提高于部队伍的素质等。
然而我国的干部人事制度方面仍存在许多问题与弊端，如管理权限过分集中；管理方式陈旧单一；管理制度不健全。用人缺乏法制等。为了适应政治、经济体制改革深入发展的需要，也为了克服干部中存在的官僚主义、腐败等现象，根据我国近十年来人事干部制度改革的状况，借鉴国外公务员制度的优点，我国政府决定从1989年起开始在局部试行公务员制度。早在1984年，中共中央组织部与原劳动人事部组织专家和人事干部共同起草《国家工作人员法》，后逐步发展成为《国家行政机关工作人员条例》。1987年，中共中央研究决定将《国家行政机关工作人员条例》修改定名为《国家公务员暂行条例》，并在当年召开的中共十三大上确定我国建立和推行国家公务员制度。全国七届人大一次会议也要求“抓紧建立和逐步实施公务员制度”，要尽快制订《国家公务员条例》。根据七届人大一次会议的决定，组建了人事部，承担公务员制度的推行和《条例》的修改任务。我国推行公务员制度的目的是：实现对原国家行政机关干部的分类管理，为坚持中国共产党的基本路线提供组织保证；纠正用人制度上的不正之风，加强廉政建设，提高公务员队伍的素质；促进政府机关管理的科学化、法制化。同时，对其他机关和企事业单位的人事制度的改革，也将起到积极推动作用。
根据人事部推行公务员制度领导小组的部署，1989年4月，人事部首先在监察部、审计署、统计局、环保局、建材局、税务局等国务院6个部门组织实施了公务员考试录用的试点工作。根据试点的外部环境和内部条件，明确提出了“既要按照公务员条件和考试录用暂行规定的要求试点，又要正确处理好新旧体制转换的关系，实事求是解决试点中出现的问题”的指导思想。为使试点工作顺利开展，人事部根据《国家公务员暂行条例》和《考试录用暂行规定》的要求，拟定了各个操作环节的实施方案，同时还制定了《报名与资格审查工作实施细则》等5个配套法规。在整个考试录用试点过程中，前往报名咨询者达2500人左右，其中1334人通过资格审查正式报名，最后共录用142人，占录用计划的149人的95.3%。通过这次考试录用试点，初步掌握了操作的重点环节，为后来国家机关推广考试录用制度打下了法规、组织基础，并提供了技术准备。1990年试点扩大到哈尔滨和深圳两市。1992年以后又在全国20个省市进行了试点工作。试点结果证明，国家公务员制度符合我国国情。它增强了机关工作人员的责任感和法制观念，促进了机关的廉政建设。各级政府机关的精神面貌有较大改观，工作效率亦有较大提高。公务员队伍的活力得到了增强，打破了职务能上不能下、人员能进不能出的局面，促进了人事管理走上法制化、科学化的轨道。
根据试点的结果和经验，1992年中共十四大报告明确提出要“尽快推行国家公务员制度”，全国人大八届一次会议决定，“在完成机构改革的地区和部门实行公务员制度”。从此，机构改革在我国全面展开。1993年4月24日，国务院第二次常务会议通过了《国家公务员暂行条例》，并于8月19日正式颁布，《条例》规定我国国家公务员制度自1993年10月1日起施行。此后，国务院于1993年11月又发布了《国家公务员制度实施方案》，1996年3月2日发布了《国家公务员职务升降暂行规定》等一系列实施细则及单项法规，逐步形成一套比较健全的法规体系，这样，我国公务员制度开始逐渐得以完善。