全国普遍推行农村家庭联产承包责任制以后，广大农民具有了相对独立的商品生产者的经济地位，因此必须以新的方式，按照经济发展的客观要求，对他们加强扶持和管理，在发展商品经济的新形势下，对农村中的各类经济组织的管理也需要采取相应的经济手段；同时，在建设文明的新农村，以促进经济发展的过程中，也必须加强政权部门的工作。但是，人民公社政社合一的体制不能适应这一新形势的需要。一方面，各级集体经济组织的手脚仍然为行政的隶属关系所束缚，缺乏作为商品生产者所应有的独立的经济地位，难以发挥它们及农民家庭的主动性和灵活性；另一方面，政社不分，也削弱了基层政权机构管理行政事务的能力，难以及时调解和处理各种问题，不利于创造适合经济发展和社会进步的客观环境。因此，要健全农村的各级集体经济组织，改善和加强农村基层政权工作，为农村商品经济的发展创造条件，就必须对人民公社政社合一的体制进行彻底改革。
政社分开，就是要改变1958年人民公社化以来的农村基层政权体制，把人民公社政权的那一部分职权分出去，建立乡人民政府，人民公社作为集体经济组织可以保留，也可以根据群众的意愿建立其他名称的集体经济组织。政社分开后，乡政府作为基层政权，首先要做好民政、公安、司法、文教卫生、计划生育等工作，同时要从行政方面管理经济建设，当然不能再象政社合一时期那样包办经济组织的生产、经营、财务等具体事务。乡政府在经济工作中的主要职能，应当是实行行政管理，根据乡人民代表大会决定的全乡经济建设和社会福利建设规划，督促或组织实施；向本乡的合作经济组织和农户下达上级人民政府下达的生产计划和交售任务，监督它们与有关方面签订合同；监督经济单位和个体户认真执行国家的政策、法令，在经济活动中坚持社会主义方向，履行经济合同，完成应负担的税收和征购派购的任务；取缔非法的经济活动，打击经济犯罪分子；进行必要的经济统计工作等。
农村人民公社的政社分设的改革的基本内容是：（1）一般在原有公社的管辖范围内设乡（镇）政府，代替人民公社行使农村基层政权的职能。原人民公社可以发展为乡一级的合作经济组织。（2）在基本上相当于原生产大队的范围内设村，成立农村基层群众性自治组织——村民委员会，负责办理本地区的公共事务和公益事业，调解民间纠纷，协助维护社会治安，并向人民政府反映群众的意见，要求和提出建议，同时支持和组织村民发展各种形式的合作经济组织，承担本村生产的服务和协调工作。原生产大队可以发展为村一级的合作经济组织。（3）以原有生产队或自然村为范围成立村民小组，协助村民委员会做好工作；除了人口或原集体资产较多的生产队以外，其余的生产队均予撤销，统一由村级合作经济组织或村民委员会负责生产经营和组织协调工作。
农村人民公社政社分开的改革，从1979年春，由四川省广汉县向阳公社率先进行，到全国范围内基本完成，共用了六年左右的时间，大体上经历了三个阶段：从1979年3月开始试点到1982年新宪法的颁布为第一阶段。在这一阶段中，全国共有9个省、直辖市的51个县、市辖区的213个公社开展了试点工作，其中有5个县全部建立了乡政府。第二阶段是从1982年12月新宪法颁布到1983年秋为止。1982年12月召开的五届人大五次会议通过了新的《中华人民共和国宪法》。《宪法》规定，农村人民公社要改变政社合一的体制，设立乡政权，把多年来由农村人民公社行使的行政职权转归乡政府，公社只是农村集体经济的一种组织形式。这样，农村人民公社政社分设的工作在全国各地比较广泛地开展起来。在这一阶段，各地主要是选择部分地区进行试点。全国有28个省、自治区和直辖市（除西藏外）在967个市、县、区的10693个公社开展了建立乡政权的工作，其中有313个市、县全部完成。
1983年10月12日，中共中央、国务院在总结各地试点经验的基础上，下发了《关于实行政社分开建立乡政府的通知》，在全国形成了全面开展农村人民公社政社分设工作的新阶段。
《通知》要求各地有领导、有步骤地搞好农村政社分开的改革，争取在1984年底以前大体上完成建立乡政府的工作，改变党不管党、政不管政和政企不分的状况。《通知》指出，当时的首要任务是政社分开，建立乡政府。同时按乡建立乡党委，并根据生产的需要和群众的意愿逐步建立经济组织。
《通知》规定，乡的规模一般以原有公社的管辖范围为基础，如原有公社范围过大的也可以适当划小。在建乡中，要重视集镇的建设，对具有一定条件的集镇，可以成立镇政府，以促进农村经济、文化事业的发展。乡的编制要力求精干，不得超过当日寸公社的人员编制，乡干部要逐步从农村优秀人才中选拔，要能上能下。当选就任职，落选就回到生产中去。当时的脱产干部，包括在集体经济组织中工作的，一切待遇不变，新选拔上来的经济上给以适当补贴。
《通知》在谈到经济体制改革时说，政社分开以后，经济体制的改革应继续按照中共中央1983年1号文件的精神进行。当时的社队企业要继续完善生产责任制，加强群众的民主管理，办成名副其实的合作经济企业。在改革中，要严防财产损失和个人损公肥私。农业技术推广、林业、畜牧兽医、农业机械、经营管理等基层事业单位，供销社和信用社，都应进一步地做好改革工作，扩大服务范围，提高服务质量，逐步形成一套技术、管理、流通、金融的服务体系，以利于农村多种经济形式和商品生产的发展。随着乡政府的建立，应当建立乡一级财政和相应的预决算制度，明确收入来源和开支范围。
《通知》在谈到村民委员会的建议时说，村民委员会是基层群众性自治组织，应按村民居住状况设立。村民委员会要积极办理本村的公共事务和公益事业，协助乡人民政府搞好本村的行政工作和生产建设工作。村民委员会主任、副主任和委员要由村民选举产生。有些以自然村为单位建立了农业合作社等经济组织的地方，当地群众愿意实行两个机构一套班子，兼行经济组织和村民委员会的职能，也可同意试行。
《通知》最后说，政社分开、建立乡人民政府是一件大事，各级党委必须加强领导，坚持群众路线，做好宣传工作和思想政治工作，先行试点，逐步展开，保证工作质量。凡是已经进行改革的地方，已定的规模和已设的机构应在实践中总结经验，逐步完善。
按照中央指示，到1984年底，全国已有99%以上的农村人民公社完成了政社分设工作，建立乡（镇）政府9.1万多个，同时成立了92.6万个村民委员会。
在全国农村普遍实现了政社分设以后，原来的公社、生产大队和生产队的三级集体经济组织已经不存在上下级的行政隶属关系，也不存在生产资料的占有由生产队向生产大队、再向公社逐级过渡的关系。这样，原有的政社合一、三级所有的人民公社也就不复存在了。