1983年第八次全国民政会议前后，民政部门开始酝酿城市社会福利工作的改革，提出了国家和社会力量相结合，采取多种形式办社会福利事业的新思路。在1984年召开的漳州会议上，进一步明确了“社会福利社会办”的指导思想。并进而提出，要使社会福利事业从单一的、封闭的国家包办的体制转变为国家、集体、个人一起办的体制；要面向社会，多渠道、多层次、多种形式的发展社会福利事业。从1985年开始，民政部从民政工作社会化、社会福利社会化的角度大量倡导社会服务工作。民政部总结推广了上海市民政部门创造的市、区、街道、居委会“四个层次一条龙”的福利服务网络化经验。这里的“四个层次”，是指市、区、街道、居委会；“一条龙”是指四个层次的纵向关系，所形成的服务设施是每个街道有一厂（福利工厂）、两站（孤老服务站、精神病医疗站）、两所（托老所、伤残儿童寄托所）、两组（孤老保护组、精神病人看护组）。上海经验的推广，使城市社会福利事业开始走向社会，深入基层。这些都为社区服务的兴起提供了直接的思想基础和实践经验。为和城市经济体制改革相协调，1986年，民政部和国务院有关部委在江苏沙洲县召开了“全国农村基层社会保障工作座谈会”。就在这次会议上，国家首次提出了倡导社区服务的理念。时任民政部长的崔乃夫在会上提出了开展社区服务的任务，确定在我国城市民政工作的重点是社会福利企业及社区服务。这也标志着社区概念被政府部门采用。
此后，社区服务在我国城市迅速发展起来，随着改革的深化，其他社区工作如社区文化、社区治安、社区卫生等也迅速展开，全国各地都在进行社区服务理论探讨和试点实践。1987年9月，民政部在武汉召开了部分城市社区服务座谈会，明确了社区服务的内容和任务，以及社区服务和民政部门的关系，总结、交流了武汉、上海、北京、天津、常州等近20个大、中、小城市开展社区服务的经验。这次会议的召开是我国城市社区服务产生、兴起的主要标志。这也是我国改革开放后首次将“社区”这一概念引入城市管理。自此，各地开始在理论指导下有目的、有计划、有步骤地进行工作试点。1989年3月，天津市和平区新兴街道在我国内地最先开始社区志愿者服务活动，首创了志愿者协会。
1989年10月，全国首次城市街道工作理论研讨会在北京举行。会议着重讨论了城市街道政权建设、经济工作和社区服务三个问题。
1989年12月26日，第七届全国人民代表大会常务委员会第十一次会议通过了《中华人民共和国城市居民委员会组织法》，《组织法》明确规定：“居民委员会应当开展便民利民的社区服务活动”。这是国家第一次将“社区服务”概念以法律条文的形式固定下来。
随着改革的深化和社区服务工作的发展，其他的社区工作也迅速展开，社区服务的概念已经包容不了全方位的社区工作。新的矛盾出现，促使解决问题的新方法的出现。我国城市基层管理体制也因此开始了由单位主导型向街居社区主导型的转变，其标志就是城市社区建设。
民政部从改变政府传统的思维方式和管理模式出发，在社区服务深化发展的基础上，借鉴国外先进经验，在1991年5月提出基层组织要抓好“社区建设”的新思路。指出社区工作除了社区服务外，还有社区文化、社区医疗、社区康复、社区教育等内容，首次提出了社区建设的理念和任务。
社区建设的思路提出之后，1991年7月民政部专门下发了《关于听取对“社区建设”思路的意见的通知》，征求各地对开展社区建设的意见和建议并随之确立天津市河北区、杭州市下城区为全国社区建设试点单位，开展社区建设工作实验。目的是以社区建设为切入点，加强社区全方位的建设，增强城市基层组织的凝聚力和战斗力。通知发出以后，很快在基层、在社会科学界和各相关行政业务部门引起了反响。1991年至1992年，先后召开了三次全国性社区建设理论研讨会。
1992年，可以说是中国社区建设的第一个实践年，也是第一个丰收年。是年6月，民政部基层政权建设司在天津市河北区召开第一个“社区建设理论研讨会”。这是社区建设工作的第一次亮相。6月16日，中共中央、国务院作出《关于加快发展第三产业的决定》，首次将“社区服务”纳入社会化服务体系。10月，中国基层政权建设研究会在杭州专门召开了“全国城市社区建设理论研讨会”。这次会议除了对社区建设的可能性和必要性，内涵和外延，目标、原则、方法等基本形成共识外，最大的收获，就是回答了“社区建设管理体制”的构建问题。
1993年5月，著名社会活动家、时任全国人大副委员长的雷洁琼专程前往杭州市下城区进行考察。雷洁琼副委员长的考察，无疑对社区建设工作起到了积极的推动作用。8月，中央和国务院14个部委联合下发了《关于加快社区服务的意见》。提出要适应社会主义市场经济的需要，加快建立健全社会保障体系和社会化服务体系，以及推动社区服务业全面、快速地发展的目标、任务和措施。这表明党中央、国务院已经把社区服务提上重要的议事日程，社区服务已不仅仅是民政部门的事，同时也表明我国已经将社区服务看作是一个行业或一个产业。
这一年，全国有17个省、自治区、直辖市在42个城市的56个街道进行了试点，同年，在国务院机构改革中，民政部在其机构编制上设立了城市社区建设工作岗，在这个岗位上，对调查中国社区的现状，开展中国社区建设的必要性与可行性，制定中国社区建设工作都提出了明确的、具体的要求。这一岗位的设置说明政府将城市社区建设认定为自己的工作职责。年底，民政部在开展这项工作最好的上海市普陀区曹杨新村街道召开了全国社区建设经验交流会。与此同时，浙江省杭州市下城区又和浙江省社会科学院联袂撰写出第一本中国社区建设教科书——《社区建设概论》。
1995年十四届五中全会后政府对城市基层政权和基层组织建设工作给予了更多的关注。12月，民政部制定了《全国社区服务示范城区标准》。该标准规定，社区服务示范城区是指在城市社区服务工作中成绩优异，社会效益、经济效益显著，对全国社区服务发展具有典型示范作用的城区。随之在全国列出一系列示范城区，推动了全国社区服务的不断进展。这样，从开展社区服务和社区建设入手，中国城市基层管理进入了一个大力推进制度创新、体制转型和机制变革的历史时期，而社区制则普遍被认为是城市管理体制发展变革的方向。
在对城市管理体制进行改革中行动最快的是上海。
1995年5月，上海市在10个街道开始进行“两级政府、三级管理”的试点工作，市委、市政府确立了“两级政府、三级管理”的城市管理体制改革的总体思路。1996年3月，上海城区工作会议召开，宣布上海在2000年要完成的社区建设的管理目标：初步形成安定安全的社会治安秩序，便民利民的社区服务网络、团结和谐的社区人际关系，健康向上的社区文化氛围，为建设现代化社区奠定基础。为了尽快地实现这一目标，上海市组织了由市委及市政府相关部门负责人和学术界的专家学者组成的专题调研组。调研组在市委副书记的带领下，深入到区、街、镇、居委会进行了三个多月的调查研究，对城市基层工作和基层组织建设的现状，在新形势下基层政权建设面临的机遇和挑战，建立新型的城市基层管理体制的必要性和可能性等问题做了比较全面的了解。随后，在统一思想、形成共识的基础上上海市委、市政府联合下发了《关于进一步完善“两级政府、三级管理”体制的政策意见》和《关于加强街道、居委会建设和社区管理的若干政策意见》，提出了新时期上海社区建设、社区管理的指导思想和奋斗目标，提出了在上海建立“两级政府、三级管理、四级网络”的管理体制，加强社区建设，为城市经济体制改革创造良好的社会环境。1996年后的两三年间，上海市出台了十多个法规条例和政策文件，着力理顺市与区、区与街道的管理职能，逐步建立和完善社区管理体制。1998年，上海市又研究制定并组织实施了以物业管理改革为重点，以增加“条”的服务职能为目标的五项政策措施，进一步形成了条块结合做好社区工作的整体合力。
在上海城市社区改革走向深入的同时，全国其他地方也都在积极的探索之中，其中影响比较大的是河北石家庄市的改革。石家庄的改革亮点在于实行了向街道办事处居委会放权，提出“二级政府、三级管理、四级落实”的新的街、居管理模式，从而全面增强了社区的功能，促进了社区经济和社会事业全面发展。此外，石家庄市还提出了“社区经济、社区服务、社区管理、社区卫生环境、社区文化、社区治安”六个概念。石家庄的经验在全国产生了积极的反响。
1996年10月，民政部基层政权建设司和中国城区发展促进会在北京又召开了全国社区建设理论研讨会，在会上，民政部向新闻界发布了对中国微型社区抽样调查的情况分析报告。几乎是同时，中国共产党十四届六中全会通过了《中共中央关于加强社会主义精神文明建设若干重要问题的决议》，决议提出了在我国的精神文明建设过程中“建设社区文化”的要求。
1998年国务院机构改革“三定”方案，中共中央、国务院根据经济、社会发展形势的需要，首次将社区建设作为一项政府职能提出，明确赋予了民政部“指导社区服务的管理，推动社区建设”的职能，经国务院批准民政部在原基层政权建设司的基础上建立基层政权和社区建设司。
基层政权和社区建设司的设立标志着政府已经更加清楚地意识到社区建设在经济与社会发展中的地位和作用，从而将其视为国家机构的一个组成部分，纳入了国家行政职能的范畴，同时，基层政权和社区建设司的设立也标志着我国的社区工作成为了国家政策的组成部分，是受到法律保护的国家行政部门，也因此更具权威性和严肃性。基层政权和社区建设司的设立使国家在进行社区建设时不仅有了推进这项职能的载体，而且从上到下建立了体系，有了使这项工作得以落实的组织保证。