曾任中国国务院新闻办公室主任的赵启正在与未来学家约翰·奈斯比特、多丽丝·奈斯比特夫妇进行对话时，被问及一个问题：表述中国的社会制度能不能像表述西方社会制度那样的简明？赵启正承认表述中国的社会制度的确需要用较多的语句，但随着中国经济社会发展到中国的事情为全球熟悉时，就有可能用较简明的语言去描述了。的确如此，要理解体现一切权力属于人民的中国的根本政治制度——人民代表大会制度，最基本、最可靠的方式是追溯此制度源流的演变。
众所周知，中国共产党的成立与革命深受列宁及其领导的俄国十月革命影响，苏俄在革命中创立的苏维埃政权制度也给中共以重大影响。1905年俄国革命时出现过一种由罢工工人作为罢工委员会组织起来的代表会议，被简称为“苏维埃”。由于它具有工人起义机关和工人自治政府的双重性质，很适合于共产党人用来领导工人对政府的斗争，并在革命胜利后用它作为政府最高权力机关的代名词，以便于贯彻阶级专政的意图。
在中国共产党成立过程中，“苏维埃”一词也逐渐被接受。1920年8、9月，在法国勤工俭学的蔡和森在给毛泽东的两封信中，明确指出，苏维埃是“无产阶级革命后的政治组织”，阶级斗争“就是把中产阶级那架机器打破（国会政府），而建设无产阶级那架机器——苏维埃”。
1921年7月中国共产党成立并通过的第一个党纲中，明确提出“本党承认苏维埃管理制度，把工农劳动者和士兵组织起来”。
1927年国共第一次合作分裂后，以毛泽东领导的秋收起义、转战进军井冈山为标志，中国革命开创了一条与苏俄革命道路不同的由农村包围城市、武装夺取政权的道路。到1930年6月，中共先后建立了十多个根据地，分布于江西、湖南、福建等省。在这些地方先后建立的乡、区、县的苏维埃政权，受到广大工农群众的拥护。
由于当时的中国共产党人普遍不懂俄文，无法真正理解“苏维埃”的含义，以至于长期使用“苏维埃代表大会”、“苏维埃工农共和国”、“苏维埃人民共和国”、“苏维埃主义”、“苏维埃主义者”等名词。
1931年11月，中华苏维埃第一次全国代表大会在江西瑞金召开。大会通过了《中华苏维埃共和国宪法大纲》，明确规定：“中国苏维埃政权所建立的是工人和农民的民主专政的国家。苏维埃全政权是属于工人，农民，红军兵士及一切劳苦民众的。在苏维埃政权下，所有工人，农民，红军兵士及一切劳苦民众都有权选派代表掌握政权的管理。”“中华苏维埃共和国之最高政权为全国工农兵会议（苏维埃）的大会”。大会宣告中华苏维埃共和国成立并选举毛泽东为主席。1934年1月中华苏维埃召开了第二次全国代表大会，但由于第五次反“围剿”的失败，中央苏区和南方其他苏区相继丧失，红军被迫进行长征。后来，红军到达陕北后，陕甘宁边区便成为中华苏维埃共和国的中心区域。
为了适应抗日的需要，中国共产党继续对政权组织形式进行探索，吸纳开明士绅、民族资产阶级等阶层，建立了“三三制”抗日民主政权，并在边区实行参议会制度。参议会不仅仅是一个民意机关、咨询机关、议政机关，而且是边区最高的立法机关、权力机关、监督机关。徐特立指出：“历史上的议会只是一个言论机关……我们的参议会由人民选举，还由人民撤换，参议会成为真正人民的代表。”在总结这一时期政权建设经验的基础上，中共提出了建立人民代表大会制度的初步构想。
1940年1月，毛泽东在《新民主主义论》中指出，所谓“政体”问题，“中国现在可以采取全国人民代表大会、省人民代表大会、县人民代表大会、区人民代表大会直到乡人民代表大会的系统，并由各级代表大会选举政府”。1945年4月毛泽东在《论联合政府》一文中再次确认：“新民主主义的政权组织，应该采取民主集中制，由各级人民代表大会决定大政方针，选举政府。它是民主的，又是集中的，就是说，在民主基础上的集中，在集中指导下的民主。只有这个制度，才既能表现广泛的民主，使各级人民代表大会有更高度的权力；又能集中处理国事，使各级政府能集中地处理被各级人民代表大会所委托的一切事务，并保障人民的一切必要的民主活动。”经过讨论斟酌，1945年9月边区参议会和政府决定先将乡参议会改为乡人民代表会议。
随着解放战争的顺利进行，为了迎接新政权的诞生，1948年1月，毛泽东指出：“现在时期……就应召集县的、市的、省的或边区的人民代表大会，选举各级政府。在将来，革命在全国胜利之后，中央和地方各级政府，都应当由各级人民代表大会选举。”1948年9月，毛泽东专门阐述了建立人民代表大会制度问题，并批评了过去照抄照搬苏联的做法，他说：“我们政权的制度是采取议会制呢，还是采取民主集中制？过去我们叫苏维埃代表大会制度，苏维埃就是代表会议，我们又叫‘苏维埃’，又叫‘代表大会’，‘苏维埃代表大会’就成了‘代表大会代表大会’。这是死搬外国名词。现在我们就用‘人民代表会议’这一名词。我们采用民主集中制，而不采用资产阶级议会制。议会制，袁世凯、曹锟都搞过，已经臭了。在中国采取民主集中制是很合适的。
我们提出开人民代表大会，孙中山遗嘱还写着要开国民会议，国民党天天念遗嘱，他们是不能反对的。外国资产阶级也不能反对，蒋介石开过两次‘国大’他们也没有反对。……我看我们可以这样决定，不必搞资产阶级的议会制和三权鼎立等。”1949年3月，毛泽东在中共七届二中全会作总结时，再次把人民代表会议制与资产阶级议会制进行对比，指出资产阶级议会制不适合中国国情。
人民代表大会制的核心内容是召开人民代表大会来成立政府，最初中共设计建国程序也是以此为路径选择的。1948年4月30日，中共中央发布纪念“五一”劳动节口号中即提出：“各民主党派、各人民团体、各社会贤达迅速召开政治协商会议，讨论并实现召集人民代表大会，成立民主联合政府。”但在与国民党进行内战的情况下，召开经过全面普选的人民代表大会无法实施，鉴于此，中共中央和各民主党派不约而同地想到：可不需经人民代表大会而直接经由政治协商会议产生临时中央政府。因此，1949年6月15日，毛泽东在新政协筹备会上正式宣布：迅速召开新的政治协商会议，成立民主联合政府，以便领导全国人民，以最快的速度肃清国民党反动派的残余力量，统一全中国。
1949年9月，中国人民政治协商会议第一届全体会议选举产生了以毛泽东为主席的中央人民政府，通过了带有临时宪法性质的《中国人民政治协商会议共同纲领》。《共同纲领》规定：中华人民共和国的国家政权属于人民。人民行使国家政权的机关为各级人民代表大会和各级人民政府。这就初步确立了人民代表大会制度在中国的政治和法律地位。