中央革命根据地红军第五次反“围剿”的失败和长征初期红军力量遭受的严重损失，引起了广大干部和战士对王明军事路线的怀疑和不满，纷纷要求改换错误的领导。同时，在长征途中毛泽东对执行王明军事路线的一些领导同志做了耐心细致的工作，使他们很快觉悟过来。在这种情况下，为了总结第五次反“围剿”失败及长征初期军事指挥上的经验教训，根据黎平会议的决定，在毛泽东、张闻天、王稼祥等领导同志的努力促成下，红军占领贵州遵义后，于1935年1月15日至17日召开了中共中央政治局扩大会议，即遵义会议。
参加会议的政治局委员有：毛泽东（中华苏维埃共和国临时中央政府主席）、张闻天（中华苏维埃共和国临时中央政府人民委员会主席）、周恩来（苏维埃军委副主席、红军总政委）、朱德（苏维埃军委主席、红军总司令）、陈云（全国总工会党团书记）、博古（即秦邦宪，中共中央总负责人）；候补委员有：王稼祥（苏维埃军委副主席、红军总政治部主任）、刘少奇（全国总工会委员长）、邓发（中华苏维埃共和国国家政治保卫局局长）、凯丰（即何克全，共青团中央书记）；参加会议的红军总部和各军团负责人有：刘伯承（红军总参谋长）、聂荣臻（红一军团政委）、林彪（红一军团长）、李富春（红军总政治部代主任）、彭德怀（红三军团长）、杨尚昆（红三军团政委）、李卓然（红五军团政委）、邓小平（中共中央秘书长）。另外，李德（共产国际军事顾问）、伍修权（翻译）列席了会议。
会议着重总结了第五次反“围剿”失败的经验教训，全面批判了“左”倾教条主义军事错误。大会由博古主持，他首先在会上作关于第五次反“围剿”的总结报告。报告中他极力为“左”倾冒险主义错误辩护，认为第五次反“围剿”失败的原因主要有两个方面：一是敌人力量强大，二是根据地政府和各级组织对战争支持不够。周恩来作了副报告，主动承担了一些责任。接着，会议围绕着第五次反“围剿”的失败展开了激烈的讨论。张闻天根据与毛泽东、王稼祥事前共同拟定的提纲在会上作了长篇发言，系统批判了博古、李德在军事指挥上的错误。毛泽东随后作了重要发言，深刻分析了第五次反“围剿”和长征以来博古、李德在军事指挥上的错误，具体阐述了中国革命战争的战略战术和今后在军事上应该采取的正确方针。毛泽东认为，如果说敌人力量强大，为什么第一、二、三、四次反“围剿”取得了胜利？他同时列举了许多事实说明根据地的政府和群众对反“围剿”战争是大力支持的，驳斥了博古关于根据地政府和群众支持不够的说法。王稼祥发言同意毛泽东的意见，并表示拥护由毛泽东来领导红军。张闻天同意毛泽东、王稼祥的意见，并且强调指出，在目前这种险恶的情况下，只有毛泽东同志出来领导红军，才可能打破敌人的围追堵截。周恩来发言明确提出要撤换博古的领导职务，建议毛泽东同志出来领导红军。李富春、聂荣臻、朱德、刘少奇、陈云等也在会上发了言，支持毛泽东的正确意见，赞成王稼祥、张闻天、周恩来的正确建议，同意撤换博古的领导职务。而博古没有承认自己的错误，凯丰不同意大家的批评，李德为自己的错误辩解，拒绝大家对他的批评。
会议经过激烈争论，根据多数人的意见，决定主要根据毛泽东发言的内容，委托张闻天起草《中央关于反对敌人五次“围剿”的总结决议》。这个决议起草后于1935年2月8日的中央政治局会议上通过，并于2月16日印发了这个决议。
《决议》否定了博古的报告，认为其基本上是错误的。《决议》列举大量事实，说明红军在主客观上均具备粉碎国民党军队第五次“围剿”的条件，明确指出反“围剿”失败的主要原因是“军事上的单纯防御路线”。在敌人采用“持久战与堡垒主义的战略战术”的情况下，我们的战略战术应该是决战防御（即攻势防御），集中优势兵力选择敌人的弱点，在运动中有把握地去消灭敌人的一部或大部，以各个击破敌人。然而，我们却以专守防御（即单纯防御路线）代替了决战防御，以阵地战、堡垒战代替了运动战，并以所谓“短促突击”的战术原则来支持这种单纯防御的战略路线；以分散兵力的作战方针代替集中兵力的作战方针，违背了我军战略上持久、战术上速决的基本原则；放弃诱敌深入的方针，而搞“御敌于国门之外”，结果造成了严重损失，使红军不得不退出中央苏区根据地。
《决议》指出，“左”倾机会主义者在政治上提出“中间派是最危险的敌人”，没有利用敌人内部的第一矛盾冲突，拒绝援助福建事变，丧失了打破“围剿”的良机。在战略转变和实行突围问题上，同样也犯了原则错误，在苏区内同敌人拼命抗战、大量消耗红军的有生力量。退出苏区变成了一种恐慌失措的逃跑的与搬家式的行动。在干部群众中关于这种战略转变没有解释，组织庞大的后方机关使行军作战受到困难，使所有的部队变成掩护队。在领导作风上，“华夫同志恶劣的领导方式”在军委内造成了不正常现象，博古同志不但不批评纠正，反而支持。他们的错误是“严重的政治错误”。《决议》批判了“左”倾机会主义的军事路线，重新肯定了以毛泽东为代表的正确军事路线，要求红军迅速完成从阵地战到运动战的转变，灵活机动地运用战略战术，为创建新的根据地而斗争。
遵义会议决定：“（一）毛泽东同志选为常委。（二）指定洛甫同志起草决议，委托常委审查后，发到支部中去讨论。（三）常委中再进行适当的分工。（四）取消‘三人团’，仍由最高军事首长朱（德）、周（恩来）为军事指挥者，而恩来同志是党内委托的对于指挥军事上下最后决心的负责者。”
根据遵义会议的决定，党和红军的最高领导层进行了一系列调整。1935年2月5日，中央政治局常委在川滇黔交界一个叫“鸡鸣三省”的村子里进行分工。在毛泽东的提议和坚持下，由张闻天（洛甫）代替博古在党内负总责；毛泽东为周恩来军事指挥上的帮助者。3月4日，中革军委成立前敌司令部，朱德为总司令，毛泽东为政治委员。接着，为适应作战需要，又在贵州鸭溪、狗坝（今苟坝）一带成立了毛泽东、周恩来、王稼祥三人军事指挥小组（又称新“三人团”），周恩来任团长，全权负责军事指挥。在当时作战胜败直接关系党和红军生死存亡的严峻环境中，三人军事小组是党中央最重要的领导机构。
遵义会议还一致决定改变黎平会议以黔北为中心来创造苏区根据地的决议，改为在成都之西南或西北建立苏区根据地。
遵义会议结束了王明“左”倾机会主义路线在党中央长达四年之久的统治，确立了以毛泽东为代表的新的中央的正确领导，把党的路线转到了马克思列宁主义的轨道上来。遵义会议在中国革命的危急关头，挽救了党，挽救了红军，挽救了中国革命，是中国共产党历史上一个生死攸关的转折点；是中国共产党第一次独立自主地运用马列主义基本原理解决自己的路线、方针和政策的会议；是中国共产党在革命斗争中经受锻炼和考验，逐步走向成熟的标志。党的六届七中全会通过的《关于若干历史问题的决议》指出：遵义会议“胜利地结束了‘左’倾路线在党中央的统治，在最危急的关头挽救了党”；“这次会议开始了以毛泽东同志为首的中央的新的领导，是中国党内最有历史意义的转变。”党的十一届六中全会通过的《关于建国以来党的若干历史问题的决议》指出：“1935年1月党中央政治局在长征途中举行的遵义会议，确立了毛泽东同志在红军和党中央的领导地位，使红军和党中央得以在极其危急的情况下保存下来，并且在这以后能够战胜张国焘的分裂主义，胜利地完成长征，打开中国革命的新局面。这在党的历史上是一个生死攸关的转折点。”