彭德怀后来总结红五军守卫平江失利的原因说，这是由于25日军事会议确定的战斗部署有错误，“没有认识到革命的长期性”，要能“早一点主动撤出，让敌扑空，那就可以避免这些损失。应将部队布置于长寿街和江西省的修水、铜鼓边界，以团为单位分散打土豪、分田地做好群众工作”。彭德怀多次总结守卫平江的教训，对于平江起义的胜利总是归结于党的领导，归结于井冈山旗帜的影响和平江地区群众的支持。
彭德怀同滕代远、黄公略一起发动和领导的平江起义，是中国新民主主义革命史上的重要一页。它发生在第一次国内革命战争失败、革命处于低潮之际；是继南昌起义、秋收起义和广州起义之后，中国共产党人组织和领导的武装力量，对国民党血腥镇压的又一次反击。
彭德怀一、七团和军直属队退出平江城后，向东乡龙门转移。沿途受到农民的热烈欢迎，他们把红军看作是自己的救星，是自己的好兄弟。农村的房屋经反动派的反复“清乡”，大部被烧毁，农民仍尽量腾出房屋给红军宿营，说：“不能让自己的军队露宿淋雨。”彭德怀第一次听到农民这样对待和称呼自己的部队，倍感亲切。他由衷地感到，决不能辜负民众的期望，一定要把这支部队保存下来，使其发展壮大。
为在政治上建设红五军，彭德怀等决定部队暂驻龙门，进行整训。首先建立了五军政治部，由党代表滕代远兼主任，张荣生任副主任。然后，从军部到连建立了党代表和党的各级组织。支部建立在连上，加强了部队的政治思想工作，也加强和健全了士兵委员会工作。连队和机关一起开展群众工作，大家拎着灰桶刷写标语，拿着宣传筒宣传党的政策。
起义以前，部队一直驻扎在城镇，到了农村，环境艰苦，常受敌追击要爬山过坳，夜晚行军。有的人愿意革命，就是吃不了苦，起义后看到群众的亲切关怀，看到首长的以身作则，又通过整训提高了觉悟，便逐步习惯了农村生活，逃亡现象大大减少，全军士气高涨。
红五军退出平江，湖南省主席兼清乡督办鲁涤平、清乡会办何键急电张辉瓒、刘鉶、朱耀华说：“现虽收复平城，而残众尚未扑灭，其逃窜于各乡镇者为数尚多”，“暴动事实时有所闻。近向浏东逃窜，企图联络****，再次猖獗”，如在月底予以“彻底肃清者，即给奖金3万元，以示酬庸”，而“剿办不力”者，则“定予从严撤惩，决不宽贷”。在重赏兼督责下，湘军10余个团在平江、浏阳集结，向红五军扑来。
彭德怀吸取守卫平江的教训，避免同优势敌人硬拼，挥师江西，攻占修水，消灭守军一个营和民团二三百人。在修水建立了临时县工农兵苏维埃政府，坚持9日。南昌当局调一个团及两个步兵营来袭，红五军放弃修水城，经铜鼓退守平江黄金洞。
这时，****湖南省委指示红五军避免与敌主力部队作战，设法与井冈山红四军取得联络。彭德怀、滕代远遂率部向浏阳、万载边界进发。
9月6日，红五军南下至万载时，遭到鲁涤平部两个团的袭击，上井冈山的计划未能实现，在平江、修水、铜鼓边界一带休整。一面派工作队发动群众进行土地革命，建立苏维埃政权；一面在部队中进行整顿，清洗反动军官，吸收表现坚定的人入党。根据五军军委决定，五军取消团、连番号，编为5个大队和1个特务队。
随后，彭德怀、邓萍率4个大队向鄂南通城、通山、九宫山地区发展，由于未找到地方党，从九宫山一带又返回平江黄金洞。途经渣津时，歼灭江西朱培德一个宪兵营和当地地主武装。
在与敌人周旋的过程中，彭德怀总结了硬拼失利的教训，改用“同敌人打圈子、打推磨(盘旋)仗”战术，“经常跳在敌人侧后方，使敌摸不着头脑，弄得敌人疲惫不堪”。他体会到：“在反革命高潮时”，“只有领导下决心与群众同甘苦，同生死，集中力量作盘旋式的游击才能渡过难关”。“中国交通道途不便，尤其是西南各省多山，我们的部队轻便、行动敏捷，敌则反之”。“敌人兵力较少，我就打他，较多我就避免”，“这是我们多次得来的经验”。这与******的游击战术思想可谓不谋而合。
红五军在撤出平江后的3个月游击战争中，打了许多次仗，消灭了大批敌人，攻占过铜鼓、修水等10余个重要县镇。这是红五军所经历的最为艰难的时期之一。在这3个多月的转战中，减员1000余人，张荣生、李力英勇牺牲。张荣生弥留之际还说：“共产党的事业一定会胜利。”由于环境险恶，一些意志薄弱者或投机分子，也相继离队或叛变。原独立五师一团二营营长、后任红五军四团团长的陈鹏飞虽同情工农，但委实忍受不了那种艰苦，彭德怀并不强留，听其告别回家了。四大队队长李玉华假传军长命令，以打民团为名拉着全队逃跑了。最严重的是一大队队长雷振辉(起义前为三营营长)的叛变。雷振辉与李玉华串通一气，李叛逃后，彭德怀命人将雷监视起来。翌晨，队伍集合出发前，彭德怀讲话，雷振辉突然夺过警卫员薛洪全的手枪，对准了彭德怀。千钧一发之标，身材魁梧的新党员黄云桥，一手扳倒雷振辉，一手拔枪，将雷击毙。许多人几乎惊呆，彭德怀面不改色，继续讲话说：“3个月的转战，我们受到很大损失，我们的处境是艰险的，但我们起义是为了革命，干革命就不能怕苦、怕流血牺牲，今天如果谁还想走，可以走”。“就是剩我彭德怀一个人，爬山越岭也要走到底!”彭德怀坚定的目光，斩钉截铁的语言稳定了队伍，—声号令出发，没有人离队。
10月，滕代远以湖南省委特派员名义，在铜鼓幽居召开湘鄂赣边5县(平江、浏阳、修水、铜鼓、万载)县委和红五军军委联席会议，总结经验教训，研究进一步开展斗争的计划。彭德怀在会上主张红五军要以井冈山为榜样，反对乱烧乱杀的盲动主义和宗派主义。会议决定建立****湘鄂赣边界特委和根据地，征调几个中心游击队与红五军合编，组建成3个纵队和1个直属特务大队(共11个大队)。会议选举滕代远为边界特委书记，彭德怀为特委委员。
会后，彭德怀、滕代远率一、三纵队向南进发，准备与红四军取得联络；黄公略率二纵队留湘鄂赣边界坚持游击战争。南进部队800余人，沿途发动群众打土豪，组织游击队，红军也得到补充。转战中，红军指战员衣服褴褛不堪，也无钱无暇缝制冬衣，就穿着打土豪没收来的各种式样的衣服。队伍中有戴礼帽的，有穿马褂的，有穿呢大衣的。形色各异，信念则一——上井冈。
彭德怀后来回忆说：早在1927年冬，他就注意了井冈山。平江起义胜利后，就想“打通湘东与赣西****取得联络”，“造成罗霄山脉整个的割据，促成湘鄂赣粤四省的总暴动”。他认为，在同拥有现代化交通运输和通讯联络手段的敌军作战，没有根据地是不行的，而建立根据地，又必须实行耕者有其田的土地纲领；在实践上解决了这个问题的就是井冈山。他非常敬仰******，决心以****红军为榜样，还想亲去井冈山“取经”，弄清革命的性质，分田的办法等。起义后，他率领红五军不畏千难万险，转战数千里，突破敌人的重重围追阻截，历时近5个月，终于实现了上井冈山同朱德、******会见的愿望。
朱德、******获知彭德怀部队南进，派何长工和毕占云率200余名战士下山，到莲花城北大山中隐蔽等待，迎接红五军。11月下旬，红五军于莲花城北九都与前来迎接的红四军何、毕率领的部队会合，两军相见，分外喜悦。在何长工带领下，彭德怀部经三湾、古城到达宁冈县城，与红四军胜利会师。这时，朱德已经下山等候。在宁冈新城的城隍庙红军驻地，彭德怀与他久仰的红军创始人朱德第一次见面。
彭德怀第一次和******会见，是在宁冈县茨坪一家中农的住房里。彭德怀走进屋内，看到一个身材颀长的人向他伸出手，和自己一模一样的湘潭口音热情地说：“你也走到我们这条路上来了!今后我们要在一起战斗了!”从说这句话起，便开始了他们之间长达30余年共同战斗的历史。