虽然太平军西征战果辉煌，但在天京门口的清军江北、江南两个大营还威胁着天京的安全。
江北大营有绿营和满蒙兵1. 7万人。统率这个大营的是钦差大臣琦善，就是在鸦片战争中向外国侵略者献媚的卖国贼。江北大营的清军曾打到仪征，进犯瓜州，并串同江南大营的清军，窜扰镇江和浦口，给太平军添了不少麻烦。江南大营是清军对抗天京的主力。向荣从广西一直跟到南京，始终尾随太平军，被升任钦差大臣，统率江南大营，有清军2万人。他时刻想攻进近在咫尺的天京，今天扑向朝阳门，明天炮轰雨花台。他还从广东调来了红单船，这是一种巨型木质战船，大者可装炮30余尊，小者可装炮20余尊。
上海小刀会起义失败后，清军更集中力量围攻天京门户镇江，江南大营从东线集中力量围攻天京城郊。因此，集中军力打破这两个大营，就成为太平天国急需完成的任务了。
1856年2月，太平天国从西征战场上调回燕王秦日纲、冬官正丞相陈玉成等去解镇江之危境，并攻打江北大营。陈玉成带领壮士数人，奋不顾身，驾起小舟，穿过清军的炮火网，把军事布署带给了太平军镇江守将吴如孝。4月初，秦日纲和吴如孝内外夹攻，横扫围城清军。随即又一鼓作气攻击围困瓜州的江北大营。江北大营清将托明阿、陈金缓等竟相逃命，残部无心恋战。太平军再次攻克扬州，并在高资镇围困江苏巡抚吉尔杭阿，吉尔杭阿在绝望中自杀，江北大营被粉碎了。
太平军乘胜扩大战果，从西征战场上调回的石达开部3万人，在6月中旬与秦日纲、陈玉成等部合成对江南大营的包围，杨秀清也派军队出城接应。向荣腹背受敌，激战数日，向荣率残兵败将逃奔丹阳。江南大营被摧毁后，秦日纲等又乘势占领句容，进军丹阳。喘息未定的向荣走投无路，上吊而死。
石达开在破江南大营后，乘胜西去，坐镇武昌。天国上下庆贺天京破围战的胜利。这时的太平天国区域，东起镇江，西到武汉，包括江西、安徽大部分地区在内，在军事上达到了全盛时期。