江南大营是清朝为镇压太平天国集结起的最后两支直接听命于咸丰帝的野战军之一，清廷聚集全国绿营兵的精锐集结于南京孝陵卫一带，与之配合的江北大营则驻扎于扬州一带，这两支大军逼近天京，以压制太平天国，然而这支所谓的大清精锐却在1856年和1860年连续两次被击溃，官兵死伤殆尽。此后，大清王朝只能依靠汉族地主武装――湘军来镇压太平天国了。
为何拥兵上万的江南江北大营会的短短数年间连续溃败两次呢？直接原因是太平军将领的用兵得当，而间接原因则是清朝绿营兵的腐败与无能。
1856年初，东王杨秀清从安徽调集数万人，由燕王秦日纲统率，于2月1日从栖霞、石埠桥一带东进，往援镇江，在龙潭、东阳、仓头、下蜀、汤头一线血战四十余天，与清军不分胜负，但实际上早在开战之前，李秀成就已淤回到清军的侧后方，在此时突然发动进攻，而镇江的太平军吴如孝部也出兵袭击清军，清军大败而逃，太平军直抵镇江，秦日纲又趁清军防备不当，与瓜州守军汇合，趁着清晨一举击溃了围困瓜洲的清军。三汊河一带的清军营垒也大半被摧毁。到了4月5日，太平军彻底击败清军，占领扬州，摧毁了江北大营。但是正当秦日纲袭击江北大营的时候，清军截断了秦日纲南归之路，秦日纲回师攻击江南大营的计划受阻。消灭江南大营的任务于是便落到了刚刚回师天京的石达开所部（大约二到三万人）身上。
由于太平军先前大举反攻江北一带，江南大营统帅向荣多次派兵支援，此时江南大营的清军留守兵力不满5000人。石达开决定采用声东击西的战术。此时秦日纲已经退至燕子矶、观音门一带等待命令，有实力协助石达开作战。石达开的军队先进攻溧水一带，这里是通往苏州常熟的要道，向荣大惊又派总兵张国梁前往救援，江南大营更加空虚，此时两路天京太平军又出城进攻，和石达开秦日纲一起进攻江南大营，张国梁带一部分人马回救，在青马群筑营，欲堵截太平军。20日早晨，太平军十数路猛攻青马群。此时江南大营内已是人心惶惶，向荣率兵1200人打算逃跑。杨秀清又亲率数千人与石达开等人汇合，全力猛攻孝陵卫向荣主营，清军全部溃败，向荣，张国梁等人失魂落魄地逃往丹阳一带，这就是江南大营第一次被太平军摧毁。
1860年3月19日，太平军攻克杭州，咸丰皇帝害怕浙江赋税之地受到威胁，于是接二连三地派出援军，此时重建后的江南大营的军队派出援救浙江的已经达到了13000人。到了四月底，援救天京的各路太平军在苏南战役中突破清军的围堵，顺利到达天京近郊，这场战役由李秀成策划。各路援兵汇合城内的守军开始猛攻江南大营，战役进行到五月初，各路太平军进展顺利，5月5日，陈玉成所部突破敌军在天京西南所筑长壕，清朝军队的外部据点均被扫除。要说这人倒霉的时候，喝口凉水都会塞牙。一只太平军士兵抛掷的火罐正巧落在了清军的火药库（位于江南大营西半部）旁引起了连锁反应，该处清军迅速炸营，太平军趁势猛攻，接连攻破五十余座营垒，整个江南大营如同多米诺骨牌一样迅速崩溃了，这就是太平军第二次攻破江南大营。
太平军针对江南大营的两次攻击都短暂解除了清军对于天京的威胁，毫无疑问这都是由于太平军将领的运筹帷幄集中优势兵力作战和下层士兵的英勇作战。但是这在这两次战斗中，清军只是大规模的被击溃，真正被击毙的清军不过万余人，这也就是为什么清军能够接二连三卷土重来的原因。
当然清朝绿营兵的腐败与无能，战斗力低下，也是太平军能够屡屡得手的重要原因。在第二次江南大营战役之中，一只火罐引爆了火药库居然就能让半个江南大营乱成一锅粥。从兵员构成的角度来讲，江南大营属于兵多勇少，也就是清朝的正规军队相对来说比较少，而临时招募的"勇"比较多，这些人往往和当地的一些地方势力有较多的联系，因此整个江南大营的结构是比较松散的，军纪是相当糟糕，不同省份的兵俑经常发生械斗，有时为了争夺一个民间女子，居然打的比攻城的时候还要勇敢。湘军头目胡林翼评价江南大营说：“将骄兵惰，终日酣嬉，不以贼匪为意。其乐桑中之喜，或恋家室之私，或群与纵歌酣酒，或日在赌场烟馆，淫心荡志，极乐忘疲，以致兵气不扬。”最后江南大营被攻破的时候，溃兵中居然包含着还有大量的女人，真是可笑之极。用这样腐朽的军队去镇压太平天国，结局可想而知啊。
两次江南大营战役之后，清王朝延续200余年的正规武装力量――绿营兵彻底衰落，由汉族地主组织的地方团练势力正式登上历史的舞台，也是他们最后成功镇压了太平天国，然而这也代表了晚清地方势力的崛起，这种地方势力逐渐强大的趋势一直持续到民国时期，也无怪有人说，湘军的创始人曾国藩是中国近代反动军阀的鼻祖。
