正当左系湘军受阻于严州、金华一带的时候，曾国荃、彭玉麟率部水陆齐下，向太平天国的首都天京杀去。
他们遇到的第一个重要关卡，名叫金柱关。金柱关之所以重要，除了它是天京的重要的屏障外，还有一个重要的原因，那就是从金柱关出发，可以经水路抵达太平军的重要粮食中转站——高淳县的东坝镇。
东坝镇以北有水路可通天京城外的秦淮河，以东有水路可通太湖。太湖周边，则是江苏省的常州府、苏州府以及浙江省的湖州府。这些地区，都盛产粮食。所以，经东坝镇转运，太平军就可以将常州、苏州、湖州的粮食，源源不断地运往天京。
对于湘军来说，只要攻克金柱关，进而拿下东坝镇，就可以切断太平军的这一条重要粮食运输线，加速江宁城中的太平军的崩溃。
金柱关的旁边，是安徽省的太平府城。为拿下太平府城，同时拿下金柱关，曾国荃制订了一个声东击西的作战计划。
在对金柱关周边据点发动了几天的佯攻之后，1862年5月18日凌晨，曾国荃率部在湘军水师的帮助下秘密渡江南下，对太平府城发动突然袭击。
驻守太平府城的太平军以为湘军在攻打金柱关，一时半会不会杀过来，于是放松了警惕。当曾国荃大军杀来的时候，他们还在漫不经心地修葺城墙，根本没有做好战斗准备。于是，他们很快被湘军击败，被迫放弃府城，据守府城南面的一条河流对抗湘军。
第二天，湘军与太平军隔着那条河流，对打了一天。湘军伤亡二十余人，太平军也有少量伤亡。
驻守金柱关的太平军得知太平府城陷落后，失去了继续坚守下去的信心。湘军水师趁机发动猛攻。到这天傍晚的时候，太平关就落入了湘军之手。
据守在太平府城南面的太平军，得知金柱关失陷后，连夜撤离。就这样，湘军攻占了太平府城以及金柱关。