驻守岳州城的太平军约一万余人，由曾天养统领。曾天养年逾花甲，是参加金田起义的老将。历任天国御林侍卫，指挥、检点、秋官又正丞相。身经百战，所带的太平军都是两广的老兵，作战勇猛，被洪秀全称为“天军”。曾天养深知岳州地处两湖交通要冲，离城不远的城陵矶是长江至八百里洞庭湖的军事要塞，十分重要。见湘军全军来攻，志在必得，便与林绍璋议定，从常德、益阳等地撤回太平军，共二万余人。由曾天养统一万人守岳州城，林绍璋统一万人守城陵矶，互为犄角。
曾国藩探明太平军的兵力部署，便排兵布阵，令陈辉龙、褚汝航率领水师佯攻城陵矶，罗泽南、塔齐布、胡林翼统湘军陆军进攻岳州城，由勇将塔齐布统本部三千人马担任主攻。
湘军封锁岳州城水陆交通要冲，断绝岳州城一切粮草供应，塔齐布统领三千精兵日夜攻打城池。曾天养指挥太平军上城坚守，拒不出战，企图坚守待援。时间一久，城中粮草告竭，援兵不至，曾天养在城中烦躁不安，只得率军出城迎战。曾天养自恃骁勇，单挑塔齐布决战，这正中塔齐布下怀。塔齐布正当盛年，勇猛过人，与曾天养你一刀，我一枪，大战三十回合，曾天养渐渐体力不支，被塔齐布一剑刺于马下，又一剑取下首级。太平军见主将阵亡，败逃城陵矶，湘军乘机占领岳州城。
曾国藩令李元度统一千人守岳州城，自统大军乘胜直奔城陵矶，两万湘军如猛虎下山，扑向城陵矶。林绍璋大惊失色，几个月前在湘潭惨败，心有余悸，不敢迎战，慌忙退出城陵矶，向湖北逃奔而去。湘军占领旋湖港、芭蕉湖、道林矶、观音洲、白螺矶等军事要冲。从此太平军撤出湖南，除小股袭扰外，直至天国灭亡，再无太平军主力进入湖南。
收复岳州城和城陵矶之仗，湘军打得干净利索，痛快淋漓，配合默契，完成了从训练到实战的飞越，走向成熟。
湘军占领岳州，武昌的太平军已成孤军，颇通谋略的刘蓉向曾国藩建议说：“武汉三镇贯通东西，连接南北，军事地位极其重要。现在太平军主力重心在赣浙一带，武汉太平军实力较弱，若我湘军全力攻之，并联合荆州将军官文，定建奇攻。”曾国藩与众统领商议决定，统湘军出省作战，进攻武汉。
咸丰四年九月，曾国藩统水陆湘军二万余人，枪刺闪亮、旗甲鲜明，雄赳赳、气昂昂地向武汉进发。
太平军在武汉三镇驻有五万精兵，由黄再兴、石风魁、韦以德三人统领。三人都是文官出身，不懂军事韬略，将五万精兵分三地驻守。由石风魁统二万人驻守花园大营，由韦以德统一万人驻守洪山大营，由黄再兴统二万人驻守武昌。黄再兴闻湘军杀死老将曾天养，打破岳州城，占领城陵矶，正向武昌杀来，心中惶恐，下令关闭城门，飞报天京，请求援兵。
