从进入官场到父丧回家守孝，曾国藩的优点和缺点一样明显。优点暂且按下不表，主要的缺点就是一副道学家面孔，总以为自己忠心报国，人浊我清，做事过于刚硬，看不惯官场上虚伪圆滑、尔虞我诈那一套，结果从北京到湖南再到江西，处处得罪人，最后和皇帝都闹得有些不愉快。这一点上，农家子弟曾国藩确实比不上官二代胡林翼，后者为了处理好和同僚的关系，以堂堂湖北巡抚的身份给总督的小妾拜寿，眼睛都不眨一下。
怎样重回藏污纳垢的官场并生存下去，调动各种资源建功立业，是曾国藩亟需解决的课题。中国传统士大夫有一个特点，达则兼济天下的时候读孔孟，用儒家的积极入世指导自己的作为；穷则独善其身的时候读老庄，用道家的超然物外涵养自己的胸怀。曾国藩也不例外，把能骂的人都骂完之后，他把自己关在屋子里读老庄，并检讨过去的得失，他发现刚硬和方正并不意味着强大，低调务实、谦逊执著、圆滑柔顺、懂得退让才是真正的强大。他翻检此前写过的文书，有一封当年武昌告急，他写给湖南巡抚骆秉章的求援信，说湖南湖北“唇齿厉害之间，不待智者而知也”，好像骆秉章要是不发兵就是“愚者”一样。当时觉得有理有据，现在读起来，羞得汗下如流浆。
家居两年，可以说是曾国藩人生的重大转折点，可以说从这时起，他才具备了成就一番功业的内在条件，从此越活越通透。
当然，没有外部条件的配合，曾国藩的境界再怎么提升也顶多造就一个理学大师而已。内讧的太平天国回光返照，石达开带20万大军出走，进入浙江，局面一下子又紧张起来。趁此机会，咸丰八年（1858）5月，胡林翼率先上书咸丰，请求起复曾国藩带湘军入浙江作战。咸丰于当年7月下旨起复曾国藩，令其率兵援浙。
除了对汉人带兵者的防范以及曾国藩喜欢顶撞他以外，曾的“穆党”身份肯定影响咸丰对他的观感，这是咸丰对他忽冷忽热的原因之一。而作为曾国藩二次出山的推手，深谋远虑的湖北巡抚胡林翼为了湘军长远的发展，必须得在朝中找一个靠山，咸丰极为信任的肃顺充当了这个角色。现在找不到肃顺和曾、胡直接交往的资料，但是肃顺手下的智囊团“肃门五子”中有四个湖南人，他们和湘军几位大佬都有着千丝万缕的联系，曾国藩的好友郭嵩焘也被肃顺待为上宾，肃顺此前帮左宗棠说过好话⋯⋯曾国藩的再度出山，越来越受到咸丰的重视，除了形势使然，和肃顺的支持应该有很大关系。
这一次，曾国藩没有再提任何条件，接旨后四天就启程，态度很让咸丰受用，表扬他“忠勇可尚”。
当曾国藩再次出现在长沙时，他的朋友们发现，他变得几乎让人认不出了。原来曾国藩不讲什么官场礼节那套虚头巴脑的东西，这次人还没见着，湘军以及相关省份的将领、官吏们就先收到他的一封信，信里以非常谦恭的语气请求各位同僚的“指针”。到了长沙后，他忙着拜码头，从湖南巡抚到长沙知县，全部走到。这甚至让胡林翼和郭嵩焘深以为忧，以为曾国藩委曲求全，失掉了方刚之气。
他也再不和咸丰顶牛了，学会了打太极。面对咸丰调他率军入川的瞎指挥，他不像以前直接说不去，而是找尽各种理由，一会说部队正在打景德镇脱不开身，一会又说灭敌于湖南不必入蜀，一会又说江西、安徽应当防守，最终打消了咸丰的想法。
对待部下，原来他很吝啬保举，很见不上那种不管上没上战场就冒领军功的做法，这和胡林翼形成了强烈的反差，两人都曾打下武昌，但是胡林翼保举人数是曾国藩的10倍，导致有“投曾不如投胡”一说。这次出山，他甚至开始鼓励手下放开顾虑、大胆保举。此外，对于治兵也不再一味从严，湘军士兵攻下城池后的大肆劫掠，他睁一只眼闭一只眼。
尽管看起来有点同流合污、和光同尘，但曾国藩崭新的精神面貌，还是得到广泛的好评，在他曾经跌了跟头的江西，现在几乎是人见人爱，筹饷都顺畅了许多。
在胡林翼的设想中，他自己坐镇湖北搞后勤，曾国藩统兵东征，应该是一种完美的配置。可是现在虽然曾国藩不再计较当不当地方大员，但如果他一路东下，和江西、安徽、江苏、浙江怎么打交道，怎么处理军队和地方的关系，还是个很头疼的问题。办法还是只有一个：曾国藩当巡抚乃至总督。
咸丰八年（1858）、咸丰十年（1860），围困天京的江北江南大营被太平军击破，清军在长江下游的势力彻底崩盘，消息传到湘军控制地界，胡林翼等人无不眉飞色舞，因为，朝廷除了湘军，再无可以对抗太平天国的力量。胡林翼拉上湖广总督官文上疏皇帝，要求趁此危难时重用曾国藩，再加上朝中肃顺的奥援，咸丰十年1860年7月，曾国藩出任两江总督，并以钦差大臣督办江南军务，大展宏图的所有条件终于齐备。
新任两江总督曾国藩决定把自己的大营扎在皖南祁门这个地方，这是一个轻率而匪夷所思的决定，因为这个决定，他差点丢掉自己的性命，可见，上天真的不会让一个人太轻易成功。
祁门这个地方群山环绕，远离河流，这犯了湘军扎营的大忌：一、容易被敌人居高临下攻击；二、远离水路交通线，难以和水师形成配合。可曾国藩偏偏就选中这么个容易被瓮中捉鳖的地方，他是这么想的：祁门东边还有个徽州，太平军打来先到徽州，只要徽州没事，祁门也不会有事。再加上祁门风景秀丽，他在这里舒心。
守徽州的是曾国藩的幕僚李元度，本来，李元度要是坚守徽州，太平军一时半会也拿他没办法，也不敢绕过徽州打祁门。李元度当时头脑发热，带着守城3000兵的一半出去截击太平军，结果被太平军名将侍王李世贤打得大败，李元度逃跑，士兵也跟着跑，城内也慌了手脚，太平军轻松拿下徽州。
徽州失陷如此之快，太平军大军压境，这让曾国藩只能坐以待毙，因为他手中只有张运兰一支新募集的军队，打是没法打，逃也不知道该往哪里逃，谁知道太平军有多少人马，如何行动，万一碰上怎么办？而太平军的活动范围离祁门最近的时候也只有二十里地，拔脚就到。后来有一段时间，祁门干脆和外界断了联系，成为一座“孤岛”。
肃顺的幕僚王闿运此时刚好在营中做客，倒霉催的就遇上这么个情况。曾国藩派人去看王闿运在干嘛，有人回报，说王先生一边喝酒一边看《汉书》。曾国藩给旁边的人说，《汉书》王闿运不知道看过多少遍了，这会儿肯定是表面装样子，内心在挣扎，随即又派人去看王闿运的随从在干什么，底下的人回报，随从们在祁门的一条小河准备了一条船。果然，如曾国藩所料，王闿运还是开溜了。
曾国藩下了一条命令，文职人员可以走，每个人发三个月薪水，以后没事了再回来我不怪你。好多人没扛住，脚底板抹油，这些人里也包括了曾国藩的得意门生李鸿章。不过李鸿章走得比较巧妙，曾国藩要上折子弹劾李元度，作为曾国藩幕府的首席笔杆子李鸿章就是不写，说这样对李元度不公平。曾国藩说你不写我自己写，李鸿章说你要写我就走，曾国藩回了个“听君之便”，李鸿章就一个人跑到了南昌。
最后曾国藩几乎绝望了，写好了遗书，放在身上，案头放着佩刀，预备着等太平军一冲进来就自杀。不过万幸的是太平军没有必得祁门之心，他们知道这里驻着一支兵，却不知道是曾国藩的大营。当湘军名将鲍超率领援军击退李秀成之后，逃过一劫的曾国藩见到鲍超老泪纵横，说：“不想仍能和老弟见面。”
接下来的时间就纯粹是曾国藩摘取胜利果实的过程了，虽说还是耗时三年多，硬仗无数，但是太平军败亡的趋势不可逆转，曾国藩也再没遇上生命危险，此时的他，已经不用亲临战场，坐镇后方全盘指挥即可。
咸丰十一年（1861）9月5日，湘军攻下重镇安庆，几天后，曾国藩进驻安庆。在胡林翼和郭嵩焘的调解之下，作为晚辈的李鸿章率先低头，给曾国藩写了一封信，祝贺老师攻下安庆，打破了两人之间的僵局。曾国藩回信说安庆百废待兴，需要人才，你来一趟咱们聊聊？不过他还是没压住心中的火，语带讽刺：“足下行踪亦颇突兀，昔祁门危而君去，近安庆甚安而不来，何也。”言外之意——你不能共患难，那么共富贵总行吧？李鸿章甚是羞愧，不过还是到了安庆，之后有了曾国荃围天京、李鸿章打江苏、左宗棠打浙江的三路会剿太平天国的大计。李鸿章组建淮军，终能独当一面，对曾国藩愈发佩服和感激，说起话来动辄“我老师”如何如何，到死没变。
此时年过半百的曾国藩，早已经没有了理学家那种刻板、固执和保守，思维具有相当的开放性，比如他的幕府人才鼎盛，既有浪得虚名的道学家，也有讲究实用的科学家。他筹办安庆内军械所，江苏巡抚薛焕闻讯，便将当时国内一流科学家徐寿、华衡芳等推荐给他。曾国藩一见到徐、华，便提出仿制小火轮（轮船）之事。徐寿将蒸汽机原理及轮船构造简单地作了介绍。曾国藩听后大喜，立即委任徐寿、华衡芳为幕客，命他们试制轮船，并勉励他们不要有顾虑，耐心制造，有各种需要尽管提。同治元年（1862）7月30日，中国人自行制造的第一台蒸汽机由徐寿研制成功，曾国藩非常满意，感叹道：“窃喜洋人之智巧，我中国人也能为之！”同治三年（1864）1月28日，中国自己制造的第一艘木质轮船在安庆成功下水试航。为了显示自己的信心，曾国藩亲自坐在船上督看。此外，曾国藩还在安庆接见了中国第一位留美学者容闳，他不计较容闳曾与太平天国有交往，与容闳一见如故，十分重视容闳的意见，并决定委派容闳到美国采购新式机器，以便建设更大规模的武器制造工厂。
为什么洋务运动从曾国藩这里发端？除了“时势造英雄”的老生常谈，有件事情或许能找到一点他性格上的原因，他从道光二十三年（1843）开始就患眼疾，为了治眼睛，他尝试了几乎所有方法，最初是吃中药，后来自学中医，36岁时开始戴西洋老花镜，又戴过一种“墨晶镜”，还把一块“中空积水”的玛瑙钻开滴水入眼，还有两掌摩擦发热蘸唾液摩擦眼睑的方法，甚至还练过气功⋯⋯偏方、中医、西法试了个遍，最终都没有效果。但是这种心中没有窠臼的态度和试验精神，似乎和“科学”有所契合。
同治三年（1864）7月，湘军攻破天京，太平天国亡。朝廷封53岁的曾国藩为一等毅勇侯，加太子太保，赏双眼花翎，曾国藩达到了人生的巅峰。
