曾国藩谱名传豫，出身于一个小地主家庭。曾国藩天资平平，二十三岁才考中秀才，身体也不好。二十四岁时，曾国藩入岳麓书院学习了不到一年，那时他喜好诗文。虽然曾国藩在岳麓书院学习的时间不长，但他年少时从学的那些老师都是岳麓学风的波及者。曾国藩毕生都在整理王船山的遗著，是王的忠实信徒。1838年，曾国藩进士及第，始定名“国藩”，意为“国之屏障”。此后长期在翰林院供职。
曾国藩在朝廷是个边缘者，落寞中的他就孜孜读书，退可怡情自娱，进可储才治国。三十一岁时，曾国藩拜理学家唐鉴为师，认真学习程朱理学，坚持修炼个人道德，同时注重研究经世之学。曾国藩说：“方今天下大乱，人怀苟且之心。出范围之外，无过而问焉者。吾辈当立准绳，自为守之，并约同志共守之，无使吾心之贼，破吾心之墙。”曾国藩律己很严，订下了十二条戒律：早起、主敬、静坐、读书不二、读史、谨言、养气、保身、日知所亡、月无忘所能、作字、夜不出门。曾国藩每日做记录，每月写诗文，终生不辍，毅力惊人。曾国藩只有一个小妾，陪他没几年就病死了。为了振兴社会道德，曾国藩在振压太平天国后就没有再娶。作为压力很大的军政统帅，曾国藩是比较清苦的，以苦行和清修闻名于近现代。
三十五岁时，曾国藩鉴于自己名声、地位越来越高，特将书房定名为“求阙（缺）斋”，“求阙于他事，而求全于堂上”，希望自己不要事事顺利。曾国藩的思想主要受程朱理学、经世实学、桐城文风的影响。他喜欢魏源的“综核名实”原则，就是将理学和实学结合起来，要明道救世。他既提倡返本务要，又主张中庸。由于曾国藩品行较好、学问较大，最终做了内阁学士、礼部侍郎。曾国藩长期兼理科举考试，这使得很多青年士子纷纷投至其门下，拜其为师，著名的有江忠源、李鸿章等。
鸦片战争以后，中国内部社会危机加剧，农民起义不断爆发。在湖南西南部的新宁边区，白莲教和三合会组织了暴动，雷再浩和李沅发是他们的领头人。1844年，江忠源从京师回到家乡新宁，建立了地方民团来对付暴动农民。江忠源办民团注重对乡勇灌输忠孝礼义，教授兵法武技。地方上其他世家大族的头面人物也纷纷起而效法，最终镇压了暴乱。江忠源成了正统上层人物中投笔从戎的先行者，事后被任命为知县。1851年，太平天国起义爆发，朝廷派钦差大臣赛尚阿赴广西平叛，调素有经验的江忠源做参谋。江忠源开始他的军事生涯是为了维持地方上的稳定，现在他投身于镇压太平军的战斗则主要是出于功名之心。江忠源不久便认识到依靠现有的官军去击败太平军是不可能的，于是从家乡湖南新宁征募了一支五百人的乡勇去广西，号“楚勇”。这是湘军的雏形，也是清代地方武装首次出省作战。这支乡勇很有战斗力，曾在蓑衣渡大败太平军，阻挠了太平军攻击长沙，此战是太平军早期遭遇的一次主要挫败。
同时，另一个湖南人胡林翼则以知府的身份在贵州开始了军事活动，胡林翼制定《保甲团练条约》，征募了一支人数不多但经过精选的雇佣兵跟当地暴动农民作战。胡林翼的父亲胡达源和岳父陶澍都是岳麓书院的学生，胡达源为嘉庆进士，官至正四品，陶澍更是清朝一代名臣。胡林翼和曾国藩一样，也在京师翰林院做过官。胡林翼很有才干，较为清廉，是平定太平天国运动的灵魂人物，他制定了战略，集合了人材。湘淮军事政治集团很多重要人物的出头都离不开陶澍、胡林翼翁婿的举荐。胡林翼与曾国藩并称为“曾胡”，但他五十岁就病死了。胡林翼死后谥封“文忠公”，与李鸿章是同样的级别。英年早逝也使胡林翼避开了日后的很多难题，为其留下了较好的口碑。胡林翼三十五岁去贵州做官时曾表示：“某初为政，此邦贫瘠，或可以保清白之风。”胡林翼精通军事，曾作《读史兵略》46卷和《大清一统舆图》，后者是我国早期较完善的全国地图。胡林翼的军事思想曾被蔡锷编成《曾胡治兵语录》，影响深远。青年时代的毛泽东读了胡林翼的著作后，很欣赏胡林翼的文韬武略，以胡林翼的号“润芝”作为自己的字。
从江忠源、胡林翼开始，以湘勇为代表的地方武装登上历史舞台，在以后逐渐壮大，纵横中国一百年，直到中华人民共和国成立。清朝政府起初对地方武装是反对的，对汉族官员、士绅也是不信任的。清朝统治者的军事力量，一开始是八旗兵，即满洲八旗、蒙古八旗和汉军八旗。进入山海关以后，又大批招募汉人，收编汉族地主武装，成立了以绿旗为标志的绿营兵。清朝后期有八旗兵20万人，其中京师八旗10万人，其余的分散驻防在全国35个地方。绿营兵有60万人，是分省驻扎的，非常分散，一个驻扎点通常是20到50人，负责维持各地治安，相当于警察。由于天下太平渐久，八旗兵和绿营兵变得腐败、懒散，战斗力很差。因此，太平军贫苦的农民一揭竿而起，就打得清军落花流水，望风而逃。万般无奈之下，清廷被迫同意地方建立武装镇压起义农民。
这些地主武装之所以在湖南开始兴起，是有其地域原因的。长期以来，在岳麓书院的教化下，湖南士人受程朱理学影响很大。程朱理学非常强调纲常秩序，岳麓书院的建筑布局和装饰就明显地体现了纲常礼教的严谨秩序。理学教化出的这些岳麓书院子弟对传统社会等级秩序非常信仰，他们不能容忍农民暴动起来挑战传统等级、破坏社会秩序、捣毁民族文化。同时，湖南士人有着很强的功名之心。中国儒家思想一直教导读书人“修身、齐家、治国、平天下”，“学而优则仕”，“入则为相、出则为将”，“真为书生必投笔，从来志士皆从戎”。王船山最崇拜的理学大师张载曾号召士人“为天地立心，为生民立命，为往圣继绝学，为万世开太平”。岳麓书院注重经邦济世、知行并进的特色使得湖南士人有了经世的志向和能力。“军事为庶政之父”，岳麓书院对军事是很重视的。南宋时张?就研究《孙子兵法》，而且他认为《孙子兵法》是每个儒生都必须要研究的。胡林翼说：“兵事为儒学之至精，非寻常士流所能及也。”通过对传统兵学范畴的改造，岳麓书生很大地消解了自古以来存在的兵学与儒学的对峙，促进了兵学与儒学的合流。身为礼部侍郎的曾国藩也在1849年被任命为兵部侍郎。有强将还需要有精兵。湖南旧为蛮荒之地，民风一向剽悍、倔强，自谓“霸蛮”，人称“湖南骡子”。三湘四水、多民族混居又使得湖南人很“灵泛”。
1852年，太平军出广西，入湖南。被派往江西督察科举考试的曾国藩计划在公务结束后回湖南省亲，这是曾国藩入京做官十四年来首次有机会返乡。行至安徽，曾国藩得知母亲去世，就弃江西而回湖南湘乡奔丧，10月初到家。这时候，在太平军的打击下，湖南一片混乱，但湘乡县有儒生罗泽南、王?、李续宾、李续宜、刘蓉等地方名流组织训练了乡勇，曾国藩的父亲曾麟书总负责，较为安定。12月，朝廷任命曾国藩为“团练大臣”，在家乡协助湖南巡抚张亮基组织团练镇压太平军。在其他省份也颁布了同样的任命，全国共有43个团练大臣。其实朝廷并不是授权搞什么新的军事计划，而只想通过一名受到信任的京官对地方的军事化加强控制。曾国藩原打算在家守孝，经过同乡好友郭嵩焘的劝导，听到各地书院被毁、儒生被杀，最终决定出面组建武装，以实现其“澄清天下”的大志。
团练其实就是民兵，结队编团定时训练，无事则拿锄头做农活，有事则拿刀枪械斗，这种组织大多局限在县、乡一带。由于太平军势头很盛，湖南方面决定在省城长沙成立一大团，将各县团练集中，正规化操练，以增强实力。朝廷没有反对，这就使得湖南的团练开始转化为职业军队，湘军自此萌芽。曾国藩具体负责领导这支队伍，队伍主要包括罗泽南率领的湘乡人和江忠源率领的新宁人。起初的发展并不顺利，长沙官军总是欺负湘军，于是曾国藩就把湘军移到衡阳训练，避开了官军的排挤。这时候的曾国藩手段强硬，在团练大臣公馆设立了审案局，会同乡绅大肆捕杀暴动农民，“开就地正法之先河”。曾国藩自称乱事当用重典，“以霹雳手段显菩萨心肠”，老百姓纷纷称他为“曾剃头”、“曾屠户”。曾国藩直到后期对太平军屡战屡败时才醒悟悔改，从法家思想转为道家思想。在曾国藩的铁血政策下，湖南治安好转，朝廷于是给予了曾国藩更大的权力，地方士绅也纷纷支持他。
曾国藩鉴于官军将不识兵、兵不从将、各自为战、一盘散沙的弱点，采用了新的练兵方法。这种方法源于戚继光的兵书，戚继光在明朝正规军事系统以外创建了一支私人的“戚家军”，与日本海盗作战时很有战斗力。戚继光的兵书在十九世纪前期被经世派士人广为传布，罗泽南和王?在湘乡本地训练乡勇时，都袭用了戚继光的某些思想。曾国藩的练兵模式其实就是“宗法制”，依靠同族、同乡、同学的关系把士兵结成一体，上级挑选下级，军官招募士兵，“打仗亲兄弟，上阵父子兵”。曾国藩提出，带兵之道，用恩不如用仁，用威不如用礼，“扬善于宫廷，归过于私室”。湘军士兵待遇很高，每月饷银是绿营兵的三倍。曾国藩说：“军无粮，则必扰民，民无粮，则必从贼，贼无粮，则必变流贼，则从此天下无宁日矣。”湘军建军之初，有个不成文的规定，每一次战斗，一百人当中可以提拔三人，此后逐年增加。曾国藩严整军纪，对作息、操练、扎营、行军、服装、号令等都有明确的要求，并严禁抽鸦片、赌博、奸淫等不良习气。
曾国藩在用人方面很有理学家的特色，非常注意人的道德品质。他坚信“人存而后政举”，“小胜在智，大胜在德”。他要农民出身的“纯朴”的人来当下级军官和士兵，“凡募勇，取技艺娴熟、年轻力壮、朴实而有农气者，其有市井衙门气者不用”。在选用将领时，他特别强调候选人要有“忠义朴诚之气质”，“血性”、“廉明”，这比具备军事经验更重要。他要求：“带勇之人，第一，要才堪治民；第二，要不怕死；第三，要不急名利；第四，要耐受辛苦。”曾国藩宁愿用文人来带兵，他认为书生有血性、有精神，能够“扎硬寨”、“打死仗”，“朝出鏖兵，暮归讲道”。在湘军将领中，书生士人的比例达到了58%，特别是统领一路或多路的高级将领，书生的比例高达67%。
曾国藩注意教育部属，毛泽东曾评价曾国藩是中国历史上屈指可数的“办事而兼传教之人”。曾国藩既是军政长官，又是业师；部属既是工作人员，又是学子。曾国藩曾在给部属江南制造局负责人丁日昌的信中说：“局中各员譬犹弟子，阁下及藩司譬犹塾师，勖之以学，教之以身，试之以文，考之以事……”曾给曾国藩做幕僚多年的李鸿章回忆说：“在营中时，我老师总是要和我辈同时吃饭；饭罢后，即围坐谈论，证经论史，娓娓不倦，都是于学问经济有益实用的话”，“吾从师多矣，毋若此老翁之善教者，其随时随地随事均有所指示……心悦而诚服，受化于无形焉。”曾国藩注意对士兵进行精神教育，老塾师也被请进兵营讲授四书五经。
考虑到士兵们大多没有文化，曾国藩创造了一种通俗易懂的教育形式――歌谣，对士兵进行思想和技能教育，著名的有《爱民歌》、《水师得胜歌》、《陆军得胜歌》、《解散歌》、《保守平安歌》等。《爱民歌》非常详实，反映了曾国藩做事的认真，曾国藩曾说：“只一事不存心，此一事便错乱。”后世有很多带兵之人都仿效曾国藩编辑歌曲来训练教育士兵。
曾国藩治军采取了淘汰制。一支部队，打败了就地解散；如果长官死在战场上，这支部队同样解散；打胜了就给长官银子回乡再招人，一个营变成两个营，小队伍变成大队伍。这样打胜仗的部队越打越多，打败仗的部队就消亡了。湘军的基本战术是“结硬寨，打呆仗”。曾国藩崇尚“守拙”，强调“不说大话，不骛虚名，不行驾空之事，不谈过高之理”，他反对投机取巧、冒险侥幸。湘军到了一个地方，即使非常安全，也要马上安营扎寨，一丝不苟，挖壕沟、垒墙、搭篱笆都有严格的标准。湘军的主要任务是夺取城市，办法就是围。到了一个城市边上，就开始挖壕沟，每驻扎一天就挖一天壕沟，一道加上一道，无数道的围。断敌粮道、断敌出路，一直把城里的人困死。方法很笨，但是很有效，这就是“打呆仗”。太平军希望跟湘军进行野战，湘军就“结硬寨”，不理他。曾国藩就这样攻陷了安庆、九江、南京，用世界上最笨的方法打了世界上最聪明的仗。
曾国藩的对手太平天国也并非乌合之众。太平军是一支有信仰的军队，经过了中国化的天主教“拜上帝会”的教育。官兵们互称兄弟姐妹，要为上帝而战斗，为天国而献身。这些农民身上有一种质朴清新的精神，比为饷银、官位而卖命的湘军兵卒境界高很多。曾国藩打出了捍卫孔孟之道的旗号，他说太平天国的主张是对整个中国道统的毁灭，自己起兵来和太平军作战，其实主要不是去拯救满族的朝廷，不是社稷存亡、改朝换代的事情，是天下兴亡、民族存废的事情，天下士子要“奋起以卫吾道”。应该说，经过两千年的教化，孔孟之道在中国老百姓中还是很有影响力的。湘军官兵在战斗中多多少少具有了一种文化上的使命感。
维系湘军需要很大的财力，依靠政府拨付的饷银是远远不够的，曾国藩采取了非常实用的手段。早期在财政上实施的权宜措施是卖官鬻爵，监生以及各式名誉学衔证书被朝廷批给湖南再转到湘军总部出售。曾国藩被指责为“伪君子”与此就有关系，有人认为后世“卖文凭”的坦然感就源于曾国藩。当军队扩大以后，卖官爵募款是远远不够的，曾国藩在地方上新增了一些税种，厘金是其中最主要的一项。它是一种商税，对存货、运输中的货物、产地的茶叶等商品征税。表面上称厘金，实际上税率达到了百分之二至百分之十。这种商税有别于清朝以往的农业税，其权力被地方把持。省下成立了厘金局，不受中央直管的省布政使（负责财政）控制。
清朝原来的制度是省里的四大官员（总督、巡抚、布政使、按察使）分别听命于中央，到曾国藩及其部属执掌地方政权以后，权力尽归于总督、巡抚之手。为了控制地方财政来支援战争，曾国藩拼命举荐湘军部属出任总督、巡抚，这也给他的那些士大夫部属开辟了仕途。曾国藩认为自己是用慧眼识别的正直之士来改变官场的不良风气。在曾国藩的作用下，地方权力越来越大，曾国藩因此被认为是近代军阀的鼻祖。到了八国联军进攻北京，清政府号召各地“勤王”，东南各省搞起了“互保”，拒不发兵解救朝廷，慈禧太后被迫带着光绪离京。辛亥革命一声枪响，一个月之内，全国18个行省，有15个宣布独立。直到1949年新中国成立，地方权力一直是大问题。