组建淮军
咸丰十一年（1861年）夏，西乡团练头目得知曾国藩就任两江总督，安徽人李鸿章在幕中主持机要时，就公推曾任李文安幕僚的张树声向李鸿章、曾国藩上了一道禀帖，洞陈安徽形势，并表示了愿意投效的决心。曾阅后大为赏识，亲笔批示“独立江北，真祖生也”。由于庐州团练的这些基础和李鸿章在当地的各种关系，淮军的组建、招募比较顺利。
李鸿章首先通过张树声招募了合肥西乡三山诸部团练。接着，又通过前来安庆拜访的庐江进士刘秉璋与驻扎三河的庐江团练头目潘鼎新、吴长庆建立联系。潘、刘自幼同学，又同为李鸿章父亲李文安的门生，吴长庆的亡父吴廷香也与李文安有旧交，自然一呼而应。
同治元年（1862年）春节过后，淮军最早的部队树（张树声）、铭（刘铭传）、鼎（潘鼎新）、庆（吴长庆）四营即陆续开赴安庆集训。与此同时，李鸿章还命令三弟李鹤章回合肥故乡招募旧部团练，响应投军的有内亲李胜、张绍棠，昔年好友王学懋，以及父亲李文安的旧部吴毓兰、吴毓芬等。
首批四营淮军抵达安庆后，曾国藩极为重视，亲自召见各营将领加以考察，并亲为订立营制营规。曾国藩担心新建的淮军兵力太单薄，还从湘军各部调兵借将，其中整营拨归淮军的有：
1、属于湘军系统的“春”字营（张遇春）和“济”字营（李济元）；2、太平军降将程学启“开”字两营；3、湖南新勇“林”字两营（滕嗣林、滕嗣武）以及后到的“熊”字营（陈飞熊）和“垣”字营（马先槐）；4、曾国藩送给李鸿章作为“赠嫁之资”的亲兵两营（韩正国、周良才）。其中，以桐城人程学启部“开”字两营作战最为凶悍，士卒多系安徽人（丁汝昌当时即在该部）。这样，李鸿章初建的淮军，就有了14个营头的建制（每营正勇505人，长夫180人，共685人）。
同治元年（1862年）二月，曾国藩在李鸿章陪同下，检阅已到达安庆集结的淮军各营，淮军正式宣告建军。随后，上海士绅花银18万两，雇英国商船7艘，将淮军分批由水陆运往上海。由于“济”字营留防池州，因此乘船入沪的淮军共计13营约9000人。李鸿章本人于三月十日随首批淮军抵沪。3月经曾国藩推荐任江苏巡抚，12月改为实授。
李鸿章受任之初，形势极为严峻。当时上海是全国最大的通商口岸之一，华洋杂处，是江南财富集中之地；淮军抵达时，正值太平军第二次大举进攻，能否守住上海并徐图发展，是摆在李鸿章面前的最大考验。李鸿章牢记恩师的教诲“以练兵学战为性命根本，吏治洋务皆置后图”。而由上海官绅组建的“中外会防局”，一心指望外国雇佣军抵御太平军，对洋人百般献媚，他们和外国军队对淮军不以为然，“皆笑指为丐”。面对这种情况，李鸿章激励将士说“军贵能战，待吾破敌慑之”。不久，淮军果然于当年下半年独立进行了虹桥、北新泾和四江口三次恶战，李鸿章亲临前线指挥，成功守住了上海，让中外人士对淮军刮目相看。
淮军到沪未及一年，“尽改（湘军）旧制，更仿夷军”，转变成了装备洋枪洋炮，并雇请外国教练训练的新式军队，大大提高了战斗力；同时，李鸿章还采用一系列招降纳叛，兼收并蓄的措施，扩充实力在掌握地方实权后，他在江苏大力扩军，使淮军在2年内由6000多人增至六、七万人，成为清军中装备精良、战斗力较强的一支地方武装。李鸿章到上海后，同外国雇佣军（后组建为常胜军）进攻太平军。