李鸿章回到庐州之后，便开始兴办团练，顿时得到安徽士绅的拥戴，由于当时天军在安微一带兵力溥弱，安庆天军在江北大营及各方团练的重大压力之下退回了南京外围。李鸿章回乡时，当时在安庆兴办团练的潘鼎新，吴长庆等人因是李鸿章父亲的门生，得到李回乡兴办团练的事后，便与李鸿章建立了联系，积极拥戴李鸿章。
得到了拥戴李鸿章的信心倍增，将回乡时的郁闷之气一扫而空，胸中报复再次燃起。回乡月余，李鸿章便根据两淮地区民风强悍的特性，在庐州地区组建武装团练，当时庐州地区有三股最大的武装自保组织。由于两淮之地，常年匪患丛生，又有捻军做乱，各地百姓纷纷结寨自保，这就有了当时的三大自保武装。李鸿章到了庐之后，先后拜访了庐州周边三山，既周公山，紫蓬山，大潜山的武装头目张树声，周盛波以及刘铭传等人。三人对李鸿章的才学推崇倍致，纷纷投效李鸿章门下，至此淮军初具规模，李鸿章更得到了淮军的第一位大将——刘铭传。
收服了三股势力，又得到广大士绅的拥戴支持，李鸿章信心大增，决心与盘据在安微的天军来一场较量。正好，当时天军北伐，李开芳部兵围庐州，攻打数日不息。李鸿章在大将刘铭传的建意下，发表檄文，痛阵天军在南京的恶行，号招官民团结一致共保庐州。顿时庐州城里的官民纷纷响应，士绅大户将家丁遣上城头，百姓自愿上城助战。大大减缓了庐州兵力不足的缺点。最终李开芳在庐州城下连攻数月不得而不得不转而北上。
第一场战便获得了胜利，李鸿章一时得意莫名，信心空前高涨。淮军也因此成名，成为安微地区主要的武装力量，咸丰三年，太平天国派兵北上，援救被困的北伐军，兵至池州。信心满满的李鸿章便命手下率淮军出击，欲与僧格林沁联合夹击北上之陈玉诚部天军，奈何陈玉诚指挥果断，意然放弃池州城池，主动出击，打了淮军一个措手不及，淮军大溃败，损失过半，退回庐州。陈玉诚趁胜追击至庐州，连日猛攻庐州。淮军新败士气低落，加之琪善闻得淮军败北，不战而逃。庐州在李鸿章的坚守下，死守五日，最终失陷，李鸿章被部将刘铭传率军杀开一条血路，逃回扬州，淮军一战几乎覆灭。至此李鸿章才知道天军的厉害，心灰意冷之下，想解散淮军。
“大人，胜败乃兵家之常事，只要我们重整旗鼓，定能再创发贼。大人不可轻言放弃啊。”扬州城内，部将刘铭传向心灰意冷的李鸿章郑重道。
刘铭传在历史是也是大大有名的人物，台湾的第一任总督，打败过法军舰队的进犯，是洋务派的重臣和骨干。刘铭传出生于普通的农民家庭，在家排行老六，小时得到过天花，于是在乡里，人称他六麻子。刘铭传十一岁时父亲与两个哥哥去世，没有父亲约束的刘铭传顿时参加了当地的护送私盐的队伍，后来，刘铭传因杀了一个地霸，而与乡里揭竿而起，成立乡间自保组织。成了庐州大潜山自保会的头目，但是刘铭传起事，却吓坏了他的母亲，“吓破了胆，惊吓而亡”，这成了刘铭传一生的悔恨。
刘铭传素有报国之心，只是社会黑暗，成立自保组织也是无奈之举，不然他大可以起义造反。当听说李鸿章要招募淮军的时候，刘铭传迫不及待地带着他的手下投效了李鸿章，此时李鸿章因为了一场败仗而自暴自弃，要解散淮军，刚刚找到奋斗目标的刘铭传怎能坐得住。
“唉，省三，本官只一介文士，哪里是打仗的料。”李鸿听了刘铭传的话，不由再次唉声叹气起来。他现在都快成了全安徽的笑话了，淮军尽丧他手，叫他哪里还有心思东山再起。
“大人，古之大将哪有一开始便能顺风顺水的事，我军之败混沌重生君临异界23488不过败于轻起冒进，装备不足。若能像僧格林沁那样的全是洋枪洋炮，收拾发贼还不跟玩一样。”刘铭传继续给李鸿章打气。
李鸿章一听，顿时眼冒金光。是啊，自己怎么没想到呢。要是能够装备出一支像新军那样的军队来，那打起仗来就轻松多了。毫州一战，李鸿章是知道了，三万天军瞬间即灭，无一漏网，如此战力，让李鸿章确实眼红不已。可是想想，李鸿章顿时又泄气了：“洋枪洋炮，朝廷都不足，哪里能给咱们？”
“朝廷没有，咱找洋人买，洋人不是在山西建了个兵工厂吗，”看到有希望，刘铭传哪里会放弃。
李鸿章听了，也是一振，不过现在淮军几乎全军覆没了，还得从头再来，李鸿章在屋子里打了几个转，似乎下了很大的决心一样，一拍桌子道：“好！省三，你马上再去招募兵员，本官去招集扬州士绅，看看能不能再募得一些军费购买洋枪洋炮。”
“得令！”终于打动上司了，刘铭传心喜苦狂，抱拳应了声便急匆匆地下去了。洋枪洋炮啊，要是以后淮军也能像新军那样，那可是威风八面了。刘铭传似乎看到朝廷的奖赏奔自己来了。
打发走了爱将，李鸿章也没闲着，马上让家人拿出帖子四处出动，招集扬州城里有头有脸的干绅富翁商议筹款买军火事宜。
李鸿章凭他的个人魅力，很快便从扬州富商财团手里募集到一，地临运河，南北交通的要地。各地盐商云集在此，富人到处可见。天军兵临庐州，扬州士绅大户人心紧张，生怕发贼进城之后的手段。天