淮軍的創(chuàng)建者，李鴻章與呂賢基一起操辦過(guò)團(tuán)練，但是因沒(méi)什么作戰(zhàn)經(jīng)驗(yàn)，經(jīng)常被打敗。后來(lái)去投奔在江西的曾國(guó)藩，在曾剃頭的湘軍做了幕僚四年，但是在湘軍他一外人在此居高位，引起他人不滿。李鴻章在湘軍遭到湖南籍將領(lǐng)的排擠，李鴻章決定要自己干出一番事來(lái)不能一直在別人手下。

后來(lái)機(jī)會(huì)來(lái)了，他開始去操辦新的團(tuán)練，不過(guò)他拉的這支團(tuán)練還是大敗，他后來(lái)看到東鄉(xiāng)團(tuán)練發(fā)現(xiàn)這些團(tuán)練就不錯(cuò)，都打過(guò)仗，他發(fā)現(xiàn)這些團(tuán)練是太平軍來(lái)了就一起打太平軍，太平軍走了就護(hù)好自己。李鴻章決定將他們組一支軍隊(duì)，在收了這批人后李還要將，于是他便到湘軍那哭窮，借來(lái)了一些將。其中就有程學(xué)啟這個(gè)悍將，淮軍組建起來(lái)剛開始的編制是跟湘軍一樣的。

淮軍剛開始的時(shí)候人數(shù)就6500人左右，后來(lái)乘數(shù)十艘小火輪趕到***助防御太平軍，剛來(lái)到上海時(shí)，淮軍與其他在上海的清軍和租界內(nèi)的各國(guó)軍隊(duì)相比那就是一群叫花子！李鴻章還因此獲了個(gè)叫花頭子的稱號(hào)，那些盼望淮軍到來(lái)的鄉(xiāng)伸土豪看到淮軍這副樣子不免有些失望，他們懷疑自己花大錢請(qǐng)來(lái)的淮軍真的能打嗎？不過(guò)后來(lái)的幾次戰(zhàn)斗也向這些懷疑淮軍戰(zhàn)斗力的人證明了，他們雖然看起來(lái)破破爛爛，但是戰(zhàn)斗力可不差。后來(lái)又與洋槍隊(duì)配合多次與太平軍戰(zhàn)斗，在這期間李鴻章發(fā)現(xiàn)洋槍洋炮的好使，為了不一直依靠洋槍隊(duì)便決定引進(jìn)這些洋淮軍到了后期已經(jīng)不再需要洋槍隊(duì)可以自己作戰(zhàn)，在蘇、浙等地與太平軍激戰(zhàn)，在平定了太平天國(guó)這一亂后又去平捻軍，在1865年至1868年間，作為清軍主力，在曾國(guó)藩、李鴻章率領(lǐng)下，先后在安徽、湖北、河南、山東、江蘇、直隸等地，與捻軍作戰(zhàn)。捻軍被鎮(zhèn)壓后，淮軍擔(dān)負(fù)北自天津、保定，南迄上海、吳淞，南北數(shù)千里江海要地的防守。把營(yíng)制也進(jìn)行了整改，不再是模仿湘軍而是仿照洋人進(jìn)行編制，還將原先裝備的劈山炮改為開花大炮。把原先裝備的抬槍、小槍都通一換為洋槍，并且聘用西洋教官，以西洋方法訓(xùn)練軍隊(duì)。不過(guò)淮軍還有弊端，淮軍并未改變勇營(yíng)舊制，因而體制本身存在種種矛盾和弊端，例如，營(yíng)以上指揮困難，統(tǒng)領(lǐng)與統(tǒng)領(lǐng)之間各不相下?；窜娧悠肝餮筌姽賰H用于平時(shí)教練，戰(zhàn)時(shí)調(diào)度仍由將弁?；窜姷慕y(tǒng)領(lǐng)、營(yíng)官、哨官都未習(xí)西法，作戰(zhàn)時(shí)由他們妄行調(diào)度，軍隊(duì)平日所學(xué)全歸無(wú)用。

淮軍后來(lái)部分人員進(jìn)入北洋，在甲午戰(zhàn)敗后北洋遺留人馬和一些淮軍舊將被編為新軍，新軍后來(lái)有當(dāng)軍閥的，有當(dāng)土匪的，或者脫了軍裝不干的。