先是，洪杨既据南京，蹂躏四方，十八行省，无一寸干净土。历经十年，不克戡定，北京政府之无能力，既已暴着于天下。故英国领事及富商之在上海者，不特不目洪秀全为乱贼而已，且视之与欧洲列国之民权革命党同一例，以文明友交待之，间或供给其军器弹药粮食。其后，洪秀全骄侈满盈，互相残杀，内治废弛，日甚一日。欧美识者，审其举动，乃知其所谓太平天国，所谓四海兄弟，所谓平和博爱，所谓平等自由，皆不过外面之假名。至其真相，实与中国古来历代之流寇，毫无所异，因确断其不可以定大业。于是英法美各国，皆一变其方针，咸欲北京朝廷，假借兵力，以助戡乱。具述此意以请于政府，实咸丰十年事也。而俄罗斯亦欲遣海军小舰队运载兵丁若干，溯长江以助剿，俄公使伊格那面谒恭亲王，以述其意。
时英法联军新破北京，文宗远在热河，虽和议已定，而猜忌之心犹盛。故恭亲王关于借兵助剿之议，不敢专断，一面请之于行在所，一面询诸江南、江北钦差大臣曾国藩、袁甲三及江苏巡抚薛焕，浙江巡抚王有龄等，使具陈其意见。当时，极力反对之，谓有百害而无一利者，惟江北钦差大臣袁甲三（袁世凯之父也）。薛焕虽不以为可，而建议雇印度兵，使防卫上海及其附近，并请以美国将官华尔、白齐文为队长。曾国藩覆奏，其意亦略相同，谓当中国疲敝之际，外人以美意周旋，不宜拂之。故当以温言答其助剿之盛心，而缓其出师来会之期日；一面利用外国将官，以收剿贼之实效。于是朝廷依议，谢绝助剿，而命国藩聘请洋弁任训练新兵之事。此实常胜军之起点，而李鸿章勋名发轫之始，大有关系者也。
华尔者，美国纽约人也，在本国陆军学校卒业，为将官，以小罪去国，潜匿上海。当咸丰十年，洪军蹂躏江苏，苏、常俱陷。上海候补道杨坊，知华尔沈毅有才，荐之于布政使吴煦，煦乃请于美领事，赦其旧罪，使募欧美人愿为兵者数十人，益以中国应募者数百，使训练之，以防卫苏沪。其后屡与敌战，常能以少击众，所向披靡，故官军敌军皆号之曰常胜军。常胜军之立，实在李鸿章未到上海以前也。
今欲叙李鸿章之战绩，请先言李鸿章立功之地、之形势。
江浙两省，中国财赋之中坚也。无江浙，则是无天下，故争兵要则莫如武汉，争饷源则莫如苏杭，稍明兵略者所能知也。洪秀全因近来各地官军声势颇振，非复如前日之所可蔑视，且安庆新克复，咸丰十一年辛酉八月，曾国荃克复金陵之势益孤，乃遣其将李秀成、李世贤等分路扰江浙，以牵制官军之兵力。秀成军锋极锐，萧山、绍兴、宁波、诸暨、杭州皆连陷，浙抚王有龄死之，江苏城邑，扰陷殆遍，避乱者群集于上海。
安庆克复之后，湘军声望益高。曩者廷臣及封疆大吏有不慊于曾国藩者，皆或死或罢，以故征剿之重任，全集于国藩之一身。屡诏敦促国藩移师东指，规复苏、常、杭失陷郡县，五日之中，严谕四下。国藩既奏荐左宗棠专办浙江军务，而江苏绅士钱鼎铭等，复于十月以轮船溯江赴安庆，面谒国藩，哀乞遣援，谓吴中有可乘之机，而不能持久者三端：曰乡团，曰枪船，曰内应是也；有仅完之士，而不能持久者三城：曰镇江，曰湖州，曰上海是也。国藩见而悲之。时饷乏兵单，楚军无可分拨，乃与李鸿章议，期以来年二月济师。
咸丰十一年十一月，有旨询苏帅于国藩，国藩以李鸿章对，且请酌拨数千军，使驰赴下游，以资援剿。于是，鸿章归庐州募淮勇。既到安庆，国藩为定营伍之法，器械之用，薪粮之数，悉仿湘勇章程，亦用楚军营规以训练之。
先是，淮南迭为发捻所蹂躏，居民大困。惟合肥县志士张树声、树珊兄弟，周盛波、盛传兄弟，及潘鼎新、刘铭传等，自咸丰初年，即练民团以卫乡里，筑堡垒以防寇警。故安徽全省糜烂，而合肥独完。李鸿章之始募淮军也，因旧团而加以精练，二张、二周、潘、刘咸从焉。淮人程学启者，向在曾国荃部下，官至参将，智勇绝伦，国藩特选之，使从鸿章。其后以勇敢善战，名冠一时。又淮军之初成也，国藩以湘军若干营，为之附援，而特于湘将中选一健者统之，受指挥于鸿章麾下，即郭松林是也。以故淮军名将，数程、郭、刘、潘、二周、二张。
同治元年二月，淮军成，凡八千人。拟濒江而下，傍贼垒冲过，以援镇江。计未决，二十八日，上海官绅筹银十八万两，雇轮船七艘，驶赴安庆奉迎，乃定以三次载赴上海。三月三十日，鸿章全军抵沪，得旨署理江苏巡抚，以薛焕为通商大臣，专办交涉事。此时常胜军之制，尚未整备。华尔以一客将督五百人守松江。是年正月，敌众万余人来犯松江，围华尔数十匝，华尔力战破之，及鸿章之抵上海也。华尔所部属焉，更募华人壮勇附益之，使加训练，其各兵勇俸给，比诸湘淮各军加厚。自是常胜军之用，始得力矣。
松江府者，在苏浙境上，提督驻扎之地，而江苏之要冲也。敌军围攻之甚急，李鸿章乃使常胜军与英、法防兵。合攻松江南之金山卫及奉贤县。淮军程学启、刘铭传、郭松林、潘鼎新诸将，攻松江东南之南汇县。敌兵力斗，英法军不支，退却，嘉定县又陷，故乘胜欲进迫上海。程学启邀击大破之，南汇之敌将吴建瀛、刘玉林等开城降。川沙厅敌军万余又来犯，刘铭传固守南汇，大破之，遂复川沙厅。然敌犹雄劲不屈，以一队围松江青浦，以一队屯福广塘桥，集于泗滨，以窥新桥。五月，程学启以孤军屯新桥，当巨敌之冲，连日被围甚急。鸿章闻之，自提兵赴援，与敌军遇于徐家汇，奋斗破之。学启自营中望见鸿章帅旗，遽出营夹击，大捷，斩首三千级，俘馘四百人，降者千余。敌军之屯松江府外者，闻报震骇，急引北走，围遂解。苏防解严。
淮军之初至上海也，泰西人见其衣帽粗陋，窃笑嗤之，鸿章徐语左右曰：“军之良窳，岂在服制耶？须彼见吾大将旗鼓，自有定论耳。”至是欧美人见淮军将校之勇毅，纪律之整严，莫不改容起敬，而常胜军之在部下者，亦始帖然服李之节制矣。