八旗、绿营、湘、淮勇营、练军均不足依靠，而解放军势力却一日强于一日，以前纵然不重视军队，现在为了身家性命着想，也不能不对军队有所变革，不然等解放军攻入京师，万事休矣。
在战争中，满朝文武也看出来，英法联军虽然战场不利，可他的军制却比自己八旗、绿营要厉害多了，所以失利，不外乎远道而伐，势单力孤，不熟悉中国地形、气候，深入匪区后，粮草弹药补给出现问题。
为了避免祸至临头，悔之晚矣。掌握实权的内臣恭亲王认为“查治国之道，在乎自强。而审时度势，则自强以练兵为要，练兵又以制器为先。叛匪起事以来，大炮之精纯，子药之细巧，器械之鲜明，队伍之雄整，实非我大清所能及。”
外臣李鸿章走的还要远，他以为“……窃以为天下事穷则变，变则通。中国士大夫沉浸于章句小楷之积习，武夫悍卒有多粗蠢而不加细心，以至所用非所学，所学非所用。无事则嗤外国之利器为奇技淫巧，以为不必学；有事则惊外国之利器为变怪神奇，以为不能学，不知洋人视火器为身心性命之学已数百年……鸿章以为中国欲灭匪，则莫如学外国之利器，欲学外国利器，则莫如觅制器之人……欲觅制器之器与制器之人，则或专设一科取士。”
内外重臣都认为必须改变，纵然有些腐儒大夫还在说什么“祖宗之法不可变”、“国家经制之兵，垂二百余年，不敢轻议纷更，惟期实力整顿”、战场之败是因为“用人不明，与军制无涉。”可他们这些话已经不是主流了。
脑袋要紧，为了保护自己脑袋，又鉴于旧式军队已不可依，清廷在江南解放军还在与法军打得不可开交时，下令各省严汰八旗、绿营、练军十分之二三，挑选其中强壮者另立若干营，“分为常备、续备、巡警等军，一律操习洋枪洋炮，认真编练，以成劲旅”。
一八六五年（同治三年），清廷在京师设立“练兵处”，练兵处是考察和督练新军的总机关，由恭亲王负责。
和旧军（八旗、绿营、湘淮勇营、练军）相比，在编练指导思想、编练体制、兵役制度、军官制度、训练制度上，新军是完全不同的。
新军编练没有参照中国古代军事制度，而是完全学习和仿效西方军队的经验，在制度上，受俄国影响犹为深远。在军队中大量聘用俄国与英法国人担任教习训练各部（一八六六年后，英、法国人大量离开了新编陆军）。
新的制度规定清朝实行普遍义务兵役制，放弃以前采用的募兵制，改用征兵制。
新军编组诸兵种合成部队（步队、炮队、马队、长夫——也就是工程队，数种合之成一军），学习南方的解放军，在朝廷里设置参谋本部（由原来军机处发展而成）。军制方面，改变了原来的标、协、营、汛，完全学习西人（实际上是南方解放军），将常备军按军、师、旅、团、营、连、排、班序列编制。说起来，这种制度是“依照周制”，实际上完全换了汤药。
让清廷有些着急的，是军官培养和任用上，按照西方制度，军官应该从军校产生，可清廷现在没有军校，新建也来不及了，现在还暂时无法摈弃荫袭制，只能采用湘淮勇营的以战功选拔制度，所以军是新军，军官却还是旧人。这也没什么办法，只能期待以后再调整。
训练中，“训以开其智实，固其心性；练以精其技艺，增其材力。”训要求“励忠义、敬长官、守营规、勤操练、奋果敢”。练在西人帮助下，要操练步枪、火炮，埋设地雷，架桥修垒，地图测绘，战术配合、诸兵种配合上也极为讲究。
新军操练分两个阶段，士兵进入军营后，先进行三个月新兵操练，学习列队、步法及枪械使用知识，三个月后，按照步、马、炮、长夫转入专业技术操练和战术操练，步兵战术操练以营、连两级为主，演练进攻和防御各种西方战法。
自一八六五年开始草创新军，到一八六六年，一年的时间，清廷训练了六个师新军。这时法军战败，解放军拒绝了清廷求和乞求，开始全力北伐，而这些新军虽然刚刚有个规模，朝廷也不得不将这些无数银两堆积起来的宝贝投入到战场去。
建设他们，就是为了能发挥作用，总不能等人家灭了大清，这些军队还窝在后面当缩头乌龟。
新军一离开京师，马上在直隶总督官文率领下转入对京师威胁最大的太原战场：表里山河要是丢失了，平原上的京师实在不知道应该如何防范那些从山上涌下来的解放军。
左宗棠算是第一个品尝到新军滋味的解放军将领。
左宗棠指挥的第三集团军自从渡过长江后，一路北上，虽然有淮军阻截，又与僧格林沁数次交手，可那些军队根本无法对第三集团军行动构成太大威胁，到最后，连博多勒噶台亲王僧格林沁也跟个莽夫一样，挥舞着腰刀让解放军机枪打死。虽然打死僧格林沁的是第四集团军模范军部队，可第三集团军是第一个冲进襄樊的部队，两军配合