1368年8月明军攻陷大都后，于第二年六月进行了第一次北伐。由常遇春帅步骑九万出北平，经过会州、锦州、全宁（今内蒙古翁牛特旗地方）、攻下了开平。元惠宗逃到开平以北的应昌，即现内蒙古达来淖尔湖的西南岸。一代名将常遇春，在完成这次任务后，暴疾卒于回师途中，年仅40。代替常应付东面战场的是李文忠。
扩廓此时在西方，可能是作为对明军第一次北伐的牵制，扩廓带军包围了明将张温据守的兰州。明军派出的援军被扩廓全歼，援军首领于光也被残害。
在这种情况下，明军立即于洪武三年一月三日开始了第二次北伐。在制定进攻方略时，包括名将徐达在内的所有将领都异口同声地建议大军直扑应昌，逼扩廓从兰州撤兵。可见徐达等人都不太情愿直接与扩廓交锋。但太祖力排众意，命令明军兵分两路。西路由大将军徐达自潼关经西安救兰州，寻机歼灭扩廓；东路由左副将军李文忠出居庸关，直捣应昌。这是使敌人“彼此自救，不暇应援”的方略。（《明鉴易知录·卷一》）战事进行到四月，东西两线都发生了惊天动地的大事变。东线是元惠宗于4月28日因病突然逝世，元惠宗孛儿只斤氏，讳妥欢帖睦尔，蒙古文献称为乌哈图汗。在位37年，年51岁。在位期间荒淫无度，任用奸党，戕害忠良，对南方的反叛也姑息任之。但他心灵手巧，曾制造宫漏，奇妙无比，又会观天象。可惜成吉思汗打下的大好江山毁在他手里。他的儿子爱猷识理达腊即元昭宗，比力克图汗即位，改元宣光。（元朝-宣光元年为第二年即明朝-洪武四年，本年仍为至正30年）在此国丧前后，李文忠已经先后夺取了应昌外围的重要据点兴和、察罕淖尔等地，五月13日，李文忠在离应昌百余里的地方从一俘虏的口中得知元惠宗死讯，督师急弛两日至应昌，“明日克之，获元主嫡孙买的里八剌并后妃宫人……唯太子爱猷识理达腊与数十骑遁去。文忠亲帅精骑追之，至北庆州，不及而还。”（《明实录》）。东方战场以北元的惨败告终，《皇明资治通纪》在评论第二次北伐东方战场时记载：“大军所至，朔廷遂空。”
西部的扩廓也遭到了惨败，这就是明初的沈儿峪之战。扩廓在听说徐达援兰州的消息后，急忙固守兰州东面的定西准备迎击。四月，徐达在沈儿峪全歼扩廓军。“达出安定，驻沈儿峪口，与王保保隔深沟而垒，一日，达整众出战，大败王保保兵于川北乱冢间，……保保与其妻子数人从古城北遁去，至黄河，得流木以度，遂出宁夏奔和林。”（《明鉴易知录，卷一》）西部的战事也结束了。
扩廓逃到和林不久，元昭宗也来到这里（和林是成吉思汗的故都，又称哈喇和林，1912年一个外国人在外蒙的额尔德尼昭地方发现著名的兴元阁碑，证明这里就是古代的和林），对扩廓以国事任之。从此扩廓开始了独撑将倾天下的重任。
到了1373年，朱元璋集结了15万军队，分三路第三次北伐。中路大将军徐达，由雁门直趋和林，摧毁元朝的指挥部；东路左副将军李文忠由居庸关至应昌，然后直扑土拉河，从西北面攻击和林（几乎是长春真人丘处机西游的路线）；西路征西将军冯胜出金兰取甘肃，各将兵五万。
东路军李文忠一直打到胪朐河，接着在土剌河击溃哈喇章等，进至拉鲁浑河畔的称海，被蒙古大军包围，李文忠勉强撤退。但损失惨重。
中路军徐达遇到的是劲敌扩廓帖木儿。这一次，在明与北元的大对决中，扩廓巧妙而坚决地击败了明朝第一大将徐达。扩廓用诱敌之计将明军逐渐引入其纵深。徐达的先锋是常遇春的内弟、后来在洪武21年威震漠北的蓝玉，出雁门后，在野马川（《口北三厅志》云，野马川在“宣府西路膳房堡口外”）遇到胡寇，追至乱山（位置待考），取得了小胜。接着到了土剌河，“与王保保遇，击败其众，保保遁去。”很明显，扩廓在诱敌深入。他亲自率领小部队且战且退，把敌人引向和林。而他手下的大将贺宗哲率领主力在和林以逸待劳。果然，“扩廓遁，与贺宗哲合，而拒我兵于岭北。时，师数发（左谷右瓦），而心易虏，骤与之战，不利，死者万余人。”（《明史·纪事本末》）可见，扩廓的诱敌之计使明军轻敌而惨败。
西路军冯胜却取得了意外的胜利。但由于失败的两路是当时有名的战将中的头两位，如果表彰了冯胜等于羞辱了徐达和李文忠，所以太祖借故没有给冯胜赏赐。至此，洪武五年的北伐以明军的惨败而告终。 对这次惨败，明史诸典籍均一笔带过，不做太多的评论。但史料的蛛丝马迹可以看出这次的惨败对太祖来说实在是刻骨铭心。叶子奇的《草叶子》中说，“分三路出讨，至漠北大败，死者先后约40余万人。”明初谋臣刘基在北伐之初“尝言于太祖曰：扩廓未可轻也。至是帝思其言，谓晋王曰：吾用兵未尝败北。今诸将自请深入，败于和林，轻信无谋，致多杀士卒，不可不戒。……自是明兵希出塞矣。”（《明史·扩廓帖木儿传》）
扩廓掌兵后，于当年十一月攻下益都，俘获田丰、王士诚等人，为察罕帖木儿报了仇