洪武五年（1372年）正月至十一月，朱元璋又对北元进行第二次征伐。又称岭北之战。此战结果，徐达的主力中路军大败，李文忠的东路军得失相当，仅冯胜的西路军获胜。第二次北征以失败告终。
明洪武三年（1370年），明军第一次北征沙漠，将东北方面之元嗣君爱犹识理达腊和陕甘方面的元将扩廓帖木儿压缩到和林（今蒙古乌兰巴托西南之哈尔和林）以北地区，暂时减轻了明朝北边压力（参见明太祖第一次北征沙漠之战）。
至明洪武五年初，塞外各地的故元势力，经过年余休养生息，再趋活跃，东自开元（今吉林农安），西至甘肃、宁夏北部以及各塞要地，均为故元势力所控制，且不断南犯。
明朝君臣对故元的态度出现分歧，朱元璋主防，魏国公徐达主攻。经过讨论权衡，朱元璋接受主攻意见，于明洪武五年正月二十二日，命徐达为征虏大将军、曹国公李文忠为左副将军、宋国公冯胜为右副将军，各率兵5万人，分三路出征。
朱元璋的作战方针是：以徐达为中路，出雁门关趋和林，扬言急趋和林，实则缓慢进军，诱元军出战而歼灭之；李文忠为东路，出居庸关经应昌（今在内蒙古阿巴哈那儿旗辖境）趋和林，出其不意，攻其不备；冯胜为西路，出金兰（地点不详，疑为金县、兰州之合称）趋甘肃，以疑元军，使其不知所向。
这一战略部署，以中路为正，东、西两路为奇，奇正并用，三路合击。中路军于二月二十九日进至山西境内，徐达以都督佥事蓝玉为先锋，先出雁门关，败扩廓帖木儿游骑于野马川（即胪朐河，也即今克鲁伦河，位于今中蒙边境）。
三月二十日，蓝玉又败扩廓帖木儿于土剌河（即今土拉河，位于蒙古乌兰巴托西），扩廓逃去，与元将贺宗哲联合，在岭北（元朝岭北行省，包括今内蒙古东部、北部、黑龙江一部、蒙古和俄国西伯利亚中部的广大地区，这里具体为何地，不详）一线抵御明军。
五月初六日，徐达兵至岭北，轻敌冒进，骤然交战，被元军击败，死万余人，被迫敛军守塞。七月十一日，偏将军汤和在断头山（今宁夏宁朔东北约300里处）败绩，指挥同知章存道战死。西路军进至兰州以后，颍川侯傅友德率骁骑5000败元将失刺罕于西凉（今甘肃武威）。
进至永昌（今属甘肃），再败元太尉朵儿只巴于忽剌罕口，获辎重牛马甚众。然后与冯胜主力会师，败元兵于扫林山（今甘肃酒泉北），斩首4000余级，擒其太尉锁纳儿加、平章管著等人，军威大振。
六月初三日，逼降元将上都驴，获吏民830余户。师抵亦集乃路（今内蒙古额济纳旗东南），故元守将伯颜帖木儿举城降，继败元军于别笃山口（地址不详），获元平章长加奴等270人及马驼牛羊十余万头。元岐王朵儿只班遁去。傅友德率兵追至瓜州（今甘肃安西）、沙州（今甘肃敦煌西北），又败元军，获金银印、马驼牛羊2万头而还。
东路军于六月二十九日抵达口温（今内蒙古查干诺尔南），元军闻讯而遁，获牛马辎重无算，经哈剌莽来（今蒙古洪戈尔）至胪朐河。李文忠留部将韩政守辎重，亲率大军轻装急进，在土剌河、阿鲁浑河（即今鄂尔浑河，位于蒙古乌兰巴托西北）一带与元将蛮子哈刺章激战数日，元军败退，获人马以万计，明军亦死伤不少。
李文忠率师追至称海（今蒙古哈腊乌斯湖南，哈腊湖西），元兵复集拒战，李文忠见元军气势甚锐，乃敛兵据险自固并张疑兵，元军惧有伏兵，不敢逼近，遂引军而去。李文忠班师而还。十月二十四日，西路军冯胜班军回京。十一月，因塞外苦寒，一时难以作战，遂令中路军徐达、东路军李文忠班师。
第二次北征中的三路明军，基本是各自为战，没能按照战前制订的策略配合，因此按所遇对手的强弱，命运各不相同。孤军深入到达北元首都和林一带的中路军和东路军都被北元拼死反击而损失很大。此战，主力中路军战败，东路军得失相当，仅西路军获胜，明军失败的主要原因是轻敌冒进及辽东粮食基地依然在纳哈出手中。