在1368年7月末，当朱元璋的大将徐达率军刚刚抵至通州时，元顺帝就怯懦地放弃了元大都，仓皇北逃到了上都开平。自此元朝在中国的统治结束。但元人并没有就这么简单地退出历史舞台，逃至蒙古草原的北元流亡政府又继续维持了一段时间。
元廷最初北迁的时候，元人仍保存着完整的统治机构和相当的军事力量。当时的蒙古政权所控制的疆域，东起贝加尔湖、兴安岭山麓，西到天山，北至额尔齐斯河及叶尼塞河上游，南抵长城。并且与各藩国仍保持着联系，其中，有东面的高丽、西面的蒙兀儿斯坦、中亚的帖木儿帝国等。
就中原地区而言，在山西和甘肃，有中书左丞相王保保所统率的10万大军，陕西则是元汉将李思齐的势力范围，辽东方面更盘踞着纳哈出的20万雄师。另外，辽阳、云南、今河北卢龙县、甘肃、宁夏、新疆地区以及青海都依旧被元人所控制着。可见，如果不是元人内讧的话，朱元璋想要北伐，势必困难重重，难以如愿。
元廷北迁不久，就力图恢复在全国的统治。首先，元顺帝命王保保率兵出雁门关，由保安州经居庸关进攻大都。明将徐达采用了机变的战术，他趁王保保出兵大都之机，突袭元军后方重镇太原。王保保至保安州得到情报后，被迫收兵。双方在太原地区陷入僵局。王保保缺少粮草，知道轻易与明军交战绝对讨不到什么便宜，于是在太原城西安营扎寨，准备等待时机，与明军一决。不想王保保的部下暗投明军作了内应，明军夜袭王保保军营，王保保大败，仅率十八骑突围出去逃到了大同。
1369年5月，顺帝又命令丞相也速率万余骑兵出山西营于白河。通州明军守备力量薄弱，但由于明将曹良臣采取了虚张声势的战术，也速不明真情撤军，从而解除了元大军压境的威胁。同年8月，顺帝迁都达里泊（达赉湖），命令脱列伯、孔兴以重兵攻大同，为进攻大都铺平道路。明将李文忠率军出雁门关，两军在今山西马邑上方遭遇，进行了一场恶战。