話説蒙古騎兵憑藉以上種種優勢，加之當時世界上各大傳統強國的衰落，取得了系列輝煌的勝利，建立了橫跨歐亞、豆古未有的強大帝國。但是取得了空前勝利的元帝國，卻漸漸被爭奪汗位引發的內亂困擾。同時由於元朝統治者疏於內治，吏更治大幅度下滑，腐敗問題也困擾着帝國。曾經的蒙古勇土們享受着長久安逸的中原漢地生活，他們的戰鬥力也在被一點一點地消磨。
此後，尖鋭的民族矛盾和階級矛盾導致了大規模的人民反抗。“石人一隻眼，挑動黃河天下反”，紅巾軍農民起義給了元帝國致命打擊，但此時成吉思汗的子孫們卻依然忙於內戰，絲毫沒有意識到大廈將傾。
在元末大亂時局下，朱元璋橫空出世，從兩準一帶的起義軍中脱顆而出，戰勝了陳友諒、張士誠、方國珍等割據勢力，統一了江南一帶、以南京為都城，建立了明朝。此後，其兵鋒直指北方的蒙元勢力。
元至正二十七年（1367年），朱元璋任命徵虜大將軍徐達為主將、常遇春為副將統率25萬大軍，由淮河入河南進行北伐。打出了“驅逐胡虜，恢復中華，立綱陳紀，救濟斯民”的口號，目標直指元朝統治中心一一元大都。
朱元璋親自為北征軍制定了戰略：第一階段，首先攻取山東，繼而轉攻河南佔據潼關；第二階段，攻取河北及元大都，消滅元朝；第三階段，主力由大都南下攻取山西，略定陝甘，完成北方之統一。北伐戰爭基本上是按照這一戰略實施的除此之外，朱元璋還提出“北土平曠，利於騎戰”，要求穩紮穩打，以精兵開大軍隨後推進的戰術思想，要求北伐大軍騎步配合。北方的華北一帶地勢平坦空曠，非常適合騎兵衝擊。明軍面對蒙古鐵騎，在這拋帶戰將無法憑險抵禦，只能被迫以步兵抵禦騎兵衝擊。
其實，明初朱元璋的軍隊已經擁有一定量的騎兵。與張士誠、陳友諒、方國珍江南地方割據勢力相比，朱元璋麾下的騎兵數量居多。他徵張士誠時，一馬軍可以二步軍，騎兵比例很高。例如徐達與張土誠的弟弟張九六的一次野戰中，“命總管王均用率鐵騎為奇兵，達親督師與九六戰，鋒既交，均用鐵騎橫衝其陣，陣亂九六退走”。此戰明軍騎兵成為主導勝利的關鍵。
在元末明初的戰亂中，朱元璋雖能在一些戰役中派出數千鐵騎於野戰碾壓羣雄，但新生的明帝國仍然處於極度缺馬的窘況，為了蒐羅馬匹，朱元璋甚至派過使臣到琉球這種海島上買馬。明軍與元軍相比，騎兵無論在質量上還是數量上都處於極大的劣勢。
朱元璋曾對其外甥李文忠説：“王保保若見我這裏馬軍，好歹退一退，佯走一走，等我這裏軍馬離了步軍時，他卻來與戰，再説道王家這小的只是用枴子馬熟，更説必有伏馬。”
這段話充分説明了元軍將領並不懼怕明軍的騎兵，如果明軍騎兵脱離了步兵，元軍鐵騎就會尋機殲滅之。這就要求北伐的明軍必須具備以步制騎的實力，否則平原上野戰時將會被元軍借地利以騎兵優勢擊垮。
朱元璋崛起自江淮之間，除了上文提到的陸聚所部，朱元璋在攻克定州之前就招降了“驢牌寨”獲得近400人的兵力。因江淮地區不宜養馬，所以這些武裝多以使用長槍的步兵為主，馬匹多繳獲自元軍。這些民間武裝多互相攻伐，或與元軍作戰，作戰能力得到了前所未有的鍛鍊，可謂百戰精兵。此外，朱元璋在與羣雄作戰的過程中還收服了大批“長槍軍”，如準西青軍（又號長槍軍）、長興武康“花槍軍”等。長槍也即長矛，為百兵之首，更是北伐明軍以步制騎的勝利保證。
北伐明軍以這些精鋭的步兵為主力，自然不怕以騎兵為主的元軍。在強大的軍事力量保證之下，明軍一路摧枯拉朽，進展順利。
至正二十八年（1368年）閏七月間，明軍進通至大都。元順帝得知消息後，不顧大臣的反對，命令準王帖木兒不花監國，以慶童為左丞相留守京城，自己則在國七月二十八日夜帶着皇后嬪妃以及重臣們開健德門倉皇北逃。
八月二日，明軍攻克大都，準王及慶童被殺，大都被明朝改稱北平。元帝國在統治了中原漢地5年之後，成為一個歷史符號，黃金家族的後裔只能逃回他們祖先的“龍興之地”。
雖然大都被明軍攻佔，元朝也基本失去了對中原漢地的統治，但是他們仍然以元為國號。在元順帝、元昭宗愛猷識理達臘及脱古思帖木兒三朝，元朝的政治制度仍然得以基本保留。黃金家族的後商仍然統治着殘元勢力，直到後來的1388年，阿里不哥的後裔也速迭兒弒殺脱古思帖木兒篡位，“大元”國號不再使用。1402年，元臣鬼力赤位建國韃粗，北元分裂成粗和瓦刺。歷史上，把公元1368年一直到1402年這段時期的元朝殘餘政權稱為“北元”。