1341年，伊萬去世，他的兩個兒子—謝苗一世和伊萬二世先後繼位。他們都小心翼翼地侍奉金帳汗，以保住弗拉基米爾大公頭銜，並不斷擴張莫斯科公國的領地。1359年，伊萬的孫子季米特里繼位，這時金帳汗國因內部分裂已開始衰弱，季米特里漸有不臣之心。他把莫斯科公國周圍的木牆改為石牆以加強防禦，同時繼續對鄰近各公國作戰，強迫他們臣服自己。
1380年，季米特里終於與金帳汗爆發公開對抗，金帳汗率領大軍進攻莫斯科公國季米特里率軍迎戰，雙方在頓河之濱的庫利柯沃原野展開激戰，此時的蒙古軍已不復當年之勇，季米特里擊退了金帳汗的進攻。這是羅斯人第一次在與蒙古人的作戰中獲勝，季米特里也因此獲得了“頓河英雄”的稱號。雖然莫斯科公國此後仍臣服於金帳汗國並向其繳納貢賦，但是此仗打破了蒙古人不可戰勝的神話，威震羅斯諸公國
1389年季米特里去世後，瓦西里一世、瓦西里二世、伊凡三世相繼繼位，在與羅斯諸公國的爭奪中，莫斯科公國的實力日漸強大1473年，伊凡三世因前妻病逝，迎娶了拜占庭帝國末代皇帝君士坦丁十一世的侄女索菲亞為第二任妻子。拜占庭於1453年已被奧斯曼土耳其滅亡，皇帝戰死，索菲亞隨其父逃到羅馬教廷避難。當時土耳其已佔領了巴爾幹半島和希臘全境直接威脅到意大利東部各國。羅馬教皇希望通過與伊凡三世的聯姻，使拜占庭滅亡後的莫斯科公國這個東正教的最後支柱，加入以羅馬教廷為中心的天主教的基督教會，以統一天主教和東正教。並且促使伊凡三世從北面發動對伊斯蘭教土耳其人的戰爭，以減緩土耳其對歐洲的威脅
伊凡三世同意了這門婚事，迎娶了索菲亞，但是他卻並沒有與土耳其為敵，因為他根本沒有能力去與土耳其人作戰。莫斯科公國雖然已成為了羅斯諸國中實力最強的國家，但他們的生存環境仍然很險惡。西面有強大的波蘭立陶宛聯盟，當時的波蘭立陶宛聯盟佔據有現在的白俄羅斯和烏克蘭，領土北臨波羅的海，南達黑海，實力強大，他們正在不斷向東蠶食推進。南面和東面則有金帳汗國分裂而成的幾個汗國，這些遊牧人國家不斷地對羅斯諸國發動侵擾掠奪，因此伊凡三世自顧不暇。而且伊凡三世也沒有加入以羅馬教廷為中心的基督教會，反而因此而名正言順的以東羅馬帝國的繼承者和正統的基督教東正教的領袖自居他還把東羅馬帝國的雙頭鷹標誌鑲嵌在克里姆林宮的大門上，作為繼承羅馬帝國的象徵。這種雙頭鷹標誌後來成了俄羅斯帝國的微章。
伊凡三世苦心經營，不斷擴張領土，他不僅使用軍事力量，而且善於使用外交手段，羅斯托夫、雅羅斯拉夫爾、韋列亞等城邦都是使用外交手段收為己有的。在把周邊諸城邦陸續併入版圖後，他把目光投向了諾夫哥羅德，他先是利用諾夫哥羅德的親莫斯科派貴族，試圖用外交手段説服諾夫哥羅德承認莫斯科的主權，但是遭到拒絕。1477年，他率軍包圍了諾夫哥羅德，但是圍而不攻，圍城數月後，諾夫哥羅德因斷糧而不得不投降，伊凡三世兵不血刃，把莫斯科公國的領土向北方擴展了數百公里。此後伊凡三世又相繼兼併了特維爾等幾個羅斯公國，基本統一了東北羅斯。
日益強大起來的伊凡三世決心擺脱蒙古人的統治，而此時的金帳汗國已經分裂成了幾個互相敵對的汗國，實力大衰。為了抗衡金帳汗國和立陶宛，伊凡三世用重金買通從金帳汗國分裂出去的克里木汗國的上層貴族，終於與克里木汗國結成了聯盟。1476年，金帳汗國派使者前來索要貢賦，伊凡三世斷然拒絕。使者當場與伊凡三世大吵起來，伊凡三世一怒之下殺掉了使者。一場大戰在所難免，伊凡三世做好了準備。
1480年夏，等候已久的大戰終於來了，金帳汗阿合馬親率大軍征討莫斯科，伊凡三世率軍迎戰，兩軍在距莫斯科不到200公里的奧卡河隔河相拒。看到河對岸的莫斯科軍嚴陣以待，阿合馬汗決定避其鋒芒，回進攻。他下令移師西進，繞過莫斯科軍集結地，從南面迅速推進至烏格拉河南岸，意圖從南方向莫斯科發動進攻。同時派人去盟國立陶宛，請求速派援軍夾擊莫斯科。但是阿合馬汗進抵烏格拉河後，發現莫斯科軍已出現在對岸，而且沒有渡船，他無法強行渡河。他下令就地安營紮寨，等待立陶宛援軍，此時已是深秋，他希望冬季河上結冰以後，會同立陶宛援軍一舉消滅對岸的莫斯科軍。
10月下旬，烏格拉河結冰了，但是立陶宛援軍一直沒來，而且他們也來不了了，立陶宛遭到了莫斯科公國的盟友克里木汗國的進攻。而單以金帳汗國的軍力現在已無法打敗嚴陣以待的莫斯科軍，阿合馬汗思考再三，至11月中旬，只得悻悻撤兵而去。莫斯科公國從此再也不向金帳汗國繳納貢賦，結束了蒙古人對羅斯人長達240年的統治。1502年，衰敗的金帳汗國被克里木汗國滅亡。