從西羅馬滅亡到公元十一世紀這段時間裡，西歐發生了很大的變化。從最開始日耳曼蠻子們大舉入侵，搞得西歐一片廢墟。那時候，這些日耳曼蠻子們還是些剛從原始社會出來的，談不上什麼國家政治形態。然而隨著這些個日耳曼人的慢慢發展，西歐開始漸漸地步入了封建制度。
那時候，西歐的封建制度跟我國西周時期的制度很相似，大致就是封邦建國的意思。也就是說，國王把全國的土地分封給自個兒的親戚和在戰場上立了功的將軍，讓他們各自守著一塊地兒當領主。然後這些領主們再把自己的封地把分封給自己手下的馬仔。然而到了公元九世紀的時候，由於維京強盜的肆虐，維京人在西歐形成了一個又一個的定居點。為了對付維京人，西歐的國王們只好讓自個兒的封臣們自己加緊操練兵馬，修好城堡，看好自己的封地。但這樣做有一個後果就是封臣們的勢力漸漸地越來越大了，甚至有不少封臣的勢力超過國王了。這麼一來，羅馬教皇就看到了機會了。
自從西羅馬帝國滅亡以後，羅馬教會的子過得挺憋屈的，不斷地找靠山，先是靠著克洛維，後來又靠著丕平、查理曼，再後來又是靠著奧托。可是根據奧托當年和教會籤的協議，教皇的權力比較有限，連教皇的人選都得由德國的皇帝說了算，教皇猶如皇帝手裡的傀儡，讓幹什麼就幹什麼。可是現在西歐的封建領主勢力越發坐大，德國也變成了諸侯割據的局面，皇帝的話已經沒幾個會聽了。於是，對於想羅馬教會來說，是個絕佳的機會。
公元1059年，當時的羅馬教皇尼古拉二世看到當時德國的皇帝是一個不到十歲的小孩兒，根本不懂事。於是就在這一年，羅馬教會在羅馬城的拉特蘭宮裡邊兒開了一個會，宣佈以後教皇的人選由主教們提名，然後再經過教會內部的選舉產生。意思就是說，從今天起，皇帝再也沒有權力去決定教皇的人選，而是教會內部決定。當時皇帝那邊根本無人過問，因為他們都在忙著內鬥。
到了公元1073年的時候，教皇尼古拉二世突然得病死了，格里高利七世繼位。格里高利七世上臺大約兩年後，頒佈了一道命令，宣佈今後德國境內所有的主教都得由他教皇來任命。這下子激怒了亨利四世，人家一定要跟羅馬教會討個說法。
就在格里高利七世宣佈自己擁有主教任命權的第二年，亨利四世召集了一幫主教在沃爾姆斯城開了一個會，在會上，亨利四世極盡所能地批判了教皇格里高利七世。而作為回應，教皇格里高利七世將亨利四世的教籍給開除了。由於當時西歐的老百姓都普遍信仰基督教，從心底裡很難接受一個被開了教籍的人來自己的國王。除此之外，一些手握重兵的大領主們早就想把亨利四世轟下臺，正愁找不到藉口呢？結果這回亨利四世的內心十分恐慌，自個兒又缺兵少馬地，很難打得過這些手握重兵的大領主們。現在對亨利四世來說，如果想要保住他頭上的王冠，就直剩下一條路可以走了，那便是去求教皇開恩。
在公元1077年，亨利四世就帶著幾個隨從，在大冬天的情況下翻過阿爾卑斯山，到格里高利七世住著的卡諾莎城堡去上門求情。教皇格里高利七世想要殺一殺亨利四世的銳氣，所以將其拒之門外。於是，亨利四世只好大門前死磕，一連跪了三天。格里高利七世的旁邊的那些主教們實在是看不下去了，便幫著說好話，打圓場，這才使得教皇勉強答應見亨利四世。最後，亨利四世總算是得到了教皇格里高利七世開恩，恢復了他的教籍。這就是歐洲歷史上著名“卡諾莎之行”。
可是當亨利四世回去以後，國內那幫貴族已經另立了一個新的國王，而且這新國王還給教皇格里高利七世表忠心，不僅送了大量的錢財，而且再把自己兒子送到羅馬城去當人質。這時候教皇格里高利七世的表現就顯得非常不厚道，他一看這新國王這麼殷勤，轉臉就不認亨利了，對外宣佈承認新國王。亨利四世這時才發現自己在卡諾莎是白跪了三天三夜，一氣之下就豁出去拼了，帶著自己家裡那點兒軍隊卻跟新國王打架。
不過好在，亨利四世的處境已經同之前大不一樣了，因為教皇格里高利七世已經恢復了亨利四世的教籍，而且這件事的前前後後老百姓們已經大致瞭解了，很明顯就是教皇理虧了，因此紛紛都支援亨利。於是，同新國王打了幾年後，成功地奪回了自己的王位。可是沒想到的是教皇格里高利七世又跳出來了，再次宣佈開除亨利四世的教籍。這時亨利四世已經今時不同往日了，手上是要兵有兵，要錢有錢。於是亨利四世直接率軍殺向羅馬城，逼的教皇格里高利七世倉皇出逃，最終死在了外面，然後亨利四世還自己給自己加冕，當上了皇帝。
雖然亨利四世同教皇格里高利七世的這場爭鬥，最後是他贏了；但其背後皇權與教權的鬥爭，結果卻是輸了。因為亨利四世給教皇下跪磕頭，一下子開了教權凌駕於皇權之上的先河。