北魏胡太后再次聽政以後，寵信小人，政務荒廢，恩德不施，威信不立，結果國內盜賊四起，朝廷控制的疆域一天比一天小。梁大通二年(公元528年)二月，北魏孝明帝元詡突然去世，胡太后立皇女為帝。過了幾天，又立前臨洮王元寶暉的長子元釗為帝。元釗當時才三歲，胡太后想更長久地掌權，看中他年幼，所以才選中他。
爾朱榮為北魏車騎將軍、儀同三司，以及並、肆、汾、廣、恆、雲六州討虜大都督，手握重兵，朝廷也很忌憚他。爾朱榮聽説胡太后立了小皇帝，大怒，對元天穆説：“皇上駕崩的時候已經十九歲，天下人還稱他為小皇帝，況且現在立一個還不會説話的小兒統治天下，想求得長治久安，怎麼可能？我準備率領騎兵奔赴國都，哀悼皇帝，剪除奸佞小人，另立一位年長的皇帝，怎麼樣？”元天穆説：“如果這樣，那是伊尹、霍光於今日重生。”
於是爾朱榮上書朝廷，對元詡暴死的原因表示了懷疑，要求太后讓他回到京城，參預國家大事，調查元詡的死因，誅殺朝中奸佞，另選合適的皇室成員繼承皇位。爾朱榮的堂弟爾朱世隆，當時任直閣。胡太后派他去晉陽慰問爾朱榮。爾朱榮想把他留下，爾朱世隆説：“朝延懷疑兄長，才派我來，現在把我留下。就會讓朝廷能預先防備，不是好辦法。”於是送爾朱世隆回去。
爾朱榮跟元天穆商量，認為彭城武宣王元勰有功，他的兒子長樂王元子攸一向有很高的聲望，想立元子攸為帝。爾朱榮又派侄子爾朱天光與親信奚毅、奴僕王相到洛陽，與爾朱世隆秘密商量。爾失天光與元子攸見面，詳細陳述爾朱榮的心意，元子攸答應了。爾朱天光等人回到晉陽，爾朱榮仍然猶豫不決，於是用銅為皇室的子孫鑄造銅像，只有元子攸的銅像鑄造成功。於是爾朱榮從晉陽起兵，爾朱世隆逃出京城，在上黨與爾朱榮會合。
胡太后得知後，非常恐懼，把王公大臣全召進宮商量。宗室大臣都很痛恨胡太后，沒有人説話。只有中書舍人徐紇一個人説：“爾朱榮這個胡人，敢起兵進犯朝廷，文武禁軍絕對可以制服他。只要守住險要關口，以逸待勞，就能打敗他們。”胡太后認為徐紇説的對，任命黃門侍郎李神軌為大都督，率領軍隊抵擋，副將鄭季明、鄭先護率領士兵守護河橋，武衞將軍費穆屯兵小平津。
爾朱榮的軍隊抵達河內，爾朱榮派王相秘密進入洛陽城，迎接長樂王元子攸。四月初月九，元子攸與他的哥哥彭城王元劭、弟弟霸城公元子正悄悄地從高渚渡過黃河。初十，在河陽與爾朱榮會合，將士們都稱他萬歲。十一日，大軍渡過黃河，元子攸即位後，任元劭為無上王，元子正為始平王，爾朱榮為侍中、都督中外諸軍事、大將軍、尚書令、領軍將軍、領左右，封為太原王。鄭先護平時與元子攸交好，聽説他已即位，就與鄭季明一起打開城門，迎接爾朱榮的軍隊。李神軌抵達河橋，聽説北中已經失守，就立刻逃了回來。費穆拋下軍隊，先投降了爾朱榮。胡太后把元詡的後宮嬪妃召集起來，命令她們都出家，自己也削了頭髮。
爾朱榮召集百官迎接皇帝車駕。十二日，百官捧着皇帝的玉璽、印綬，準備法駕，從河橋迎接孝莊帝元子攸。十三日，爾朱榮派騎兵抓獲了胡太后和小皇帝，把他們送到河陰。胡太后對爾朱榮説了很多懇求的話，爾朱榮拂袖而起，下令把胡太后和小皇帝沉入黃河。