北伐成功後，中國完成了形式上的統一，而蔣介石也成為了各方名義上的領導者。但是這個領導地位非常不穩。
雖然滅掉了諸多禍亂百姓的軍閥，統一了中國，但是這裏面少不了馮玉祥、閻錫山、李宗仁的幫助，這三位的部隊加在一起足有近90萬之多，而蔣介石的中央軍不過30多萬而已，所以對這三位“巨頭”，蔣介石頗為忌憚。
於是為了能更牢固地掌握權力，蔣介石提議裁減軍隊，至於怎麼裁？閻錫山提出一個建議：讓各方兵力保持一樣，都是17萬人。
但是遭到馮玉祥的反對，閻錫山的晉軍本來就只有17萬，他不用裁，李宗仁桂系部隊20萬，他也吃不了多大虧，但是馮玉祥西北軍卻有50萬人，這個虧就吃大了，所以他堅決不裁。
他不裁，蔣介石也不能對他動用武力，但是蔣介石卻可以用另一個招術：策反。這個招術最先用在了李宗仁的桂系身上，沒辦法，桂系太能打了。
策反自己人，李宗仁當然不幹，於是蔣桂打起來了，但是桂系前敵指揮已經被蔣介石用金錢收買了，前線一倒戈，桂系自亂陣腳，李宗仁只好通電下野。
接下來馮玉祥和閻錫山也通電反蔣，而蔣介石對付他們方法一樣簡單粗暴，給閻錫山權，給馮玉祥部下錢，於是閻錫山不反了，馮玉祥部下叛亂了，就這樣，三方巨頭的反蔣態勢被壓下來了。
用金錢和權勢鎮壓的起義，沒考慮過人心的浮動，終究不是長久之計，當馮玉祥、閻錫山、李宗仁重張旗鼓之後，一場中國近代史首次陳兵百萬的中原大戰爆發了。
美國《時代》報道中原大戰的文章説：
“中國的戰爭以3種形式進行：（1）大量的金錢賄賂，常常達到數以百萬計的金錢交易；（2）鋪天蓋地的通電、公告、宣言，任何一方軍隊都要面對它們；（3）人力，成千上萬的窮人和無知的人，今天為這一派打仗，明天又為另一派打仗，視他們的長官得到的賄賂而定。所有這些方式一直在運行着，早已形成一種體系、一種慣例，中國人一不管他偉大也好，善良也好一都必須讓它們發揮作用。”
1930年3月，“反蔣聯盟”發出通電，擁護閻錫山為陸海空軍總司令，馮玉祥、李宗仁、張學良為副總司令，出兵討蔣。
反蔣軍以李宗仁的桂軍為第一方面軍，從廣西出兵湖南，進攻武漢；馮玉祥的西北軍為第二方面軍，由河南經隴海線、平漢路進攻徐州、武漢；閻錫山的晉軍為第三方面軍，由山東配合西北軍取徐州，經津浦路進攻南京；石友三為第四方面軍，進攻兗州、濟寧。
陳兵百萬的中原大戰沿鐵路線全面展開，這是中國近代史上首次大規模騎兵戰與炮兵戰。現在除張學良外，中國的實力派已全部捲入此戰。
中原大戰前，蔣介石和閻錫山這兩個對立盟主都派人拉攏張學良。先是閻錫山送來了一張陸海空軍副總司令的委任狀，接着蔣介石也送來了同樣的委任狀。
與閻錫山不同的是，蔣介石除了送委任狀，還匯了幾百萬鉅款到瀋陽。但張學良不動聲色，對閻錫山那邊説，自己暫時不能出兵，不過必要時候可以提供彈藥；
對蔣介石説，自己暫時不能出兵，不過在關鍵時刻會出兵的。在這節骨眼上，沒比他更狡猾的了。
蔣介石用四員將防四路兵：劉峙在隴海線防馮玉祥的北路西北軍；韓復榘在津浦線防閻錫山和石友三；何應欽在長沙至武漢一線防桂軍；何成浚在平漢線（北平-漢口）防馮玉祥的南路西北軍。
劉峙所部都是中央軍的精鋭，蔣介石最能打的部隊都在這一路。韓復渠作為原西北軍的五虎上將第一名，問題也不大。何應欽就更不用説了，莫説內戰，後來抗戰雪峯山戰役把日本人都打得跟孫子似的。
蔣介石知道，反蔣聯軍中最關鍵的就是馮玉祥的西北軍，於是蔣介石決定親自帶兵直取鄭州，給馮玉祥當頭一棒，本來馮玉祥與閻錫山約好一起在河南夾擊蔣介石，結果馮玉祥發出的電報不小心打錯一個字，導致雙方丟掉包圍蔣介石軍隊的最佳時機，也許從這件事就昭示着後來時態的發展。
蔣介石與馮玉祥打的難解難分，最終，雙方陷入僵持階段，但這一僵持令馮玉祥很痛苦。
蔣介石的中央軍財大氣粗，而馮玉祥的西北軍已經開始喝西北風了。馮玉祥西北軍很多部隊都是從陝甘寧這些窮地方跑過來的，糧食彈藥全靠士兵隨身攜帶，現在已經耗得差不多了，後勤補給不足極大地影響了士氣。
而這個時候，蔣介石調大軍開到津浦線，他調陳誠的11個師來到山東前線，還調一部兵力在青島登陸，加上韓復榘的部隊，三路大軍以起向閻錫山發動總攻，閻錫山的晉軍抵擋不住，丟失濟南，撤往黃河以西，反蔣軍東線完了。
接着，馮玉祥兵分七路的八月攻勢，被蔣介石打退，中線也完了，此時只剩西線了，
而促使反蔣聯軍最後倒台的是張學良。一天，張學良看到了一幅漫畫，畫着閻錫山一手拿算盤，一手拿煙槍；馮玉祥一手拿窩頭，手拿大刀；蔣介石一手拿鈔票，一手拿勃朗寧手槍。
張學良不禁對左右説：
“馮玉祥、閻錫山二人完全是北中國土窩裏的土皇帝，娶小老婆都要小腳女人，這樣的人談不上什麼開明政治主張，只能憑槍桿子稱王稱霸，別説沒有力量統一全中國 ，就是統一了中國，憑他們的智力和知識水平，也治理不了國家。”
於是1930年9 月18日，張學良發表擁蔣通電，聲稱要派兵進行武裝調停。第二天，10 萬東北軍入關，迅速佔領天津、北平和河北，使閻馮聯軍處於腹背受敵的困境，形勢立刻急轉直下。
在東北軍和中央軍的聯合進攻下，西北軍節節敗退，並不斷有將領發生倒戈事件，最終馮玉祥慘敗，中原大戰以蔣介石的全面勝利而告終，此戰之後，蔣家王朝開始崛起了。
慘敗後的馮玉祥，被他的老部下韓復榘邀請去泰山養老去了，直到“九·一八”抗戰爆發，馮玉祥出山積極組織各方力量抵抗日軍侵略。