曹平樂挑撥劉曜和石勒使雙方開戰，石勒活捉劉曜後令其勸降卻遭拒
劉聰死後，漢趙分裂成了三部分，分別是關中的劉曜，河北的石勒，平陽老巢的劉粲。
劉粲是劉聰的兒子，是漢趙正統皇帝，名義上是劉曜和石勒的主子。但是劉粲這個人太不成器，當了皇帝沒幾天，就把劉聰草草安葬，然後就把主要心思都花在他爹那些妃子身上。至於朝政，劉粲沒當回事。當時漢趙的司空靳準見劉粲昏庸，就設計把這個女婿殺了，順帶着把包括劉曜的母親和兄長等在內的一批漢趙劉氏宗親也殺了。靳準自知這件事無法矇混過關。於是他就睜眼説瞎話，説自己殺的都是匈奴人，號召漢人老百姓跟隨他趕走匈奴人，並且他向東晉上書：“屠各小丑安敢稱王，亂大晉使二帝播越。今送二帝梓宮於江東”，對晉稱臣。請求庇護。（靳準自己也是匈奴人）靳準的舉動，東晉朝廷當然不信了。為了表決心，靳準就親自率領大軍征討石勒。
劉曜聽説靳準殺了劉粲以及自己的母兄，就出兵討伐靳準，並且他還自立為帝，以漢趙皇帝自居。當時靳準正在打石勒，劉曜在西面抄他老巢，他被兩面夾擊，被打得很慘。不久後，靳準的幾個弟弟為了保命，就把靳準給賣了，並且還把傳國玉璽送給劉曜，開城投降了劉曜。
石勒聽到這個消息大怒。他一向對劉曜不服氣，就命令侄兒石虎為先鋒，猛攻漢趙都城平陽，最後一把火把平陽給燒了。
劉曜聽説石勒居然把首都燒了當然也是大怒，指責石勒。之後，劉曜還想拉攏一下石勒，就遙封他為藩王。石勒本來就是割據一方的實權派，劉曜封不封他，他都是事實上的藩王，所以對於劉曜的冊封，他心裏很不滿。不過，既然劉曜主動給臉，他也不能不兜着，所以他還是派了使者去長安恭賀劉曜即位，並給劉曜獻上很多珍貴禮物。
本來雙方這麼裝模作樣恭維一番也就算了，但是偏偏出來一個曹平樂讓事情急轉直下。這曹平樂是石勒派到劉曜那裏去的使者團中的一員，貪圖富貴，偷偷地對劉曜説，“大司馬遣王修等來，外表至虔，內覘大駕強弱，謀待修之返，將輕襲乘輿。”劉曜聽了這話，勃然大怒，然後下旨把石勒派來的使團一齊斬首，只有一個叫劉茂的人逃了回去。
劉茂逃回去後，向石勒哭告劉曜屠殺使團的情況，石勒大怒，命令殺死叛徒曹平樂的三族，停止對劉曜的進貢。“下令曰：‘孤兄弟之奉劉家，人臣之道過矣，若微孤兄弟，豈能南面稱朕哉！根基既立，便欲相圖。天不助惡，使假手靳準。孤惟事君之體當資舜求瞽瞍之義，故復推崇令主，齊好如初，何圖長惡不悛，殺奉誠之使。帝王之起，復何常邪！趙王、趙帝，孤自取之，名號大小，豈其所節邪！'於是置太醫、尚方、御府諸令，命參軍晁贊成正陽門。俄而門崩，勒大怒，斬贊。既怒刑倉卒，尋亦悔之，賜以棺服，贈大鴻臚。”石勒在襄國自立為王，也把國號叫做趙國。為了和劉曜的趙國區分，這個趙國被史學家叫做“後趙”。劉曜的則是“前趙”。
石勒和劉曜翻臉後，並沒有馬上開戰，而是採取了大力發展經濟的策略，先防守，後進攻。所以前幾年都是風平浪靜。
劉曜看石勒沒來打自己，就把注意力放到了隴西一帶，對當地的少數民族橫徵暴斂。激起民眾的反抗。雖然這些反抗後來都被平定了，但這給前趙後來的滅亡埋了一個坑。
太寧三年（325年），居住在河套地區的原來依附石勒的北羌王盆句除投靠劉曜，石勒的部將石佗發兵雁門關征討，俘虜了三千多人準備回國。劉曜聽説後，下令追擊，在追擊中擊敗石佗，並殺掉了六千多後趙軍隊。
至此，前趙和後趙終於是結了仇，石勒決定跟劉曜幹到底。
石勒剛和劉曜結仇的時候形勢十分不妙。南面和東晉有着漫長的邊境線，祖逖的北伐軍不斷壯大，勢頭咄咄逼人。山東的原漢國大將曹嶷被石勒封鎖後也就地稱王，對石勒早就不懷好意。北方狀況更糟，有鮮卑三虎之稱的遼西慕容氏、幽州段氏、代國拓拔氏對石勒的領地不斷蠶食。當時的後趙可謂是四面受敵，所以石勒不敢跟劉曜徹底翻臉。
不過，此時情況不一樣了。祖逖死後，東晉壓力解除；北方段氏打內戰，對石勒沒有威脅；至於青州的曹嶷在發現周圍的反趙勢力都被平定後，其部將就把他綁了送給石勒當了投名狀。（石勒把曹嶷以及其部將全殺了，一共三萬人）所以此時的石勒沒有任何外患，他唯一的敵人就是劉曜。
太寧三年（325年）6月，劉曜感覺石勒要來打自己，就先發制人，派遣重甲士兵五千，精兵一萬進攻河東重鎮孟津。石勒早就等這個機會了，遂即就讓石虎領四萬騎兵增援，把劉曜的部隊殺了個精光。
劉曜聽到前線大敗的消息後，親自率領部隊援救。石虎聽説，也率三萬騎兵前來廝殺。
不過劉曜的親兵戰鬥力很強，來勢洶洶，石虎的先鋒一見到劉曜的先鋒就被嚇跑了。石虎也感覺這一仗毫無勝算，正準備撤退回襄國。可誰知道，劉曜的部隊晚上駐紮後突然炸營，士兵逃跑了一大半。劉曜只好退到澠池，石虎不戰而勝。（所謂炸營，就是士氣潰散了，大家趁機自相殘殺，有仇報仇，有怨報怨。殺完了趁夜逃跑）
到了第二天晚上，劉曜的部隊居然又炸營了，上下一片混亂，於是劉曜只好率領昏昏沉沉的殘部逃到長安。讓石虎白撿個大便宜。
此一戰，前趙軍未戰先亂，莫名其妙的發生兩次炸營，損失慘重，可謂是元氣大傷。
劉曜退回長安後，決定重振旗鼓，待整頓部隊後再反擊。不過他還沒動，隴右被他欺負的少數民族和前涼國主張駿就來報復了。這幫人趁劉曜虛弱之際，紛紛獨立，又給劉曜的後背捅了一刀子。
咸和元年（326年），石虎帶領四萬精鋭趁勢進攻前趙的河東（今山西南部）一帶。河東五十多座縣城守將看到劉曜打敗仗了，都紛紛投降石虎。這時輪到劉曜陷入危機了，西北的張駿、西方的楊難敵、西南的李雄都開始在邊境囤積重兵，準備趁石虎進攻關中時分上一杯羹。
劉曜知道形勢不妙，就仔細研究了一下邊境形勢。他認為目前的頹勢都是石虎導致的，只要趕跑了石虎，別人就不怕了。於是劉曜集結了關中全部可以調動的兵力，除了留一部分防衞隴西外，其餘全部派出去進攻石虎。
這一戰劉曜十萬大軍，士氣雖然不高，但人多勢眾。石虎碰到這十萬多人的部隊，根本就抵擋不住，被連續追殺了二百里。
石虎慘敗，他先前攻克的前趙府縣又紛紛投降了劉曜。石勒聽説前線慘敗，只好宣佈襄國戒嚴。然後他集結了六萬多步兵和四萬騎兵，親自率領，與劉曜決戰。
“季龍執劉嶽及其將王騰等八十餘人，並氐羌三千餘人，送於襄國，坑士卒一萬六千。曜至自澠池，素服郊哭，七日乃入城。”
過了兩天，石勒命令石虎率領三萬步兵從北面出城往西進攻劉曜的中軍，部將石堪、石聰率領八千騎兵從西面出城往北進攻劉曜的前鋒。這時的劉曜居然還在喝酒，聽説石勒出兵進攻，他為了表示自己的鎮定，就又喝了幾大斗酒，方才迎戰。“曜少而淫酒，末年尤甚。勒至，曜將戰，飲酒數鬥，常乘赤馬無故局頓，乃乘小馬。比出，復飲酒鬥餘。至於西陽門，捴陣就平，勒將石堪因而乘之，師遂大潰。曜昏醉奔退，馬陷石渠，墜於冰上，被瘡十餘，通中者三，為堪所執，送于勒所。”
劉曜被活捉後，石勒停止追擊，他派醫生給劉曜治傷，並帶回襄國軟禁了起來。
石勒暫時沒殺劉曜，當然不是因為他心慈手軟，而是他想讓劉曜寫信給長安守軍，讓前趙的殘部投降。劉曜雖然昏庸了一點，但還算個爺們。他拒絕了石勒的要求，惹得石勒非常不滿。不久後，石勒下令將劉曜處死，並派兵攻打長安。
當時守長安的是劉曜的小兒子劉熙，他沒有劉曜的本事，把所有工作都交給他的哥哥劉胤來代勞。然而劉胤比劉熙還無能，當石勒的軍隊打過來時，劉胤就攛掇劉熙趕緊遷都天水，凡是出言勸阻的大臣一律斬首。
等石勒軍隊不費吹灰之力進駐長安後，劉胤卻突發奇想，糾集了幾萬人要反攻長安。石勒聽説這事，就讓石虎率他的四萬常勝軍增援，石虎揪着劉胤就打，把從沒指揮過軍隊打仗的劉胤都嚇傻了，扔下部隊就跑。
最後，劉熙、劉胤等前趙貴族百官約三千多人全部被活捉，並活埋。歷時二十五年的漢趙政權自此滅亡。
漢趙滅亡後，石虎帶着傳國玉璽回到襄國向石勒請功。石勒收到傳國玉璽，羣臣向他請求進帝位。石勒再三謙讓，先自稱天王，到了第二年才稱帝，封兒子石弘為太子，侄子石虎為太尉，大封羣臣。自此，石勒這個奴隸出身的羯族人終於成了中原的皇帝。