公元前121的春天，霍去病獨自率領一萬騎兵出征匈奴，這就是第一次河西之戰。霍去病六天轉戰千餘里，踏破匈奴五王國。霍去病在穿插分割幷包圍這些部落後，很輕易的就迫降了他們，並不搶掠他們的財產與子民，還幾乎抓到了單于的兒子。因此減輕軍隊負擔，而在接下來的戰鬥中可以輕裝上陣，高速而大迂迴的路線，讓其他的匈奴大部隊始終無法找到霍去病主力，無法有組織有計劃的反擊。
接着，漢軍長途奔襲越過焉支山（峯腰地帶的甘涼交界處，位於山丹縣城東南40公里處）在皋蘭山（張掖附近的合黎山附近）與匈奴主力展開決戰。
第一次河西之戰，關鍵是霍去病與匈奴主力的決戰，按照估計匈奴主力起碼一萬人以上，霍去病帶的人馬也就一萬人，漢軍騎兵經過幾天長途奔襲，已經有些疲憊，如果要跟匈奴主力作戰，實力相當情況下，很難取勝。所以，只有一種可能，那就是霍去病佔據有利地形，在皋蘭山伏擊了匈奴主力。皋蘭山海拔2084米。面積 4515平方公里，挑選一個有利地形，然後漢軍士兵派出偵騎，主力可以得到很好休息。霍去病作戰意圖，如果匈奴主力進入伏擊圈，可以全力殲滅敵軍，如果敵軍不來，休息兩天，然後繼續攻擊匈奴腹地。結果是，匈奴主力進入伏擊圈，霍去病大勝。此戰還有一個原因，霍去病挑選的都是精兵，經過上次800騎兵的戰績，這支漢軍對於他們的主將霍去病是充分信任。匈奴進入伏擊圈，是因為匈奴高達五國被霍去病襲擊，很多匈奴人被殺死，損失慘重，匈奴主力急於報仇，匈奴主力一直找不到霍去病，一旦得知霍去病故意透露到達皋蘭山附近消息，立即全力追擊，害怕霍去病再次跑掉，再加上對霍去病不瞭解，不知道霍去病的厲害，即使看到地形不利，也沒有戒心，很容易就上當了，進入了漢軍伏擊圈。漢軍以逸待勞，利用有利地形，擊敗匈奴主力。
霍去病斬匈奴折蘭王、盧侯王，渾邪王敗走，全員都有斬殺敵人的功勞 ，邪王之子及其相國、都尉被俘虜，連休屠部祭天的金人都被漢軍繳獲。