金日磾雖然得到皇帝的寵信，但從不恃寵犯事
對漢武帝的評價歷來褒貶不一，司馬光在《資治通鑑》中就對他有褒有貶。貶謫他的是，窮奢極欲，繁刑重斂；內侈宮室，外事四夷；信惑神怪，巡遊無度；致使百姓疲敝，起為盜賊，他的所作所為與秦始皇差不多。褒揚他的是，秦這樣做就滅亡了，而漢不但沒有滅亡，反而興旺起來了。這是因為他能尊先王之道，知所統守；受忠直之言，惡小人欺蔽；好賢不倦，誅賞嚴明；晚而改過，顧託得人；所以能避免走秦亡的道路。而在這些顧託得人的託孤大臣中，有一個託孤大臣就是原來的匈奴王子金日磾。
金日磾，字翁叔，原為匈奴休屠王的太子。漢武帝天狩二年（公元前121年），驃騎將軍霍去病奉詔，率萬餘精騎兵，出隴西奔襲匈奴。經歷五個王國，越過焉支山（今甘肅山丹縣城東南）千餘里，斬殺折蘭王、盧侯王，俘虜渾邪王王子及其相國、都尉，斬首八千九百餘級，還繳獲了休屠王的國之重器-祭天金人。這年夏天，霍去病又率軍西過居延（今內蒙額濟納旗東南），小月氏（今甘肅、青海一帶），攻擊到了祁連山，並大有斬獲。匈奴單于對渾邪王、休屠王居守西方還被漢軍斬殺與俘虜了數萬人，非常憤怒，想把他們召回王庭誅殺。渾邪王和休屠王害怕了，便商量向漢朝投降。當他們派使者通報漢朝後，就在霍去病率軍前去迎接的路上，休屠王又後悔了。渾邪王殺了反悔的休屠王，並率領其部落降漢，渾邪王被封為列侯。因為金日磾的父親是因反悔不降而被殺的，所以，金日磾與母親、弟弟一起都被沒入官府，後分到宮廷養馬。時年金日磾十四歲。
過了一段時間，漢武帝乘宴遊之興，下詔檢閲宮廷御馬，後宮侍女嬪妃也站滿了宮殿兩側觀看。金日磾等數十人牽馬從宮殿階下通過，供皇帝觀賞。當其他人牽馬從殿前經過時，無不偷窺宮殿兩側的宮女，唯有金日磾經過時，目不斜視。金日磾身高八尺二寸（漢一尺等於今七寸半），容貌威嚴，馬又養得肥壯，漢武帝很詫異，因而詢問他的來歷，金日磾把自己的身世如實地告訴了漢武帝，劉徹很是驚奇。當日即對金日磾賜湯沐浴，更換衣冠，並封為御馬總監。後來，金日磾又遷升至侍中、駙馬都尉、光祿大夫。
金日磾雖然得到皇帝的寵信，但從不恃寵犯事。這讓劉徹對他更加寵信和喜愛了，出則讓他同乘一輛車，入則讓他隨侍左右，賞賜的黃金累計超過千金（漢一斤等於今一斤六兩）。皇親國戚都在私下抱怨説：“陛下對隨意俘獲的一個胡人，竟然如此看重。”劉徹聽到這樣的議論後，反而更加厚待金日磾了。因休屠王曾做金人祭天，故賜日磾姓金。由此可見，劉徹用人是不分種族、不分貴賤的，是唯才是用的。
金日磾的母親教導兩個兒子甚有法度，漢武帝聽説後，就給予嘉獎。後來金日磾的母親生病去世，漢武帝就下詔將她的畫像懸掛於甘泉宮，署名“休屠王閼氏”。金日磾每次見畫必拜，每拜必泣。
金日磾的兩個兒子長得很可愛，漢武帝就讓其長子跟隨在自己身邊侍奉，並且很寵這個孩子。有一次，金日磾看見兒子在皇帝身後抱着皇帝的脖子玩耍，這還了得！就生氣地用眼睛瞪兒子。孩子嚇得邊走邊哭“老爹發怒啦！”武帝對金日磾説：“為何對我的乾兒子發怒？”後來，兒子大了，也長得高大威猛，就是有點不太檢點。一次在殿下和宮女調情，正好被金日磾看見了，他恨兒子在宮中淫亂，就把兒子給殺了。漢武帝聞之大怒，金日磾叩頭謝罪，並陳述了殺兒子的理由。劉徹十分哀傷，併為金日磾流下了眼淚。從此，打心眼裏更敬重金日磾了。
當初，侍中僕射馬何羅與江充的關係非常密切。漢武帝徵和二年（公元前91年），衞太子（即衞皇后的長子原太子劉據）在遭受江充誣陷後，怒而起兵。在江充打敗衞太子的過程中，馬何羅的弟弟馬通因力戰衞太子有功，被封為重合侯。第二年，漢武帝瞭解到是江充設計陷害了太子後，便誅滅了江充的宗族及黨羽。馬何羅兄弟擔心受到株連，遂陰謀造反。侍中駙馬都尉金日磾從馬氏兄弟的異樣神色中看出了問題，心裏便對他們起了疑心。由是，私下獨自觀察他們的動靜，並與他們一起上殿下殿。馬何羅也發覺了金日磾的意圖，因此，很久都不敢發難。漢後元元年（公元前88年）六月，漢武帝行幸林光宮（秦二世所建，位於漢甘泉宮旁），金日磾因有小病住在宮中側室。馬何羅乘機與他的弟弟馬通、馬安成連夜假傳詔書，殺害使者，起兵造反。次日清晨，皇上還未起牀，馬何羅沒有藉口任何理由便從外面進入宮中。這時，金日磾正準備入廁，突然心跳加速，預感有大事發生，他立即坐到皇上卧室的窗户下。沒多久，馬何羅衣袖中藏着利刃從東邊過來，一見金日磾，臉色大變，立即向皇上卧室跑去，企圖硬往裏闖。説來也巧，馬何羅慌里慌張剛跑進屋，就撞到了宮人彈奏的寶瑟上，頓時僵住了。這一楞，就讓金日磾趕上，並從後面抱住了馬何羅。金日磾高喊：“馬何羅造反了！”皇上驚起，左右侍衞拔刀準備格殺馬何羅，但漢武帝擔心會誤傷金日磾，便制止了侍衞的格殺。金日磾扭着馬何羅的脖子，將他摔到宮殿下，馬何羅被五花大綁地擒獲了。其兄弟及餘黨都被治罪誅殺。由是皇上賜金日磾忠孝節。
金日磾隨侍在皇帝身邊幾十年，盡心盡責，目不逆視。皇上賜給他的宮女，他也不敢親近；皇上想娶他女兒為嬪妃，他也不同意。其敦厚謹慎如此，讓皇帝特別驚異和感動。
漢後元二年（公元前87年）二月，漢武帝病危。當時新立的皇太子劉弗陵只有八歲，皇帝就讓霍光（即霍去病的異母兄弟）輔佐太子，霍光便推薦了金日磾，並對漢武帝説：“臣不如金日磾！”金日磾卻説：“臣，外國人，不如光，且使匈奴輕漢矣！”（見《資治通鑑.漢紀十四》）遂以霍光為大司馬、大將軍，金日磾為車騎將軍，太僕上官桀為左將軍，三人受詔共同輔佐太子。當年，漢武帝駕崩於五柞宮，太子劉弗陵即位，是為漢昭帝。可惜金日磾僅輔佐新主一年餘，也因病去世了。
這就是匈奴王子成為漢武帝的託孤大臣的故事。一個匈奴王子能如此忠心耿耿地為漢朝皇帝服務幾十年而不變，端的殊為不易。一個匈奴王子之所以會如此，除了他本身的忠誠特質和他母親的教育管束得法外，與漢武帝不拘一格的用人本領也是有很大關係的。