武德四年（621年），洛陽城內兵少糧盡，人心渙散，王世充無力控制局面，率領文武百官開城投降。
李世民率軍進入洛陽城，並約法三章，不允許燒殺辱掠，緊接着李世民下令，開國庫，將裏面的財物平均分給手下的將士。
除此之外，李世民還赦免了王世充手下的兩千多名官員，但是有十幾人卻沒有逃過一死，其中就包括單雄信。
根據《資治通鑑》記載，李世民要處死單雄信時，可把李世績急壞了，李世績與單雄信都是山東菏澤人，他們一同加入瓦崗軍，曾發誓同生死。
李世績苦苦哀求，他甚至提出，用自己的錢財和爵位來贖回單雄信的一條命，李世民卻無動於衷。
單雄信對李世績説：“兄弟，沒關係，我早就料到有這一天了。”
李世績在單雄信快要受刑的時候，大哭不止，為了表不忘當初的誓言，李世績割下自己大腿上的一塊肉説，生死相隔，永難相見，你吃下這塊肉，讓它陪你一起入土吧，我會照顧好你的家人的。
單雄信吃完含淚離開了人世，後來李世績信守自己的諾言，收養了單雄信的孩子。
李世民一生征戰無數，對待降將一向比較寬容，比如他平定薛氏政權後，仍然讓薛舉的部下統領自己的舊部，李世民還與他們一起打獵玩耍。他平定宋金剛、劉武周後也是採取這種懷柔政策。
李世民終其一生都在用這種方法籠絡人心，那麼為什麼這一次他寧可讓愛將寒心，也要執意處死單雄信呢？看起來冷酷無情，實際顯示了李世民睿智的一面。
李世民要殺單雄信，主要有以下三點原因。
李世民嫌棄單雄信是牆頭草，哪邊風大那邊倒
單雄信是最早一批加入瓦崗軍的人，用我們現在的話説是老員工了，而且他深受翟讓的器重，成為翟讓的心腹愛將。
在隋末英雄輩出的年代，單雄信也算得上是一位驍將，他勇武過人，戰功卓著，是瓦崗軍的頭號大將，所以大家稱之為“飛將軍”。
然而這位驍勇善戰的名將卻是實打實的牆頭草。
當初翟讓好心收留李密，卻不料引狼入室，給自己惹來殺身之禍。因為翟讓威脅到李密的利益，李密設下鴻門宴除掉翟讓和他的親信，當然單雄信也在名單裏。
酒宴上，翟讓心腹單雄信、李世績站在其身後保護他的安全，李密手下趁翟讓不注意一刀將其砍倒在地。
李世績見情況不妙，立即逃跑，結果被守門的將士砍傷了脖子，還是王伯當出手相救才化險為夷。
結果單雄信倒好，他一個勁磕頭，哀求李密饒他不死，李密放了他。此時有人勸李密殺了單雄信，這麼容易就屈服的人，不足以憐惜，但是李密沒有聽，反而非常器重單雄信，還任命他為騎兵四大將之一，這可能和李密惜才有關。
李密被王世充打敗以後，帶着殘兵敗將逃往洛口倉，卻被自己的手下邴元真出賣（此前李密派邴元真鎮守洛口），又被王世充打得大敗。
此時單雄信見李密大勢已去便背叛李密，投靠了王世充，在亂世之中，能夠做到忠心無二的人屈指可數。
這也是李世民不滿單雄信的主要原因之一，他跟其他瓦崗軍將士不一樣，裴仁基、程咬金、秦瓊、羅士信是被王世充所俘，他是主動投降，而且程咬金、秦瓊、羅士信後來棄暗投明，在王世充大敗之前就投靠了唐朝。
李世民嫌棄單雄信有勇無謀
當初皇泰主楊侗借李密之手除掉宇文化及，目的是為了讓他們兩敗俱傷，他好漁翁得利。
雖然李密打敗了宇文化及，但在傷敵一千的同時，自己也損失慘重，自此瓦崗軍開始衰弱。
就在李密與宇文化及對抗期間，王世充發動政變，皇泰主淪為傀儡皇帝，王世充趁瓦崗軍元氣大傷，便率軍主動挑戰。
李密想要率軍出擊，裴仁基、魏徵聽聞後堅決反對，他們認為現在王世充缺糧，我們跟他打消耗戰，等到城內糧食耗盡再出擊，到時候可一戰而勝。
可是單雄信不這麼認為，王世充之前跟我們大大小小也打了一百多次，他也沒有撈到什麼好處，手下敗將有什麼害怕的。
其實單雄信跟李密一路貨色，都是屬於那種有點小成就內心就開始膨脹的人，所以李密採納了單雄信的建議，結果被王世充打得大敗，李密兵敗逃亡，盤踞中原勢力最強的一股起義軍就此瓦解。
單雄信幾次威脅到李世民生命，讓他很不堪
武德三年夏天，李唐集全國之力征討洛陽的王世充，唐軍的主帥仍然是秦王李世民。
李世民是一個非常重視情報的將領，他認為情報有誤會影響他的判斷，所以他常常不顧危險親自帶着少量的騎兵去偵察敵情，這次洛陽之戰也不例外，可以説洛陽之戰是李世民從軍生涯中遇險最多的一次，李世民遇到的危險大多與單雄信有關。
一次李世民帶着小部隊去偵察敵情，結果在一條窄路上與敵軍的一支大部隊相遇，而且帶頭的是猛將單雄信，雙方展開激戰，唐軍寡不敵眾，李世民下令讓手下先走，他來斷後，李世民採取且戰且走的戰術才得以逃脱。
還有一次李世民帶着五百騎兵爬上北魏宣武帝景陵的制高點去瞭望敵情，結果被王世充發現了，很快王世充率領一萬多人圍攻李世民，這一次敵軍先鋒部隊的頭頭又是單雄信。
擒賊先擒王，單雄信手持馬槊縱馬撲向李世民，情況十分危急，李世民差一點被槊頭刺中，幸好李世民命大，在關鍵時刻尉遲敬德從側斜的方向殺出救了他一命。
總的來説，李世民覺得單雄信不僅是牆頭草而且還很糊塗，從給李密出餿主意，讓瓦崗軍全軍覆沒，到後來大多數瓦崗軍都投靠了李唐，他卻一直跟着王世充，關鍵王世充還不是什麼賢明之君。
在李世民看來一個不忠又糊塗的將領，留着沒有多少用處，而且為了活命一個勁磕頭的人實在不是大丈夫所為，李世民打心裏瞧不起他。
李世民已經不是當初那位出爐茅廬的將領，他久經沙場，已經有了坐天下的意識，深知表彰忠義，才能安百姓定天下，遠奸臣，親忠臣是上策。
所以李世民要為天下人樹立忠義的榜樣，要麼你不忘舊主、要麼你棄暗投明，而單雄信都沒有做到，留着他如何給天下樹立良好的榜樣，在單雄信問題上，李世民的做法看似無情，實則睿智。