但是李勣这个人是没什么节操和底线的，建议翟让去劫掠运河上的商旅官运船只，有钱就不缺人，瓦岗军迅速壮大起来；隋朝遣名将张须陀率两万多人讨伐，张须陀那可是隋朝名将，瓦岗军差点吓得就此解散，但是在李勣的坚持下，通过采取诱敌深入、伏兵袭击的战术，将隋军全部歼灭，张须陀也被斩了。
后来瓦岗军被王世充击败，元气大伤，聚集余众归顺唐朝；虽然李密后来因举兵叛出唐朝而被斩，但李勣却在唐朝充分展示了自己的才能，跟着李世民南征北战，立下了赫赫战功，如虎牢关之战一举擒拿窦建德、降伏王世充。623年，又和赵郡王李孝恭、岭南道大使李靖、怀州总管黄君汉一同讨伐江淮义军首领辅公祏；并在武康县将辅公祏斩杀，江南自此平定；当时天下基本已经平定，但周边国家开始不安分起来。
首先就是北方的东突厥；625年，突厥侵犯并州，朝廷命李世勣为行军总管，在太谷迎击突厥，将其驱逐。唐朝可没什么隐忍这个词，尤其是在唐太宗李世民继位之后，对外展现出强势的手腕，要么屈服，要么被灭。东突厥一样如此，629年八月，李世民接受了代州都督张公瑾的建议，决定出击东突厥，他命兵部尚书李靖为定襄道行军总管，以张公瑾为副，发起了强大的军事攻势。十一月，李勣被授为通漠道行军大总管，与华州刺史柴绍、灵州大都督薛万彻等统率十几万军队，都接受李靖的统帅，诸将分道出击突厥。
在李靖和李勣的通力合作下，东突厥势力被打得溃不成军，即便颉利可汗派使者求和，但将在外，君命有所不受；两人大胆的发起了灭突厥计划，李靖率兵连夜出发，李勣领军跟进。李靖行军至碛口，突厥四处溃逃。颉利率部众一万多人想逃过沙漠，被李勣阻拦。突厥的大酋长率领自己的部落一起投降李勣，李勣在俘获五万多人后顺利回师。至此，唐朝的北疆，再无突厥之患，动辄灭国，这比汉朝时期还要猛啊！但是仍然有别的国家不信邪，比如薛延陀就是其中之一，这也注定薛延陀成为大唐帝国威震天下的一块踏脚石。
公元641年，薛延陀真珠可汗派其子大度设联同同罗、仆骨、回纥、靺鞨、霫等部族，领军二十万南侵突厥俟利苾可汗阿史那·思摩。思摩率部众进入长城，退守朔州，并派使向唐朝告急。朝廷命营州都督张俭统率所部直逼薛延陀东境。李勣被授为朔州道行军总管，率步卒六万、骑军一千二百人屯驻羽方，与灵州道行军总管李大亮、凉州道行军总管李袭誉等分兵抵御。李勣先是大破薛延陀真珠可汗之子大度设所率的三万骑兵，并斩首三千余级，俘获五万余人及马一万五千匹，大度设独自逃走。在唐朝强势还击下，薛延陀最终被灭。
北方平定后，就该轮到高句丽了，唐太宗一直认为自己如果想在武功上超过隋炀帝，就必须要灭掉高句丽，但是因为种种原因，虽然唐朝每次出征都取得绝对优势，但仍然无法将高句丽灭国，这也成为唐太宗的一块心病。649年，李世民卧病，对李治说：“你对李勣没有什么恩惠，朕现在准备贬他为外官。朕死后，你应当授给他仆射之职，他就蒙受了你的恩惠，必定为你尽死力。”于是派李勣出任叠州都督。李治即位当月，召他入朝拜洛州刺史。接着又加封开府仪同三司，命李勣任同中书门下，参与执掌机要事务。同年，册拜为尚书左仆射。
其实在武则天崛起的过程中，李勣是有间接的帮助的，如果在李治废王皇后改立武则天为后的时候，李勣立场稍微有点偏向，可能都会影响到武则天的将来；而李勣也因此得到了李治和武皇后的信任。666年，高句丽权臣渊盖苏文病死，其子泉男生继掌国事。泉男生的兄弟泉男建、泉男产趁机发难，驱逐泉男生。泉男生投奔唐朝，恳求唐朝发兵相助。李治任命李勣为大总管，负责进攻高句丽。
最终到668年的时候，平壤被攻破，高句丽被灭。此战，唐朝共获五部、一百七十六座城、六十九万七千户口，将其划分九个都督府、四十二州、一百县，设安东都护府统管整个高句丽旧地。李勣病逝后，被册封为太尉、扬州大都督，赐谥号“贞武”。又赐给棺木，允其陪葬于昭陵，命司平太常伯杨日方监护丧事。李治命令百官送葬到未央旧城西北，所筑的坟依西汉名将卫青、霍去病的先例为准，仿照阴山、铁山及乌德鞬山建筑，以此表彰李勣击败突厥、薛延陀的功劳。唐初得到得到相同待遇的，只有李靖。
但是在684年的时候，李勣之孙李敬业起兵讨伐武则天，武则天于是追削李勣等人的官爵，将其掘墓砍棺，恢复本姓徐氏。唐中宗李显复位后，下诏恢复李勣的官爵，并重新为他起坟改葬。虽然李勣在世之时与李靖齐名，但是死后的待遇，却远远比不上李靖，据说李靖死后经常显灵，为百姓救危解厄，百姓因而为其建庙供奉，于是到晚唐时候，李靖渐渐被神化了。后晋高祖石敬瑭下诏，追封李靖为灵显王。而李勣则因为武则天的缘故，逐渐消失的历史长河中……