李勣归唐后，仍任总管。不久，随从秦王李世民平定刘武周，大获全胜。接着，又参加了平定王世充的战斗。这年九月，唐军于邙山击败王世充军，进逼洛阳，其管州总管杨庆请求投降。杨庆原李密旧将，李世民派李勣率军赴轘辕道安抚其众，于是，荥、汴、淆、豫九州相继来降。②这时，王世充子玄应镇守虎牢，屯军于荥阳、汴州之间，闻知管州降唐，欲率军收复管州，被李勣击退。接着，李勣让郭孝恪致书荥州刺史魏陆，魏陆降唐，并擒获了王玄应的四员大将。翌年二月，李勣进军虎牢，王世充郑州司兵沈悦暗中投降，并做内应，遂一举攻占虎牢，活捉了刺史荆王王行本。王世充一面死守洛阳孤城，一面向窦建德求救。窦建德以为唇亡齿寒，遂率大军南下救援，相继攻占了管州、荥阳。李世民与李勣扼守虎牢，以阻止窦建德军西进。三月，李世民与李勣等在虎牢东观察窦建德营垒，与其游兵相遇，窦建德立即派出五六千骑兵追击。李勣率伏兵奋力冲杀，大破敌兵，斩首三百余级，并活捉其二员骁将，凯旋而归。①唐军很快俘虏了窦建德，平定了王世充，胜利返回长安。在这次东征中① 《贞观政要》卷二。

　　① 《资治通鉴》卷一八八，高祖武德三年。

　　② 《旧唐书》卷二《太宗纪》上。

　　① 《资治通鉴》卷一八九，高祖武德四年。

　　论功行赏，李世民为上将，李勣为下将。李勣以自己的骁勇善战位居诸将之首，与秦王都身披黄金甲，乘戎辂，向太庙告捷。

　　李勣很重义气。他在瓦岗时曾与单雄信结拜为兄弟，誓同生死。后李密兵败，单雄信投靠了王世充。单雄信作战勇猛过人，在唐军围攻洛阳时，他驰骋沙场，挥枪几中齐王李元吉。平定洛阳后，单雄信被俘，将要处死。李勣请以自己的官爵赎雄信之罪，李世民不准，他哭着对雄信说：“平生誓共为灰土，岂敢念生，但以身许国，义不两遂。虽死之，顾兄妻子何如？”因用刀割下一块股肉，请雄信吃下，说：“示无忘前誓。”②在处死窦建德不久，唐高祖又征调窦建德旧将入长安，原旧将惊惧不安，于是刘黑闼又串通李密旧将兖州总管徐圆朗起兵反唐。河北各地窦建德旧将及豪右多杀官吏响应，一时发展到数万人，声势浩大。刘黑闼攻陷了冀州，进逼宗城（今河北威县东）。时李勣任黎州总管，屯守宗城，抵挡不住，欲退保洺州，途中遭黑闼追击，步兵五千人，皆没于阵，李勣幸免于难。李世民奉命讨伐刘黑闼，双方对峙于洺水城。李勣率兵逼近黑闼勇将高雅贤营垒，杀高雅贤，攻破其营。在平定刘黑闼后，李勣又奉命进击徐圆朗。唐军乘胜而进，徐圆朗连战失利，最后弃城夜逃，为人所杀，“其地悉平”③。

　　武德六年（623），李勣又随从李孝恭、李靖讨伐辅公祏。他率步兵一万人，渡过淮水，一举攻占了寿阳（今安徽寿县）。公拓之将陈正通率兵十万驻守梁山，派其大将冯惠亮率水军十万，把大舰锁连江中，以阻断水路，还于江西筑造营垒，分守水陆要道，以阻止官军。李勣率军攻破其营垒，惠亮单舟逃走。李勣乘胜进击，正通兵溃，逃回丹阳（今江苏南京）。辅公祏见全线崩溃，遂丢弃丹阳城，连夜逃去。李勣“纵骑追之于武康，江南悉定。”镇守并州，进击高丽武德八年（625），东突厥颉利可汗屡次掳掠并州一带，高祖命李勣为并州行军总管，以抵御突厥。唐太宗即位后，拜为并州都督（治太原）。并州是唐朝的发祥地，又是北方的门户，军事要地。从此由李勣开始经营，独当一面。

　　李勣知人善任，举贤荐能。早在瓦岗时，常与魏徵、高季辅、杜正伦等才能之士交往频繁，他一旦发现人才，“即加礼敬，引入卧内，谈谑忘倦，”经他引荐的，后多位至通显，当时人称其有“知人之鉴”。在他镇守并州初年，张文瓘以孝悌闻名，明经及第，补为并州参军。李勣见文瓘一表人才，曾称赞他为“今之管（仲）、萧（何）”。一次李勣入朝，文瓘与同僚二人为他饯行，李勣分别赠给那二个同僚佩刀与玉带，而对文瓘却一无所赠，文瓘不解其意，心中疑惑，李勣遂解释说：“子无为嫌。若某，冗豫少决，故赠以刀，欲其果于断；某放诞少检，故赠以带，俾其守约束。若子才，无施不可，焉用赠？”①因极力引荐，高宗朝张文瓘位至宰相。

　　贞观三年（629）十一月，突厥再次入寇河西。诏命兵部尚书李靖为定襄道行军大总管，率十几万大军出击，以李勣为通汉道行军总管，从云中进军，② 《隋唐嘉话》卷上。

　　③ 《旧唐书》卷五五《徐圆朗传》。

　　① 《新唐书》卷一一三《张文瓘传》。

　　在白道与突厥颉利可汗兵遭遇，大败突厥兵。颉利可汗派使者请和，太宗派鸿胪卿唐俭出使突厥。李勣与李靖一起议论军事，认为颉利可汗虽然兵败，人马尚多，若进入碛中，与九姓互保，道路险阻，难以追及。今唐俭在那里，防备松弛，我军若迅速出击，突厥必不战而降。这一策略正和李靖不谋而合，他高兴地说：“公之此言，乃韩信灭田横之策也。”果然，李靖袭击颉利可汗牙帐，颉利可汗欲逃入碛中，李勣早已屯军碛口。颉利可汗前进受阻，后有追兵，其大酋长率其部落一并投降了李勣。李勣俘虏五万多人，胜利而归。李勣镇守并州凡十六年，令行禁止，四夷宾服，号为称职。贞观十五年（641），征为兵部尚书，封英国公。唐太宗深有感触地说：“隋炀帝不解精选贤良，镇抚边境，惟远筑长城，广屯将士，以备突厥，而情识之惑，一至于此。朕今委任李勣于并州，遂得突厥畏威远遁，塞垣安静，岂不胜数千里长城耶？”①李勣尚未赴京就任，薛延陀真珠可汗乘唐太宗君臣东封泰山之机，纠合同罗、回纥等族军队二十万，穿过漠南，袭击已归降的突厥，俟利苾可汗抵御不住，率部落进入长城内，派使者告急。太宗立即调兵遣将，反击薛延陀。新任兵部尚书的李勣为朔州道行军总管，率步兵六万，骑兵二千屯守羽方。②十二月，薛延陀可汗之子大度设率三万骑兵逼近长城，适遇李勣率唐军赶到。大度设见尘埃冲天，兵威强盛，望而生畏，遂率其众从赤柯泺北逃。李勣从部下及突厥兵中选精骑六千，由直道拦击。他越过白道川，于青山与薛延陀军相遇。大度设整军迎战，列阵长达十里。突厥兵先出战，结果败下阵来。大度设乘胜追击，恰好李勣率军赶到。薛延陀万箭齐射，唐军马伤亡很大。李勣命骑兵下马，手执长槊，一直朝前猛冲，薛延陀溃不成军。这时，副总管薛万徹又及时赶到，夺取了薛延陀战马，唐兵合力冲杀，斩首三千余级，俘虏五万余人。大度设狼狈北逃，到了漠北，又遇上了特大暴风雪，“人畜冻死者什八九”①。