他是唐太宗力保的虎将，后屡建大功，俘虏颉利可汗、灭突厥！
隋朝末年，隋炀帝荒淫无道，各地纷纷起兵反隋。公元617年，太原留守李渊趁隋炀帝远在扬州，率部起兵，派儿子李世民攻下都城长安，建立了唐朝。李渊占领长安后，传令释放所有囚犯。
在释放囚犯的时候，发现马邑郡丞李靖也在狱中。李渊问他说：“你犯了什么罪？为何也被关在这里？”李靖回答说： “我没有犯罪。我听说你起兵反对朝廷，没有办法报告皇上，所以将自己扮作罪犯，叫差役用囚车送到江都（今江苏扬州，当时隋炀帝的行宫所在地），以便报告天子。不料，我刚到长安，你的兵马就把城给包围了。守城的将士不知道我的计谋，就将我关进了监狱。”李渊听了勃然大怒，吩咐左右卫士将李靖推出去斩首。李靖喊道：“你起兵为天下除暴乱，欲成大事，怎可因怨忿而杀志士？”李渊不答，卫土们押着李靖出外行刑。
这时，李世民正好从外面进来，他看见卫土押着李靖出去斩首，急忙来到李渊跟前，说： “父亲怎么忘记韩擒虎的遗言了？如果对李靖好言抚慰，叫他为我们出力，他必定能立大功。请父亲勿念旧恶，赦免了他吧。”
原来李靖的舅舅是隋朝的大将韩擒虎。韩擒虎生前经常与李靖谈论兵法，李靖都对答如流，无不通晓。韩擒虎赞叹说：“目前可以和我谈《孙吴兵法》的人，恐怕只有李靖了！”隋朝的左仆射杨素，也曾指着他自己的座位向李靖说：“你将来一定会坐这个位置（即仆射，古代重武，主射者掌事，故诸官之长称仆射）的。”李世民与他也有一面之交，知道他智勇双全，所以竭力解救。
李渊听了儿子的话，同意释放李靖。李世民亲自给李靖松了绑，并用好言抚慰，留置幕府，待如上宾。
当时，萧铣（公元618年称帝）占据江陵，窥视巴蜀。李渊命李靖经略夔州，去招降萧铣。李靖到了峡州（今湖北宜昌），为萧铣的军队所阻挡，一时无法前进。李渊误认为李靖有意逗留，派使者命令峡州刺史许绍杀他。许绍接到李渊的诏令以后，不但没有杀李靖，反倒替李靖求情，劝说李渊免他的罪。李靖到了夔州，正逢开州的冉肇则进犯夔州，李渊的大将李孝恭交战不利。李靖率兵八百，击败敌人，斩冉肇则，俘虏五千。李渊听到消息以后很高兴，亲自写信给李靖说：“既往不咎，过去的事，我已忘了 ”
公元621年，李靖提出了消灭萧铣的十项谋略，李渊任命他为行军总管，和李孝恭一同率兵攻打萧铣。李靖率领将士，坐战船从夷陵（今湖北宜昌）出发，顺长江而下，这时，萧铣的部将文士洪领数万人马守在清江（今湖北清江）。李孝恭要出兵攻打，李靖反对说：“敌人士气很旺盛，我们应该先屯兵南岸；等到敌人气衰以后再出；击比较有利。”李孝恭不听，自领兵马出战，结果大败，并遭文士洪战船追击。李靖急忙领兵来救，他见敌人只顾追击，抢掠，乱了队形，就乘机纵兵，大败文士洪，缴获敌船四百余艘，敌人溺死万人。
接着，李靖又率轻兵五千人为先锋，围困江陵，破萧铣部将杨君茂、郑文秀，俘敌四千人。萧铣非常恐惧，只得投降。李靖对投降的将士采取宽大政策，致使江汉一带许多城镇也都自愿归唐。因而，唐高祖李渊提任他为岭南道抚慰大使、检校桂州总管。
后来，李渊又命李孝恭为帅，李靖为副，领兵攻伐占据江南的辅公祏（国号宋，称帝于丹阳，即今南京江宁）。辅公祏派部将冯惠亮以舟师三万屯当涂，另派部将陈正通以步兵二万屯青林（当涂东南），自己亲自率兵到梁山，用铁索横断长江通道。李靖说服诸将改变直取丹阳的计划，先攻当涂，消灭辅公祏的主力冯惠亮。经过几次交战，冯惠亮逃亡，李靖率轻兵数千直追到丹阳，辅公祏弃城逃走，后被俘杀。李靖占领江南的消息传到长安，李渊赞叹道：“李靖真是萧铣、辅公祏的克星，古代名将白起，韩信、卫青、霍去病也不过如此！”
公元626年，唐高祖李渊禅位，自称太上皇，传位给李世民。唐太宗李世民即位后，任李靖为兵部尚书。三年后，突厥侵犯唐朝边境，李世民任李靖为定襄道行军总管，统兵北征。李靖率轻骑兵三千人，由马邑出击，夜袭定襄（今山西大同）。突厥颉利可汗没料到唐朝军队会来得如此神速，一时不知虚实，不敢应战，率部逃遁。捷报到了京城，李世民说：“汉朝李陵，以步兵五千进军沙漠，最后降敌，其功尚写在史书上。李靖以骑兵三千，攻克定襄，古所未有。”即封李靖为代国公。
公元630年，李靖又率兵出击突厥，斩敌一万多人，俘虏男女十万人，最后俘虏了颉利可汗，消灭了突厥，御史萧玛检举李靖的军队纪律不好，抢劫物资。李靖承认自己对部属约束不严，犯有过失。李世民说：“隋朝大将史万岁破达头可汗，隋文帝不赏而杀。我跟隋文帝不同，我赦你的罪，立你的功。”晋升李靖为左光禄大夫。不久，又晋升李靖为尚书右仆射。
公元649年，吐谷浑侵犯边境，李靖说：“我虽然老了（64岁），但尚可为国效劳。”李世民很高兴，任他为西海道行军大总管，统帅高甑生等五路总管。李靖深入敌人境内，光较大的战役就有几十次。第二年，大败敌人于突伦川（今青海柴达木河以西地区），吐谷浑首领伏允兵败自尽，李靖立大宁王慕容顺而还。
公元649年，李靖病重，唐太宗亲自去看望，死时年七十九岁。李靖与李世民谈论兵法的语录，经后人整理成《李卫公问对》一书，世称“李卫公兵法”，成为武经七书之一。