北周天和六年（公元571年），李靖出生于陇西官宦士族，家族为陇西李氏丹阳房一支，其父亲李诠是隋朝的赵郡太守，袭爵永康县公。李靖少年心怀大志，成年后出仕隋朝的长安县功曹，后升迁为驾部员外郎、殿内直长。至隋大业末年，李靖被任命为马邑郡丞。 隋朝大业十三年（公元617年），李渊在塞外击败突厥。李靖探知李渊有谋反的企图，于是前往江都向隋炀帝告发，但是路途堵塞未能成功，滞留长安。同年，李渊在晋阳起兵，南下攻打长安城，抓住并要斩杀李靖。李靖以义军刚刚兴起、不宜斩杀壮士为由说动了李渊，李世民从中求情。于是李靖得以在李渊的军中效力，之后进李世民的幕府之中担任三卫。武德三年（公元620年），李靖跟从秦王李世民讨伐王世充，因功被授予开府。
