李淵大要上承諾了他的要求，公開裡卻派長史張寶德監督，等李密分開長安要出關時李淵卻命令讓他留一半兵在華州（今陝西華縣）。這時，和李密同業的張寶德向李淵告發說李密要兵變，實際是張寶德怕李密跑掉本身擔不叛逆務。李淵便命李密一人入朝。李密感到大禍臨頭，便起兵想闖出關去，成果被圍殲。在和李密的鬥爭中，李淵充分操縱了李密高傲高傲的缺點，在開端吹噓李密，等長安拿下後，李密投奔他時又設想撤除了這個隱患。

到618年（大業十四年）農曆蒲月，隋煬帝的右屯衛將軍宇文明及在江都兵變，勒死了隋煬帝，然後立秦王楊浩為帝，本身做大丞相，隨後領兵十萬北上，但被李密打敗。宇文明及敗走魏縣（今河北大名東），毒死楊浩，本身稱帝，建立鄭國。第二年，過了天子癮的宇文明及在聊城被竇建德殺死。

這時，李淵剛從太原起兵，瓦崗軍首級李密便寫信給李淵，想和他締盟共圖大計，實際上是想讓李淵尊他為盟主。李淵收到信後，非常歡暢，他當時正需求有報酬他反對中原還冇有被毀滅的隋朝軍隊，使他免除後顧之憂，集合兵力拿下長安。因而李淵給李密複書，對李密死力吹噓，說本身冇有代替隋朝之意，這就是李淵本身所說的“卑辭推獎以驕其誌”的戰略，先麻痹李密，讓他反對中原的隋軍西進。

李淵本來做過刺史，在隋煬帝即位之初做了滎陽（今河南滎陽）、樓煩（今山西靜樂縣）兩個郡的太守，厥後任殿內少監、衛尉少卿。公元613年（大業九年），隋煬帝撻伐高麗時，李淵在懷遠鎮督運糧草。這時，楊玄感操縱民憤舉兵反隋，厥後失利。在這期間，李淵受命鎮守弘化郡（今甘肅慶陽縣），廣交天下豪傑，遭到隋煬帝的猜忌。在615年調任山西、河東，達到龍門時，趕上了母端兒農夫叛逆，李淵領兵擊敗了叛逆兵，收編萬餘人，氣力大增。第二年，他升為右驍衛將軍，任太原道安撫大使，今後落腳太原，運營厥後的起家之地。

殺掉王威和高君雅以後，李淵便和將士緊密戍守，對於突厥。他命裴寂和劉文靜死守城門，同時又讓大門敞開。城牆上不豎旗號，守城兵士不準張望、鼓譟，這使突厥不明秘聞，不敢入城。李淵又在夜裡派兵出城，淩晨改道進城，使突厥誤覺得是援兵達到。最後突厥隻好退兵走了。李淵的軍事智謀由此可見一斑。

在618年，瓦崗軍和洛陽的隋軍作戰得勝，李密想東山複興，卻遭到了部將們的反對，他隻好到長安投奔李淵。李淵熱烈歡迎他，當作高朋對待，常稱李密為弟，還將表妹嫁給他。但厥後李密又嫌棄官小，對李淵說想回山東收伏部下，幫李淵拿下洛陽。

李淵驚駭宋鬚生守城不出，打成耐久戰對本身倒黴。李世民卻以為能夠應戰引他出來決鬥。因而李淵讓兩個兒子領幾十名馬隊進城察看，本身將軍隊分紅十幾隊，從城東南到西南，擺出一副安營攻城的架式。宋鬚生公然入彀，覺得李淵要攻城，便領兵三萬出戰。李淵領兵假裝後退，讓李建成和李世民領兵搶占了東門和南門，堵截了宋鬚生的退路。在交兵中李淵又漫衍宋鬚生已經戰死的謊言，擺盪了隋軍的軍心。隋軍大敗，全軍毀滅。宋鬚生也在被守軍用繩索往城牆上提時，被李淵的軍頭盧軍諤跳起殺死。李淵順利占據了霍邑。