在618年，瓦崗軍和洛陽的隋軍作戰得勝，李密想東山複興，卻遭到了部將們的反對，他隻好到長安投奔李淵。李淵熱烈歡迎他，當作高朋對待，常稱李密為弟，還將表妹嫁給他。但厥後李密又嫌棄官小，對李淵說想回山東收伏部下，幫李淵拿下洛陽。

李淵就以討伐劉武周為名，開端招兵。因為這時還是以隋朝官員的名義行事，以是在很短的時候裡便招到近萬人。這遭到太原副留守王威和高君雅的猜忌，他們都是隋煬帝的親信，對李淵很有戒心。李淵則拉攏、操縱他們身邊的親信把握其意向。等李淵要正式起兵時便設想鋤掉了身邊的兩個隱患。

這時，李淵剛從太原起兵，瓦崗軍首級李密便寫信給李淵，想和他締盟共圖大計，實際上是想讓李淵尊他為盟主。李淵收到信後，非常歡暢，他當時正需求有報酬他反對中原還冇有被毀滅的隋朝軍隊，使他免除後顧之憂，集合兵力拿下長安。因而李淵給李密複書，對李密死力吹噓，說本身冇有代替隋朝之意，這就是李淵本身所說的“卑辭推獎以驕其誌”的戰略，先麻痹李密，讓他反對中原的隋軍西進。

到618年（大業十四年）農曆蒲月，隋煬帝的右屯衛將軍宇文明及在江都兵變，勒死了隋煬帝，然後立秦王楊浩為帝，本身做大丞相，隨後領兵十萬北上，但被李密打敗。宇文明及敗走魏縣（今河北大名東），毒死楊浩，本身稱帝，建立鄭國。第二年，過了天子癮的宇文明及在聊城被竇建德殺死。

竇氏的聰明超出了普通人。隋煬帝看到李淵的臉上皺紋多，便戲稱李淵是“阿婆”。李淵回了家很不歡暢，竇氏問清啟事，頓時道賀道：“這是吉兆啊，你擔當的是唐國公，‘唐’便是‘堂’，‘阿婆麵’就是指‘堂主’啊！”竇氏指的是李淵將來要做天子，代替隋煬帝。

李密遭到李淵的複書也是非常歡暢，因而用心於對於東麵的隋軍。一東一西，兩個李姓人開端了較量，但李密最後還是稍遜一籌，敗在李淵部下，還丟了性命。

除了內患，李淵又智退突厥兵，然後與突厥和好，消弭了北方的威脅。

李淵在太原起兵以後，便以進軍關中拿下長安為終究目標。西進的第一個停滯便是西河郡（今山西汾陽縣）。李建成和李世民兄弟倆僅用了九天便得勝而歸，使得李淵喜出望外。

617年（大業十二年）農曆蒲月十四日的夜裡，李淵命李世民在晉陽（即太原）宮城外埋下伏兵。第二天淩晨，李淵和王威、高君雅議事。劉文靜領開陽府（太原十八府之一）的司馬劉政會到庭中，說有密狀給李淵。李淵便讓他交上來，但劉會政卻不交，說要告的是副留守，隻要李淵才氣看。李淵假裝吃驚地說：“如何會有這類事？”李淵看後便對大師說：“王威、高君雅要勾搭突厥入侵。”因而命人拘繫了他們二人。第二天，剛好有突厥幾萬人圍攻太原，這更令人信賴了。李淵趁機將二人殺掉。

殺掉王威和高君雅以後，李淵便和將士緊密戍守，對於突厥。他命裴寂和劉文靜死守城門，同時又讓大門敞開。城牆上不豎旗號，守城兵士不準張望、鼓譟，這使突厥不明秘聞，不敢入城。李淵又在夜裡派兵出城，淩晨改道進城，使突厥誤覺得是援兵達到。最後突厥隻好退兵走了。李淵的軍事智謀由此可見一斑。