過河後，李淵命李建成、劉文靜等率軍數萬人向南迂迴，占據永豐，扼守潼關，以防備東方；命李世民、劉弘基等率軍數萬人，向渭水北岸進軍，節製長安核心各要點，然後攻占長安。而李淵本身則節製一部兵力在朝邑，批示各方向作戰。

十月，李淵率軍自馮翊到長安東北，各軍彙合，氣力生長到幾十萬人。十一月，李淵彙合李建成、李世民、劉弘基之兵20餘萬攻打長安。打擊長安前，李淵命令不準侵犯隋朝七廟和代王宗室，違令者夷其三族，遂命諸軍攻城，軍頭雷永吉率先登上城頭，都城長安很快被李淵霸占。

因為屈突通在河東憑堅城恪守，李淵雄師主力冇有停頓，李淵便想繞過河東直趨長安。這時，裴寂以為：屈突通兵力不小，憑堅以守，若舍之而去，如果攻長安不下，退為河東所乘，“腹背受敵”很傷害，應搶先打下河東再進步。而次子李世民和裴寂的定見再次分歧，他以為：“兵貴神速”，應當乘勢敏捷入關，則長安震驚。“智不及謀，勇不及斷”，攻取很輕易。不然，頓兵堅城，空耗日月，長安就能安閒以備我，勝利就難了。因而李淵就以一部兵力持續圍攻河東，本身率主力渡河入關。

八月，大雨停止了，回軍的李淵率馬隊沿巷子奔霍邑，宋鬚生守城不出。李淵無法就派李建成、李世民帶領幾十騎到城下唾罵宋鬚生，同時本身帶領馬隊在城東埋伏。宋鬚生乃率眾三萬自東門、南門分道而出。李淵這時即同李建成左軍結陣於東門，令李世民右軍結陣於南門，以斷宋鬚生的逃路。成陣以後，又怕宋軍背城不肯遠戰，乃號令軍隊向後收縮，偽作退避宋軍模樣。宋鬚生公然以為李淵畏縮，在間隔城一裡餘處所佈陣。不久李淵的後續軍隊來到，李淵想命軍隊就食後再戰，李世民以為，“時不成失”，遂策動了的打擊。一比武，李淵、李建成在城東的步地倒黴，便向後引退，李世民發明宋鬚生雄師側背透露，即引兵自城南直衝宋鬚生軍陣後，並揚言已俘虜宋鬚生，隋軍大潰敗，李淵得以敏捷占據了霍邑。

七月，誓師過後的李淵命李元吉留守太原，本身親率3萬雄師西突厥兵幫部下，向關中進發。李淵起兵的動靜傳到長安後。長安留守的代王楊侑派宋鬚生率兵三萬屯在霍邑(山西霍縣)，屈突通率雄師扼守河東(山西永濟)，以防備其西進。

大業十三年(617)七月，李淵率隋軍三萬在太原誓師，進軍關內並正式公佈檄文。公佈的檄文裡，李淵斥責天子楊廣聽信讒言，殛斃忠良，窮兵黷武，導致民怨沸騰，“豺狼充於門路”，在檄文裡李淵聲明本身起兵是要廢掉昏君楊廣，然後擁立代王楊侑為帝，“尊天子為太上皇，立代王為帝，以安隋室”。而他本身則建大將軍府親任大將軍，世子李建成為左領軍多數督，李世民為右領軍多數督，劉文靜任大將軍府司馬。實在，這僅僅是李淵的一種號令天下的戰略罷了，因為他復甦地熟諳到，此時的大隋王朝，是百足之蟲、死而不僵。如果本身一開端就打出反對大隋的旌旗，那就不明智了。

李淵在攻占霍邑以後，乘勝連下臨汾、絳郡(山西新絳)，進逼龍門。關中權勢最大的一支農夫義兵孫華和馮翊（陝西大荔）太守蕭造投降李淵。李淵因而一方麵率主力圍攻河東，另一方麵派王長諧等率一部分兵力在孫華的幫部下度過黃河，在河西設營，形成了對河東圍攻的無益情勢。