但在後方，他卻遇到了來自金州薛舉的巨大威脅。
彼時，隴右有兩個割據政權——金州的薛舉、涼州的李軌。其中，要數金州薛舉兵強馬壯，勢力強悍。
薛舉此人，生於蘭州金城，容貌魁梧、勇武有力，並且善於騎射。他家中財富鉅萬，又素來喜歡結交豪傑，因此在金州一代人望很高。
他在隋朝末年天下大亂之時，舉兵佔據金城，自立爲西秦霸王。
煬帝得知消息後，派皇甫綰率兵萬餘人前往鎮壓，薛舉只帶領兩千騎兵迎敵。
決戰當天，天降大風，風勢猛烈，飛沙走石卷地而走直吹的隋軍陣腳大亂，許多人甚至被飛石擊斃。薛舉因爲是順風，他就乘風勢全力出擊，戰勝了數倍於己的強敵。
自此，一戰成功，聲威大震！
岷山羌族首領鍾利俗帶領兩萬部衆前來歸附，薛舉大喜過望。
他又分兵奪取州縣，攻城略地。短短几個月時間，盡得隴山之右的土地，擁兵十三萬。
由於擴張的非常迅速，勢力極速膨脹，薛舉的野心蓬髮。他在金城稱帝，以妻麴氏爲皇后，以兒子薛仁杲爲太子，爲其祖先修建陵墓，又在城南立薛氏宗廟，正式宣告建立西秦國。
在薛舉繼續東擴的過程中，遇到了大唐秦王李世民。薛舉之子薛仁杲在扶風被李世民打得大敗而逃。
薛舉見自己兵敗，心生沮喪，一度想要投降唐朝，卻被謀士郝瑗勸阻。郝瑗勸他藉助羌兵之力，聯合梁師都，厚賂突厥，相約聯合進攻長安城。
李淵於此時剛剛建立大唐。五月，李淵稱帝。六月，薛舉大軍已經攻掠至涇州、岐州一帶。
李淵得報，即刻命秦王李世民爲西討元帥，統帥劉文靜、殷開山等八總管兵前往抗敵。
至七月，雙方對壘於高墌城。
由於前次的勝利，李世民思想上放鬆了警惕，以至於戰前準備不足。
薛舉先是在高墌城下故意敗陣，致使李世民放鬆了警惕。當夜，薛舉派出他旗下最爲精銳的騎兵夜襲唐營。由於唐軍大多還在夢鄉，準備不足，就被薛舉包了餃子。
唐軍幾乎全軍覆沒，士兵死傷超過六成，八總管全部戰死。唐軍的屍體被薛舉命人壘起來，成爲了高達丈餘的屍山。
薛舉大獲全勝之後，準備乘勝長驅入關，進攻長安。
面對如此危局，身爲皇帝的李淵卻鎮定自若。他當即派出快馬前往東突厥始畢可汗處，提起曾經約爲兄弟、互相幫助的盟約，答應以靈州爲要塞，讓出榆林、五原等河曲之地爲東突厥的控制區域。並近一步提出，如果唐朝取得隴右之地，會將隴右的財富悉數貢獻。
李淵只有一個條件，始畢可汗不能再幫助薛舉，應該幫助唐朝。
始畢可汗聽後大喜，當即答應派兵南下關中協助李淵。不久，始畢可汗派特使鬱射設率所部萬餘人進駐黃河南岸，併發兵與唐軍聯兵作戰，攻克薛舉。
薛舉得知始畢可汗突然轉向，知道攻克長安已經不可能了。他數次派出使節聯絡始畢可汗，都被拒絕，因爲始畢可汗知道，他的開價永遠都不可能有李淵那麼高。
薛舉眼看剛剛奪取的地盤得而復失，心知大業成空，不由得火氣攻心，暴病而亡。
勝利的天平開始向大唐傾斜……
西秦新帝薛仁杲性猜疑，兇殘暴虐，雖然拖在戰場上號稱“萬人敵”，但他根本不會籠絡人心。起先追隨薛舉的一批老臣紛紛隱退，西秦內政日益頹敗。
戰爭，不過是政治的延伸，在政治上取得優勢的李淵，此刻已經完全不再擔心西秦這個敵人了。他再一次任命李世民爲西討元帥，領兵出征攻擊薛仁杲。
鑑於前次的失敗，李世民此次用兵非常謹慎。他在淺水原佈陣，不斷派兵劫掠敵軍糧道。
在積累了近半年的兵勢之後，趁敵軍糧盡之時發起猛攻，一戰以秋風掃落葉之勢平定了西秦國。
之後，大唐接管了祁連山下一度被西秦控制的山丹馬場，獲得了大批的戰馬。西秦國的大批人才進入大唐效力，爲大唐增添了新的力量。
薛舉勢力被平定以後，涼州的李軌在大唐勳臣安興貴的勸說下歸附大唐。涼州歸附以後，隴山以右的土地和人口全部歸附在了大唐旗下，河西走廊徹底被李淵打通了。
自此，大唐的商隊可以西去遙遠的西域，抵達波斯、埃及、羅馬。西域的商人也可以趕着駝隊來到大唐，帶來異域方物，帶來異族風情，帶來絲綢之路上外邦的消息。