漢高祖劉邦時，將一位宗室之女，作爲和親公主嫁給冒頓單于，並與冒頓單于相約爲兄弟，所以，冒頓單于的子孫都以劉氏爲姓。
他的祖先很牛，到了劉淵的時候，雖然他的父親沒有成爲單于，但也被封爲左賢王，也就是於扶羅的兒子劉豹。
有這樣出身，劉淵自然不會差到哪裏去了。
他要見到大人物，也並不困難。
到了司馬昭年代的時候，劉淵作爲人質，住在了洛陽，得到司馬昭的厚待。
司馬炎繼位後，對劉淵很讚賞，說他是漢代的金日蟬，想要委任他統領東南地區的事務。
幸好孔恂、楊珧及時進言說：“劉淵與我們不是一個民族，必然會有異心。現在，委任他治理本部的事務，我們已爲陛下您感到擔心，若是還要將天然險阻之地賜給他，恐怕是不行的。”
晉武帝聽了默然不語，這才作罷。
然而，屬於劉淵的機會，始終會到的。
不過，他機會還沒等到之前，倒等來了危險。
王彌從洛陽東回故鄉，劉淵去餞行，流着淚對王彌說：“有些人向皇上大進讒言，對我構成危害。恐怕我會死在洛陽，永遠與您訣別了。”說罷，情緒激昂，盡情地喝酒，大聲地慨嘆、呼叫，聲音嘹亮，在坐的人禁不住因此而流淚。
劉淵的這個行爲，真有豪邁漢子的做法；可這樣的行爲，也會令人側目。
這個側目的人，就是齊王司馬攸慚愧這個敗給白癡皇帝的司馬攸，差點挽救了晉朝。當時他正在附近，聽說此事後，便派人快馬去察看，發現劉淵果然大有怨言，於是對晉武帝說：“陛下您如果不除掉劉淵，恐怕幷州就不能夠長久地安定。”
晉武帝要是聽從司馬攸的話，說不定晉朝就不會那麼快滅掉，起碼，不是滅於劉淵的漢國了。
王渾忙忙爲劉淵說話：“劉淵是長者，我王渾替君王擔保講明此事。況且大晉正要向少數民族表明用誠信相待，用德政使遠方的人歸附，怎麼能夠憑連萌芽狀態都沒有的嫌疑殺戮別人送來伺候的人質，以表明晉朝恩德不廣呢”
晉武帝同意王渾所言，最終沒有殺劉淵。
劉淵感受到了亂說話的危險之後，從此低調，處處保持沉默，一直在熬着，等待着。
咸寧五年公元279年，劉淵的父親左部帥劉豹去世，西晉朝廷於是任命劉淵爲代理左部帥。太康十年公元289年，晉武帝任命劉淵爲北部都尉。
自此，劉淵以爲拜脫了困境，哪裏知道，更大的困境來臨。
元康末年公元300年，劉淵因爲部下叛逃出塞而被免官。
劉淵一下子成了失業人口。
他深深地感受到了沒有靠山是很難混的。
這個世界上，靠自己的人，如果沒有通天的能力，基本上混不開。
劉淵雖然算不上通天的能力，但舉世之下，沒幾個人比得上。他沒有靠山，一樣難混。
司馬穎正是需要劉淵這樣的猛將，當下上表推薦劉淵擔任寧朔將軍、監五部軍事。
司馬穎正是勢頭勁的時候，誰敢不聽他的話
劉淵附上司馬穎的尾巴之後，青雲直上，一路毫無阻攔了。
不久，司馬穎擊敗司馬乂之後，更是炙手可熱，紅得冒煙。
主子富得流油了，下面的人，肯定跟着大魚大肉。
司馬穎成了皇太弟之後，劉淵爲代理輔國將軍，負責北城防守諸事務。
他是屬於那種很會珍惜的人，所以，一擁有兵力，就好好練兵，等待着機會。
之後，司馬騰、王浚討伐司馬穎。
劉淵給司馬穎的建議是：招攬鮮卑、烏丸等少數民族人馬，共同抵擋司馬騰
司馬穎卻只想着護送皇帝回洛陽，不聽劉淵的建議。
劉淵再次勸說：“回洛陽之後，您只能受制於張方如果引六部人馬來，肯定能擊敗司馬騰和王浚”
司馬穎還是不聽，帶着皇帝回洛陽去了。
從這一點來看，司馬穎的見識，遠遠及不上劉淵；因爲司馬穎看到的是如何呆在富貴地盤上過自己的富裕生活，而劉淵看到的是，如何擊敗敵人，鞏固勢力。
這是倆個完全不一樣的人。
後來發生的一切，果然如劉淵所料的一樣。司馬穎過上寄人籬下的生活，窮愁困苦，百般無奈，任人宰割。估計他想起劉淵的勸阻，腸子都要悔青。
司馬穎失敗後逃跑，劉淵想去救他。
他的手下阻止說：“我們正可趁機恢復呼韓邪的基業，希望單于不要去救司馬穎。”
劉淵聽後堅持要去救司馬穎，同時說，大丈夫，要學就學漢高祖，不要做呼韓邪
壯哉大志向，才能做成大事業
劉淵又說：“我是漢朝劉氏的外甥，我們的祖先曾與漢朝相約爲兄弟，兄長滅亡了，弟弟來繼承，不也是應該的嗎況且，我們還可以稱漢，追認並尊奉後主劉禪，以此來使天下人的期望歸向我們。”於是，他遷都到左國城，準備着稱帝。
元熙元年公元304年，劉淵在南郊築壇設祭，自稱漢王，赦免境內囚犯，建年號爲元熙，追尊劉禪爲孝懷皇帝，建造漢高祖以下三祖五宗的神位進行祭祀，立妻呼延氏爲王后。署置百官，任命劉宣爲丞相，以崔遊爲御史大夫，宗室劉宏爲太尉，其餘的人授官各有等差，國號爲漢。
劉淵又任命劉歡樂爲太傅，劉聰爲大司徒，劉延年爲大司空，劉洋爲大司馬，赦免境內囚犯。又立妻子單氏爲皇后，兒子劉和爲皇太子、劉乂爲北海王。
尤其是劉聰，作戰英勇，又善計謀，很得劉淵的重用。
永嘉二年308年，劉淵正式稱帝，改年號爲永鳳。
他不僅僅要建立國家，還要滅了晉朝