他騎着一頭黃牛，牛背上蓋着一塊蒲草坐墊，還把一套漢書掛在牛角上，一隻手捏着牛繩，一隻手翻書閱讀。
這時，恰好越國公楊素途經李密隱居之處，看見李密在勤奮讀書，連忙拉緊馬繮，輕聲慢步地緊緊跟在後頭，直到趕上他後，這才問道：“哪裏的讀書人，這樣好學”
李密是認識楊素的，連忙下牛拜了兩拜，通報了自己的姓名。
楊素又問他讀的是什麼，李密回答說是項羽傳。
楊素對他感到驚異，跟他談得非常愉快。他回去後，對自己的兒子楊玄感等人說：“我看李密的學識氣度，你們都趕不上。”
楊玄感遂與李密傾心相交。
後來，楊玄感造反，李密成了他的謀主。
可惜，楊玄感並沒有聽從李密的意見。
楊玄感抓獲了隋朝的內史舍人韋福嗣後，把機要事務交他辦理。
韋福嗣並沒有真正歸心，每當商議謀略的時候，他都持模棱兩可的態度。
楊玄感要他起草佈告文書，韋福嗣堅決推辭。
李密推測到他的心意，知道他不是真心歸降，當下對楊玄感說：“韋福嗣本來不是我們這一邊的人，實質上他也抱着觀望態度。您剛舉義旗，卻讓奸細留在身邊，必然被他誤事，請您將他斬首，向衆人道歉，人心纔會安定。”
楊玄感聽了卻不以爲然，說：“哪會這樣”
李密知道說了無用，當下私下裏對關係親密的人說：“楊楚公喜愛造反卻不打算成功，怎麼辦我們將會當俘虜了”
後來，楊玄感準備向西進軍時，韋福嗣終究還是逃回洛陽去了。
楊玄感這才知道李密的深謀遠算，當下開始接受他的意見。
隋朝左武衛大將軍李子雄因事獲罪被捕，押送到隋煬帝的行宮去，他在半路上殺掉押送官員，投奔楊玄感，同時勸說楊玄感趕快稱帝。
楊玄感向李密徵求意見。
李密很誠懇地說：“秦朝末年陳勝想要稱王，張耳勸阻因而被趕走；東漢末年曹操準備要挾獻帝賜給衣服、朱戶、納陛、車馬、樂則、虎賁、斧鉞、弓矢、禾巨鬯等九種器物作爲奪取政權的演習，荀彧制止因而被疏遠。今天我如果說直話，又怕走上張耳、荀彧的老路；如果阿諛奉承順着您，又不是我的本意。爲什麼呢起兵以來，雖然頻頻勝利，但到州郡縣城，還沒有人響應。洛陽的防守力量比較強大，各地的援兵越來越多。您應身先士卒，儘快平定關中，卻想急於稱帝，爲什麼要向人們表現器量狹小呢”
這真是有見識的人
楊玄感要是在此時稱帝的話，很快會成了衆矢之的
楊玄感這一次聽李密的話了，他笑了笑，就作罷稱帝的想法。
不久，隋朝將領宇文述、來護兒等人率領軍隊攻到了，楊玄感問李密道：“有什麼對策”
李密回答說：“元弘嗣在隴右統帥着強大的軍隊，如今可以假稱他要造反，派遣使者來迎接您，用這個理由率領部隊進入潼關，就可以瞞住廣大兵衆。”
他到了陝縣，轉而想去圍攻弘農宮。
李密勸諫說：“您現在哄着廣大兵衆向潼關撤退，辦好這事就得迅速，何況追兵快到，哪能停留如果前進不能據守潼關，後退又無處可守，廣大兵衆一旦逃散，用什麼保全自己”
這一次楊玄感不聽，覺得攻下弘農宮，就有大量的糧食，當下發動圍攻。結果，三天沒能攻克，宇文述的人馬追了上來。
楊玄感這才慌忙帶上隊伍向西走，可到達閿鄉縣，隋軍追兵就追趕上來了，把楊玄感擊敗
楊玄感見無路可逃，便叫弟弟殺死了自己。
李密見楊玄感已敗，當下連忙祕密進入潼關，哪裏知道，逃跑不遠，便被追捕的隋兵捉住了
這是李密人生最危險的時候他只要沒想到逃跑的辦法，除了被處死，再沒其它路子可走
當時隋煬帝在高陽縣，所以，李密和他的同夥要被一起押送到那裏去。
李密忙私底下對同夥們說：“我們的性命，如同早上的露水，如果被送到高陽，一定會被剁成肉醬眼下在路上，還可想想辦法，怎能送去遭受酷刑，而不設法逃避呢”
大家表示同意。
他們中多數人帶有金錢，李密便叫他們亮在押送的官員面前說：“我們死後，請用這作爲經費安葬，餘下的就全部報答你的恩德。”
押送官員眼睛一見金錢，頓時發亮，答應了他們的請求。
他們出了潼關後，防備逐漸放鬆。
李密請求買來酒菜，每天晚上喫喫喝喝，吵吵鬧鬧，通宵達旦，押送官員不把這當回事。
當他們走到邯鄲縣，李密等七個人挖穿牆壁逃掉，去投奔平原縣的叛軍頭目郝孝德，無奈郝孝德對他不大尊重，李密識相地逃跑了。
他一路逃跑，困頓到削樹皮來喫。這種苦日子，一直到了淮陽郡，他纔開始穩定下來。
他隱姓埋名，自稱劉智遠，招收徒弟講學。
這樣過了幾個月，心裏悶悶不樂，寫了一首五言詩淮陽感懷，詩寫成後流下了行行淚水。有個覺得他行動異常的人，把這事報告了淮陽太守趙佗，趙佗派人在本郡及其周圍各縣搜捕他，李密又逃走了。
他逃到了他妹夫雍丘令丘君明的家。丘君明不敢收留他，轉寄李密去遊俠王秀才家。
王秀才覺得李密是個人才，便把女兒嫁給了他。
丘君明的從侄丘懷義，這個人名不如其名，專幹不義之事，聽說李密的人頭值錢，當下去高密。
隋煬帝立即令丘懷義帶着敕書給梁郡通守楊汪去收捕李密。
楊汪派兵圍住王秀才的家，恰好李密出外，沒有被捉着，但丘君明、王秀才卻因此而死。
李密這才徹底地清醒，知道這樣逃亡不是辦法，得依靠兵強馬壯的人，於是，他前往瓦崗山而去了。