竇建德的夫人曹氏，帶領一部分人馬回到了洺州。
不久之後，曹氏收到了竇建德從洛陽獄中寫來的親筆信，要他投降唐朝。
曹氏持重，他把信件拿給左僕射齊善行和右僕射裴矩閱覽，與他們商量夏國的去向。
二人的德望都很高，他們都認爲歸唐已經是天下大勢，不可逆轉。
來日，百官朝會時，由左僕射齊善行宣佈歸唐之事。竇建德的故將普遍不滿，他們公推竇建德與曹氏不滿兩歲的兒子爲主，想繼續與唐朝爲敵。
一時間，朝堂上喧囂聲不絕於耳。赳赳武夫，熱血胸膛，他們已是百死之身，因此不願就此放棄。
左僕射齊善行力勸不住，只好請曹氏拿來了竇建德的親筆信。衆人這才停止了吵鬧，只不過心中仍然認爲竇建德不過是身在獄中身不由己而已。
來日，曹氏率領百官以及傳國八玉璽投降唐朝。
竇建德故將範願、高雅賢等人，不願接受唐朝的官職，紛紛辭官歸鄉。
曹氏因歸國之功被李淵封爲一品鋯命夫人，她不願再待在洺州這個傷心的地方，也回到了家鄉。撫育幼子，迴歸平靜的生活。
齊善行和裴矩接受了唐朝的官職，被詔命前往長安任職。夏國的大部分文官也都接受了唐朝的官職，治理地方。
竇建德行刑之日，沒有人給他送行。張玄素買了一罈陳酒、一隻燒鵝，親自給竇建德送行。
戒備的士兵不讓他靠近，行刑官下令放行。說黃泉路上的人，不要攔阻，這是成人之便，也是人之常情。
張玄素一邊給竇建德倒酒，一邊感慨地說:“夏王，當初我勸你行東漢竇融故事，你要是能聽就好了！”
說着，兩行熱淚忍不住地留下來。
竇建德嘆了一口氣，說着：“天命在唐，我亦無奈！只是你何必來這刑場，還是奔自己的前程吧！”
張玄素壓抑着哭聲，嗚咽地說：“我本一介布衣，蒙夏王不棄，一路擢拔，得以施展抱負。書生無用，我現在能爲夏王做的，也只能是這件事了。過後，讓我身死我亦無悔。”
竇建德雖然倔強地挺着脖子，還是留下了兩行熱淚。
……
事後，李淵得知張玄素的義舉。親自下詔奉他爲長者，並任命他爲太子少傅。
進入東宮任職之後，太子李建成一直對張玄素尊敬有加。
李淵認爲，太子作爲儲君，必須要有德行卓著的長者加以教導和輔佐。張玄素，就是這樣德行卓著的長者。