二十五年春，單于派弟弟左賢王莫率領一萬多兵力攻打北單于的弟弟奠韃左賢王，活捉了奠韃左賢王；又打敗了北單于帳下的軍隊，合併了北單于部衆一萬多人，獲得七千匹馬、一萬頭牛羊。北單于很驚恐，後退了一千里。起初，皇帝制造戰車，可以用幾頭牛駕車，車上造有望樓，放在塞上，用以抵擋匈奴。當時見到戰車的人相互談論說：“讖語說漢第九代時將會使北狄退卻千里，難道說的就是這件事情嗎？”到這時候，果然開拓了疆域。北部的奠韃骨都侯與右骨都侯率領三萬多部衆前來投奔南單于，南單于再次派使者到朝廷，以藩國之禮稱臣，獻上國內的珍寶，請求派使者督察保護，派兒子到朝廷侍奉，締結從前的盟約。
二十六年，皇帝派中郎將段郴、副校尉王鬱出使南單于，立於南單于庭，這裹距五原西部邊塞八十里遠。單于於是延請迎接漢使者。使者說：“單于應當趴在地上拜接詔書。”拜完以後，單于要翻譯曉諭使者說：“單于剛剛即位，在手下人面前實在感到羞慚，希望使者不要當着衆人的面讓單于屈尊。”骨都侯等人見此情形，都流下眼淚。段郴等人回來覆命，皇帝下韶書聽隨南單于住進雲中。單于派使者上書，獻來兩頭駱駝、十匹毛色有紋彩的馬。
正月初一朝廷舉行朝拜慶賀，在拜祭陵墓和宗廟以後，漢就打發單于使者回去，命令謁者護送，賜給單于一千匹彩色絲帛，四端錦帛，十斤金，還有太官爲皇帝制作的醬以及橙子、橘子、龍眼和荔枝；賜給單于的母親和各位闢氏、單于的兒子和左右賢王、左右谷蠡王、骨都侯中有功德的人各種彩色絲帛，合起來有一萬匹。
匈奴習俗，每年有三次龍祠，一般在正月、五月、九月的戊曰祭祀天神。南單于既然歸順漢，就同時祭祀漢皇帝，藉此機會召集各部，商量國家事務，舉行賽馬和賽駱駝，以此爲樂。匈奴大臣中尊貴的是左賢王，其次是左谷蠡王，其次是右賢王，其次是右谷蠡王，這稱爲“四角”；其次是左右日逐王，其次是左右溫禺千王，其次是左右漸將王，這稱爲“六角”：他們都是單于的兒子兄弟，按照順序將要當單于的人。異姓大臣有左右骨都侯，其次是左右屍逐骨都侯，其他又有日逐、且渠、當產各種官號，各以權力的大小、部衆的多少確定職位高低和次序。單于姓虛連題。異姓有呼衍氏、須卜氏、丘林氏、蘭氏四個姓，他們是匈奴國內名族，經常與單于通婚。呼銜氏爲左，蘭氏、須卜氏爲右，他們負責判決案件，受理訴訟，他們將判決的輕重，口頭告訴單于，那裹沒有文書和記事的簿冊。
南單于住進西河以後，也設置各部侯王，幫助漢抵禦戍邊。南單于派韓氏骨都侯駐守北地，右賢王駐守朔方，當於骨都侯駐守五原，呼衍骨都侯駐守雲中，郎氏骨都侯駐守定襄，左南將軍駐守雁門，慄籍骨都侯駐守代郡，他們都統領部衆替郡縣當耳目偵察動靜。北單于很惶恐，送還了被擄掠去的許多漢人，以表示友好。他們出來抄掠的軍隊每次經過南部附近，或回頭經過漠兵偵察敵情的崗亭，總是道歉說：“我們打的是逃亡的奠韃曰逐王，並非膽敢侵犯漢人。”
二十七年，北單于於是派使者到武威請求和親，天子召集公卿大臣在殿庭商議，決定不下來。皇太子說：“南單于剛剛歸順，北部的敵虜害怕被攻打，所以側耳而聽，爭着想歸附正義。現在朝廷不能出兵，卻反而和北部敵虜往來，臣恐怕南單于將會生出二心，願意投降的北部敵虜將不會再來投降了。”皇帝認爲有道理，就告知武威太守不要接納北單于的使者。
二十八年，北匈奴又一次派使者到朝廷，進獻馬匹和皮裘，重新乞求和親，並想求得漢的音樂，又請求率領西城各國的胡人一道前來進貢朝拜，皇帝將此事交給三公府去討論應酬答覆的事宜。司徒掾班彪上書說：臣聽說孝宣皇帝吩咐守衛邊境的將尉說：“匈奴是大國，多變化和欺詐。交往合情得體，就可以談判取勝；應答中了他們的
計謀，就反過來被他們輕視欺侮。”現在北匈奴見南單于前來歸順，害怕我們設謀對付他們，所以多次乞求和親，又從遠方趕來牛馬與漢做生意，重複派遣有名的王侯，進貢很多東西，這都是用來向外顯示富強，爲的是欺騙我們。臣看到匈奴貢獻的東西越多，就知道匈奴國內越空虛，要求歸附親近越急迫，他們的恐懼就越厲害。然而現在既然未能幫助南部，那麼也不宜和北部斷絕聯繫，按照懷柔籠絡的原則，於禮數不能沒有回覆。臣以爲可以給他們一些賞賜，大致與他們所獻來的東西價值相當，公開將前代的呼韓邪和郅支行事的結果曉諭告知他們。