匈奴亡於內部的爭權奪利，漢宣帝時，匈奴單於死了，匈奴出現了五位爭奪單於之位的首領，均自稱單於，五單於率領各自部眾相互廝殺，損失慘重，最後，失敗的呼韓邪單於率領部眾投靠了漢朝，分裂了匈奴，稱為南匈奴，南匈奴之後壹直在漢朝的支持下打擊北匈奴。
五單於爭立中的其他失敗者不是戰敗被殺，就是向西遷移了。五單於爭立的最後勝利者郅支單於雖然獲勝，自己的部眾也所剩不多，只剩下兩千多人，看到呼韓邪單於投靠了漢朝，自己不是對手，不得不向中亞撤退，撤到了康居城。
此時在甘肅屯田戍守的陳湯看到了機會，便假傳聖喻，率領數千屯田漢軍，招集了西域諸國聯軍，***數萬人攻擊了康居城，擊敗了只有兩千多人的郅支單於，俘虜了壹千多人，分給了西域聯軍諸國，丟出了壹句“犯漢者，雖遠必誅”的名言。
郅支單於雖然也死了，但匈奴還沒有滅亡，匈奴仍分裂為南、北匈奴。同時，當匈奴人忙於自相殘殺、爭權奪利的時候，草原上的鮮卑族也掘起了，它也投靠漢朝，在漢朝的支持下和南匈奴壹起打擊北匈奴，趁機擴大自己的實力，取代匈奴。
至東漢竇憲時，南、北匈奴都十分衰落了，竇憲因為參於謀害太後寵臣事敗，為了將功贖罪，趁機對匈奴發起了戰爭，消滅了最後的匈奴單於，俘虜了幾十萬匈奴人和數以百萬計的牛羊牲口，使匈奴人徹底喪失了稱霸草原的實力，壹些匈奴部族淪為漢朝雇傭軍，幫漢朝作戰，壹些與壹些鮮卑部族融合，後來發展為蒙古人。西遷的匈奴人也再也沒有回來。
直至漢朝滅亡，匈奴部族仍然活躍在草原上，甚至進入漢地建立割據政權。鮮卑人更是壹度統壹北方，建立北魏政權。隨著大批鮮卑人南下漢地，與漢人融合，北方草原上新的突厥部族也興起了。
匈奴並沒有活不下去，而是與胡、漢各族融合了。壹部分西遷，大部分與漢人、鮮卑人融合，成為後來形成的漢族和蒙古族的部分。蒙古族與漢族的血脈聯系，也正是通過匈奴人、鮮卑人和大量被掠走的漢人建立起來。北方遊牧民族中包括了大量被遊牧化的漢人後代。