五胡於晉惠帝末期爆發大規模叛亂，十餘年後更據有整個北方。從西元304年匈奴劉淵稱王起，下至西元439年北魏統一北方止，在這一百三十六年間，他們陸續在北方建立了十幾個國家，與長江以南的漢族政權互相對峙。史家把這段時間在中原地區所建立的國家，統稱為「十六國」。這些國家大多為胡族所建，漢人建立者僅三國。十六國本身不但經常相互攻伐，其中若干國並與南方的晉發生過多次戰爭。北方氐族建立的國家前秦，其國主苻堅愛好儒學，繼位後興修學校，表彰節行，並委政於漢人王猛。王猛富於韜略，為政明肅，勸農講武，因此國勢大盛。其後苻堅統一北方，乃於西元383年大舉伐晉，爆發了「淝水之戰」。當時東晉舉國震恐，唯有宰相謝安力持鎮定。結果東晉大獲全勝，北方又再一次陷入分裂。東晉雖然偏處長江以南，但也有許多有志之士，立志光復故土，如祖逖、桓溫、劉裕等都曾數次北伐。他們雖多次攻滅北方國家，但卻因為東晉朝廷對將領的不信任和文臣武將之間的隔閡，功敗垂成。北魏自道武帝拓跋珪於淝水戰後崛起，國勢日強。西元439年，太武帝拓跋燾終於成功統一北方。北魏一面利用武力控制北方，一面大膽採用「以漢制漢」的策略，並勵行漢化政策。但因孝文帝激烈的漢化政策，導致族內的反彈，引發「六鎮之亂」，終於在534年分裂為東魏與西魏。東魏(534年-550年)一直由鮮卑化權臣高歡所控制，建都鄴城(今屬河北省)。東魏時期，國內土地兼併問題嚴重，民族矛盾尖銳，因此屢敗於西魏。550年，高歡之子高洋篡魏自立，國號齊。西魏(535年-557年)由鮮卑族權臣宇文泰所控制，建都長安，與高歡的東魏對峙。西魏在宇文泰的努力下，經濟逐漸恢復。557年，西魏被宇文泰子宇文覺所篡，國號周。577年，北周滅北齊，統一華北。581年，楊堅?北周，改國號隋。至此北方的爭亂告一段落，開啟隋唐的盛世。