五胡亂華，晉室南遷之後，一方面為了收納北方南遷的士民，一方面為了表示不忘故土，因此東晉大量設置「僑州、僑郡、僑縣」，將南方原有的州郡縣之中，畫出部分土地，別置州郡縣，冠以北方故地之名。僑州或僅有一郡一縣之地，或今日設治於此州，明日又移治於彼州，時置時廢。授官僑州刺史、僑郡太守者，往往有名無實。《宋書．律曆志》云：「一郡分為四五，一縣割成兩三，或昨屬荊、豫，今隸司、兗，朝為零、桂之士，夕為廬、九之民。」相對於南方為表示不忘故土而設僑州郡，北方政權也為了顯示一統天下的決心，以南方地名設置了許多州郡，如北魏也設湘州、揚州、巴州、益州、廣州等。東漢到魏晉南北朝州郡數字的演變：東漢13州105郡，曹魏13州93郡，孫吳5州40餘郡，蜀漢2州22郡，西晉初年19州173郡，南朝宋22州238郡，南齊23州395郡，梁天監年間23州350郡，梁大同年間107州，陳42州109郡，北魏太和十年38州，其後增為100餘州，北齊90餘州160餘郡，北周210餘州500餘郡。《隋書》卷46〈楊尚希傳〉評價魏晉南北朝濫設州郡的現象：「民少官多，十羊九牧。」北魏州級行政機構，有州、鎮、領民酋長三類。西北邊區設鎮，長官為都大將、大將（後期改稱鎮將），鎮下有軍（長官為軍主），軍下有戍（長官為戍主），為鎮、軍、戍三級制。鮮卑及其他降附部族則設領民酋長，命該部族首領充任，以統轄其部族。