由鮮卑拓拔部創立的北魏政權，統一華北後，初仍以過去部落聯盟的習慣，來發展他們的軍事行動。協助北魏皇帝進行軍事決策者，是所謂的「八部大人」（亦稱「八大人」或「八部帥」），這八位「大人」各有屬官，分別統領當時京師─「代」附近以鮮卑族為主的部落軍隊。隨著北魏統治者逐漸漢化，「八部大人」為代表的軍事體制逐漸被改造。直到北魏孝文帝行漢化政策，八部大人軍事決策的職能，已被太尉、大司馬、大將軍等職所取代，且在尚書省之下，另設七兵尚書來處理日常的軍務。北魏的軍隊跟兩晉南朝一樣有中、外軍之分，中軍平時負責宿衛，出征時則成為戰場上的主力。北魏的中軍大多從鮮卑宗族子弟中選拔，根據武技體格，分為上、中、下三等：上品為「羽林」，中品為「虎賁」，下品為「直從」。中軍的數量大約佔全國軍隊的一半強，交由「領軍將軍」及「護軍將軍」指揮。「領軍將軍」負責皇帝以及京師地區的宿衛，「護軍將軍」則指揮京師週遭要地的部隊，頗類似於漢代南北軍的設置。北魏的外軍可分為州兵、鎮戌兵兩種。州兵由各州子弟所組成，接受各州都衛統領，主要任務在維持轄區內的治安，有時也奉調到他處作戰。鎮戌兵的起源則是在北魏建立之初，為了防備北邊遊牧民族的入侵而設。爾後隨著北魏領土的擴張，對於新統治的地區也派設鎮戌兵來加以鞏固。這些鎮戌兵大多由鮮卑族或鮮卑化的他族子弟所充任，由鎮將、戌主所領導，不受州郡管轄。每鎮軍隊數量起初約略三千、五千不等，後來發展出數萬的大軍鎮，如在長城以北，後來引發大亂的六鎮。由於北魏徵集軍隊方式並非直接沿襲兩晉的規定，它與盛行世兵、募兵的南朝政權相比，雖有些相似，但仍有差別。在北魏前期，根據鮮卑部落的習俗，所有鮮卑族的成年男子都是戰士，戰時有出征服役的義務。經連年戰爭，這些士兵沒有離開軍隊的機會，長久下來便成為終身服役的常備軍。因此這些兵士在戶籍上便與一般民戶分開，稱作「營戶」或「鎮戶」，直接由各地軍事長官來管理，可說是另一種世兵制度。此外，各地的州兵則是向當地漢人徵兵編組成的軍隊，每次兵役為期一年，定期輪番替代，故又稱「番兵」。相較於南朝，終北魏一代甚少招集募兵，這是南北兵制最大差異之處。