東漢靈帝黃巾之亂時，依劉焉之議，賦予州郡兵權，雖然討平了黃巾之亂，但各州刺史（或稱州牧）卻擁兵自重，互相征伐，造成東漢末年軍閥割據，群雄並起。當時著名的割據勢力，如袁紹為冀州牧，曹操為兗州牧，劉表為荊州刺史，劉璋為益州牧，孫堅為豫州刺史等。最後曹操滅袁紹統一北方，劉備取代劉璋立國於巴蜀，孫堅之子孫權於江東稱帝，形成三國鼎立的局面。魏晉南北朝時期，各州刺史多加都督之銜，兼領軍事。都督權重者可督數州。凡統領軍隊的刺史，往往加「都督某州軍事」或「都督某某等州軍事」的頭銜，使得刺史掌握地方軍政大權。刺史兼掌兵權的頭銜，分為數等，以「都督諸軍」為上，「監諸軍」次之，「督諸軍」為下；同一都督或監軍，又分「使持節」、「持節」、「假節」三種，「使持節」地位最高，權力最大。晉朝「使持節都督」得專殺二千石以下官吏，「持節」得殺無官位人。都督之中又以「都督中外諸軍事」的地位最尊。儼然在州、郡、縣三級之上又增都督府（北周改為總管府）一級。因地方官兼領軍職，幕僚亦有「軍府」、「州吏」兩類。軍府幕僚多由中央派遣，各州有府長史、府司馬、錄事參軍、功曹參軍、倉曹參軍、戶曹參軍、中兵參軍、府功曹、府主簿等；各郡有長史、司馬、府功曹、府主簿、各曹參軍。州吏幕僚則為漢代地方僚屬的延續，由地方官自行辟置，各州有別駕從事史、治中從事史、主簿、西曹、門下、錄事、各曹從事、記室、省事等，各郡有郡丞、功曹、督郵、各曹掾、史。「軍府」與「州吏」職權相近，制度上有疊床架屋之弊。