尚書令原先是皇帝身邊的秘書，起初由士人充任，但漢武帝有時也會以宦官擔任，又稱為中尚書令，或中書令，或者稱為中書謁者令，所以西漢時的尚書令和中書令具有相同的職掌，只是名稱有所不同而已。由於尚書令負責出納王命，得以預聞政事，參贊機要，在西漢武帝、宣帝之後，職權漸重。東漢時，尚書即取代西漢的三公（丞相、御史大夫、太尉）掌握實權，包括審駁詔命、參議朝政以及人事上的權力，三公則必須要加上「錄尚書事」的頭銜才能參與國政。東漢靈帝時，尚書成為獨立的機構，稱為「尚書臺」或「中臺」。曹魏以後尚書的地位更加提高，自幕僚機關獨立，成為朝廷的最高行政單位，尚書令即是宰相，其下的僕射為副相。南北朝時，改「尚書臺」為「尚書省」。中書之官原為東漢建安年間曹操為魏王時所設置的秘書令，負責命令的起草。魏文帝即位後，改秘書令為中書省，長官為中書監和中書令。由於中書取代尚書擔任王命出納，因此得以參贊政事提供意見，在皇帝的信任下，取得實權。 門下的首長為侍中。侍中一職始於秦代，起初為地位卑下的小官，後來得以常在皇帝左右顧問應對，較能得到皇帝的信任，參與機密，因此地位不斷獲得提升。西晉武帝時，中書、門下雖然較尚書親近皇帝，但是權位還是不能凌駕於尚書之上。晉惠帝時，賈后專政，殘害尚書重臣，尚書的權勢遭到破壞，政治中樞逐漸由尚書移轉至中書，中書令成為實際的宰相。不過在晉室南渡之後，尚書仍為名義上發號施令的機構，尚書、中書皆得以參與政事。南朝以後，尚書令和僕射逐漸成為不理政事的虛銜，中書底下的中書舍人成為實際掌握國政者。北朝則是門下省的職權轉重，尚書省雖然仍是宰相機構，但是門下的侍中和黃門侍郎較接近皇帝，也掌握相當的實權，有「小宰相」之稱。北齊時，侍中官品雖然較尚書令和僕射為低，但是卻是實際秉持朝政者，尚書省不過是綜理庶務而已。總而言之，自東漢以來，政治發展的趨勢即是以皇帝身邊的幕僚機構──內廷官，逐漸架空原先的「三公九卿」，成為新的政治中樞，掌握實際的權力。另一方面，雖然有新機關的出現，但是舊的政治單位並未撤除，南北朝以後，尚書、中書、門下三省並存，成為日後隋唐三省制的雛形。