隋文帝統一南北之後，參酌歷代制度，設置尚書、門下、內史、秘書、內侍五省。其中又以前三者最為重要，尚書省的尚書令、僕射，門下省的納言，內史省（即魏晉時的中書省）的內史監、內史令並列為宰相，宰相多人並置。不過，對於各省間的職權和相互關係，隋代時還並沒有明白的劃定。唐初因襲隋制，改為三省，以尚書僕射為宰相，將內史改為中書，中書令則是君主的秘書。唐太宗時，正式確立了三省的職權，對三省制的調整主要有：一、使中書舍人參與草擬表章，分押尚書六曹，協助宰相判案決事。凡軍國大事，經過舍人初擬草案，中書令、中書侍郎審定後，才可呈給皇帝畫可，如此中書省正式成為制定政令的政府機關，政治中樞也由尚書僕射移轉至中書令。簡而言之，中書省掌握了最高命令：「?」的發佈權。「?」即是皇帝的命令，凡是政事的最高命令，都必須要由皇帝下?，才能夠施行。不過，實際上，皇帝自己並不親自擬「?」，而是交由中書省擬定，也就是所謂的「定旨出命」。二、以給事中掌封駁，建立門下省的審議制度，並且整理門下省的組織，加強門下的效能。「封駁」，又稱為「封還」、「駁還」、「塗歸」，是指門下省對於中書所擬定，預備要發布的政令，具有審核權，當中書所草擬的詔令，文書格式不合規定，或是內容有所不妥，或是不被門下省的官員所接受，門下省即可將原詔令批註塗改送還中書省重擬。三、加強尚書的職權，使其能負責行政的順利運作。尚書省轄有六部，是政府裡負責執行命令的機構。六部源自北周仿《周禮》所設置的天、地、春、夏、秋、冬六官，隋代將此六官改為吏、禮、兵、都官、度支、工六部，唐時又更動為吏、禮、兵、戶、刑、工，此後屢為後世所沿襲。各部設尚書為長官，尚書省內以尚書令為首，尚書僕射為副。不過，由於唐太宗曾經擔任過尚書令一職，因此，自太宗即位後，尚書令即不再有人擔任，僕射成為實際的首長。於是，三省制以中書省負責政令的擬定和發佈；門下省負責審核；尚書負責執行的架構正式成形。三者的職權合一，才等於漢代的宰相，不過並未包括漢代御史大夫的監察權。