金國剛剛興起的時候，官制簡單，中央首長皆稱「勃極烈」，地位最高的稱為「都勃極烈」，猶如中國的宰相。其後仿行遼制，施行二元統治，以「勃極烈」制度（金熙宗時改為三省制），治理其發源地(即今天的東北地區)，而以漢制治理華北，熙宗時成立行臺尚書省。金海陵王時廢除行臺尚書省，結束二元統治。在正隆元年(1156年)廢除中書議政和門下封駁，只留下負責執行皇帝的命令的尚書省。元代建國之初，採取北宋文武分權的辦法，以中書省總攬政務，樞密院職掌兵權。世祖時，尚書省曾兩度設置，但是不久之後即罷除，武宗時又予以恢復，但只有短暫維持兩三年，此後不復再設，尚書省的職權劃歸中書省，六部也改由中書省統轄。門下省則是在南宋時已遭裁撤，元代並不復設。所以中書省成為全國最高位階的行政機構。三省制演變至元代，執掌相權的政務機關此後正式由多元歸於一元。中書省長官為中書令，常以皇太子兼任。中書令之下，設置左右丞相二人，因蒙古習俗尚右，因此右丞相地位高於左丞相。丞相以下有平章政事、左右丞、參知政事，均可參與軍國要政，仍採多相制，透過省內的討論或是百官集議，協助皇帝決策，並且監督百官執行政務。國家政事依照制度皆應經由中書省，否則便是有違法度，而元代宰相為了親自處理政務，常有兼領他職的情況，甚至出現兼領兵事，集軍、政大權於一身的情形。