蔣介石的崛起，激化了國民黨內「黨權」與「軍權」的對立。不過，讓黨機器無法在地方立足的另一關鍵因素，是中央與地方的離合關係。辛亥革命以分省獨立的方式完成，民國肇建以後的各省軍人，實際執掌了各省得兵權、政權與財權。對民初的北京政府來說，在廣州組建革命政權的國民黨人，一樣是地方的割據勢力。即便如此，國民黨政權內部又受南方各軍政派系的牽制與左右。南方的桂軍、滇軍、粵軍、湘軍、川軍等勢力，皆非國民黨中央可任意指揮自如。國民政府進行北伐前，花費不少精力，統一了兩廣各軍系，特別是以李宗仁為首的桂系。其後北伐出師，國民黨再得馮玉祥的西北軍、閻錫山的晉綏軍之響應。1928年底，統率東北軍的張學良又宣布歸順南京，中國統一。然而，各支部隊名義上向國民黨效忠，實則系統不一，地方性甚強。當北伐完成，南京中央謀議裁軍，地方實力派與中央的矛盾便油然浮現。同時，汪精衛以改組國民黨為號召，四處發展組織、吸收黨員，並與地方實力軍人聯合，與蔣介石抗衡。1929-1930年間，初有以李宗仁為中心的反抗，繼有李宗仁與馮玉祥的聯合反抗，終則有李宗仁、馮玉祥、閻錫山、汪精衛的反抗。其高潮是1930年反蔣派聯合召開的「中央擴大會議」，斥蔣介石為獨裁，口號為「整個的黨，返之同志；統一之國，返之國民」。反蔣派的大聯合，需要武力作為後盾，主戰場則在河南，史稱「中原大戰」。中原大戰後期，蔣介石的中央軍得張學良支持，轉敗為勝。但是，中央軍的勝利，仍舊無法消弭地方實力派的挑戰。1931年，立法院長胡漢民因與蔣介石發生政見之爭，竟遭幽禁，史稱「湯山事變」。胡氏身為國民黨元老，蔣氏孟浪之舉，遂引發不小的政治風波。一干國民黨元老，在廣東地方軍人的支持下，於廣州宣布另組國民政府，史稱「寧粵分裂」。九一八事變後，廣州國民政府才因團結禦侮的輿論空氣，宣佈結束。但承繼它職權的國民政府「西南政務委員會」、國民黨「西南執行部」，仍處半獨立狀態。而整整30年代，中原大戰中敗陣下來的馮玉祥、李宗仁，亦屢有復起之勢，使南京窮於應付。粵籍的十九路軍，甚至在福州廢棄國民黨黨統，別置「中華共和國」。1936年，駐屯陝西的東北軍與西北軍聯合發動兵變，劫持軍事委員會委員長蔣介石，迫令停止剿共，共同抗日，史稱「西安事變」。地方勢力裂土為主，使得黨機器難以在地方立足，確屬國民黨的一大困境。