1924年國民黨的改組，與「聯俄容共」息息相關。但是，中共黨員加入國民黨後，力圖擴張。國民黨部分高級幹部深恐喧賓奪主，一再檢舉，指渠志在借國民黨軀殼，注入共產黨的靈魂。共產黨員對國民黨亦暗事打擊，公開譏評。惟外界多不知廣東政情底蘊，逕視國民黨已趨於「赤化」。而北洋軍系、外國勢力，也往往以「反共」為號召，對廣東革命政府抱持敵意。孫中山卒後，國民黨內反共派與親共派的鬥爭日烈。在俄顧問鮑羅廷支持下，左傾的汪精衛取得黨政大權，排擠了外界視為右派領袖的胡漢民，並得到黃埔軍校校長蔣介石之擁護。反共派對胡漢民失勢，甚感不平。未幾，國民黨左派要人廖仲愷忽遭暗殺，引起軒然大波。事發當天，廣州政府即依鮑羅廷之意，由汪、蔣等人組特別委員會，實施戒嚴。這是蔣第一次參與國民黨決策大計。當時外界猶視蔣為左派份子，稱他為「紅色將軍」；反之，胡漢民進一步受廖案牽連，被迫「出國考察」，形同流放。在俄顧問主導下，廣州已成汪精衛、蔣介石共治之局。蔣得俄國餉械支持，發展黃埔黨軍力量，逐步擊敗陳炯明殘部，統一廣東，聲望大著。不過，蔣表面上與俄國、共產黨關係融洽，實仍暗懷戒心。1926年3月，蔣突以國民黨左派、中共企圖聯手挾持他赴俄為由，逮捕共產黨員多人，監視俄顧問住宅，史稱「中山艦事件」。汪精衛聞此行動，頗為大怒，謂蔣目無政府。汪擬尋求俄國協助，對蔣制裁，多數國民黨人對蔣亦不諒解。為了弭平內部不滿聲浪，並使國民黨繼續獲得俄援，蔣的態度很快趨於和緩，表示願與共產黨方面和解。俄國方面盱衡時局，仍認定蔣介石是中國革命不可或缺的人物，反對任何的倒蔣作法，甚至同意蔣介石提出的限制共黨方案。外援既失，威信復損，汪精衛只得於5月悻悻然離粵出國。至於蔣所提出，並獲得俄國妥協同意的限制共黨方案，要點是中共黨員任國民黨高級幹部的比例，不超過三分之一；共產黨員不得任國民黨中央機關部長；國民黨員不得加入共產黨。6月，蔣再就任「國民革命軍總司令」職，集軍政大權於一身，旋於7月率軍出師北伐。蔣介石本以為，經此調整，共產黨即無法取代國民黨。實則不然。共產黨對蔣偃旗息鼓，只是基於「革命策略」的運用。為了達成這個目的，共產黨認定汪精衛是左派領袖，乃於北伐出師之初就在廣州策動「迎汪運動」。在蔣一派人眼裡，迎汪無異倒蔣，這就成為北伐軍事聲中隱伏的政治危機。1926年底，北伐軍底定湘鄂贛三省，國民政府與國民黨中央黨部遂由廣州遷往武漢。然而，蔣介石驚覺武漢中央已被共黨份子「把持」；共產黨在各地主導的民眾運動，亦有「過火」之勢。但另一方面，許多國民黨人也日滋不滿蔣介石的大權獨攬，認定是「軍權」壓倒了「黨權」，寧願與共產黨合作，堅定支持武漢政權。這最終導致國民黨「寧漢分裂」的格局。1927年春天，蔣介石所率領的北伐軍攻抵江浙，與武漢的紛爭旋趨於白熱化。4月12日，蔣在上海發動大規模搜捕共產黨員的行動，即所謂「清黨」。18日，在胡漢民等人的支持下，南京國民政府宣告成立，與武漢國民政府遙相對立。爾後數月間，南京政府號令所及的東南及粵桂滇黔川等地，也陸續發動了清洗共產黨的行動。武漢政權方面，在汪領導下，起初仍然堅持「聯俄、聯共、扶助工農」的方針，指責南京「背叛革命」。不過，到了1927年7月，連汪本人也認定共產黨有意僭奪國民黨黨權，遂放棄合作，同莫斯科決裂。在南京、武漢先後「清黨分共」後，再經一連串的捭闔縱橫，兩府合流。惟長期以來，國民黨的宣傳、民眾運動、地方黨務等工作，皆由共產黨人主導。一旦清黨，黨自中央至地方的組織系統便陷於癱瘓，幾乎到連標語都找不到人張貼的地步。這造成了不少黨員心灰意冷，思想空虛。而國民黨經此動盪，元氣頗大傷，北伐甚至一度陷於中輟，直到1928年初才重新展開。