1920年11月，孫中山領導粵軍擊敗盤踞在廣東的桂系軍閥勢力，在廣州重組軍政府，繼續進行護法運動。1921年元旦，他在軍政府舉行的南京臨時政府成立紀念會上發表演說指出：“此次軍府回府，其責任固在護法。但余觀察現在大勢，護法斷斷不能解決根本問題”，因為“護法不過矯正北洋政府之非法行為，即達目的，于中華民國亦無若何裨益。況護法乃國內一部分問題，對內承認北京政府為中央政府，對外亦不發生國際上地位之效力”，必須“建立正式政府”。4月7日，國會非常會議參眾兩院在廣州舉行聯合會議，通過《中華民國政府組織大綱》，并選舉孫中山為中華民國非常大總統。5月5日，孫中山就任非常大總統。

陸榮廷自桂軍從廣東敗退回廣西后，并不甘心失敗，和北洋政府勾結起來，企圖反攻廣東。北洋政府任命陸榮廷為粵桂邊防督辦，為他提供進攻廣東的軍餉和武器彈藥。4月30日，桂系陸榮廷、譚浩明、陳炳焜等發出通電，宣布了孫中山的所謂“罪狀”，并要求北洋政府“明令討伐”。5月，陸榮廷下達動員令，派桂軍分兵四路進犯廣東。

為繼續進行護法運動和北伐，孫中山認為：“當今急務，在先滅賊而統一南方。然后乃能北向討伐耳。”于是，他一面命令粵軍“蕩平群賊，扶植廣西人民，使得完成自治”，一面致書北洋總統徐世昌，指出他依照袁世凱的觀念和做法行事，導致毀壞法治，危害國家，要求徐“即日引退，以謝國人”。

桂系軍隊開始進犯后不久，孫中山即指揮粵軍發起反攻，又調動江防兵艦、魚雷艇三十余艘以及飛機隊助戰，并宣布懸賞緝拿為陸榮廷策反粵軍的楊永泰等人。

在孫中山的親自指揮下，粵軍迅速擊敗桂系軍隊的進攻，一路高歌猛進，很快完成對廣西梧州的包圍。與此同時，湘軍趙恒惕部、滇軍李烈鈞部、黔軍胡瑛和谷正倫部也聽從孫中山的調遣，各自派兵支援討桂戰爭。桂軍將領連戰連敗，妄圖以求和的手段來阻撓粵軍的進軍，孫中山堅持陸榮廷等人必須“一律解兵，完全由桂民自治，始能罷兵”。廣東各界在廣州開國民大會，全力支援粵軍討伐桂系。

6月25日，桂軍師長劉震寰受孫中山的策動，通電“獨立”，與陸榮廷脫離關系，率所部步兵四營和機槍連襲擊梧州。粵軍全力協助，于26日順利占領梧州。當天，廣州各界3萬人舉行“援桂大游行”“均燃放鞭炮，至夜半猶未息”。

在勝利的鼓舞下，粵軍士氣高漲。孫中山立即指示各部要一鼓作氣，全面消滅桂系殘部。隨后，討桂軍各部擊敗桂軍的抵抗，向南寧前進。陸榮廷部將沈鴻英于7月10日在賀縣宣布“自治”“脫離陸氏關系”，并敦促陸榮廷“下野”。其他桂系部將如韋榮昌、林虎、黃業興等見大勢已去，紛紛放棄抵抗，或表示愿將所部歸粵軍改編，或宣布“自治”。陸榮廷見眾叛親離，只得在南寧通電“下野”，率殘部和家眷退往龍州。8月4日，粵軍占領南寧。桂林、柳州等地也隨即為粵軍和湘、滇、黔各軍攻占。9月底，陸榮廷逃離龍州，經越南逃往上海寓居。至此，粵軍取得討桂之戰的完全勝利。

在“還政桂人”的口號下，孫中山委任廣西籍的馬君武為廣西省長，劉震寰為廣西省綏靖副主任，李宗仁為支隊司令，并派粵軍將領葉舉率部“協同地方長官擔負善后之責”。劉震寰上任后，收編了不少分散在各地的陸榮廷殘部。

討桂戰爭結束后，孫中山表示：“桂賊就殲，西南奠定，正宜移師北指，掃蕩群魔”，以期早日“促成統一，鞏固共和基礎”。不久，他制定了“取道湖南、會師武漢、直搗幽燕”的北伐計劃，并率部進駐廣西。