廣州軍政府被岑春煊等人宣布撤消並與北方統一後，並沒有得到已經下野的孫中山等人認同。1920年10月31日，孫中山、唐紹儀、伍廷芳、唐繼堯等以軍政府政務總裁名義通告中外，否認統一。緊接著，孫中山率伍廷芳、唐紹儀等自上海啟程前往廣東，準備在那裏重建軍政府。
孫中山認為，民國十年，禍亂相尋，實際上並沒有達到辛亥先驅所期待的共和境界，十年來的政治效果，不過是將滿洲人的統治權轉換到了腐敗官僚和複辟派手裏。在孫中山和南方革命黨人看來，北京政府實際不是民國的正統，不代表民國的法統，所以他們南方革命黨人要在廣東重建真正的民國，要將辛亥革命未竟的事業做成功。1921年4月7日，非常國會兩院聯席會議在廣州召開，議決中華民國政府組織大綱，選舉孫中山為大總統。孫中山知道自己大總統當選缺少正當性，或者用章太炎的說法是“非法的”，因而孫中山在當選為總統後，稱自己是非常大總統而不是正式大總統。
孫中山在就職後設法向各方麵疏通解釋，希望各方麵支持。對於章太炎，孫中山當然不會忘記，他在就職前就寫了一封熱情洋溢的邀請信，真誠邀請章太炎南來，攜手共進，共創偉業，重敘數年前攜手合作的故事。
對於孫中山的這些做法，章太炎並不以為然。他認為孫中山成立民國政府，就是一種非法行為，但他也知道，孫中山如果不能得到這個總統大位，他必然會向北方的徐世昌讓步，甚至可能會附北。而且，唐紹儀就在廣州，他可是徐世昌的密友，所以此時反對孫中山，就等於讓徐世昌和唐紹儀南北統一的陰謀得逞。基於這些判斷，章太炎一方麵建議孫中山將廣東地方自治事務全部交給廣東省長陳炯明；另一方麵建議孫中山不得反對各地正在進行的聯省自治。
對於章太炎的建議，孫中山給予積極回應。在隨後發表的就職宣言中，坦然承認各省自治的必要性、合理性，認為隻有讓各省人民完成自治，自定省憲法，自選省長，中央分權於各省，各省分權於各縣，這樣或許可以使久已分離之民國，複以自治主義相結合，以歸於統一，不必再窮兵黷武，禍害百姓。
孫中山的坦然表態在一定程度上消解了章太炎的疑慮，而且孫中山的這個非常總統畢竟是要與北方的徐世昌對峙，這在很大程度上合乎章太炎的心情，再加上孫中山的再三請求，章太炎終於表示有限度、有保留地支持孫中山出師北伐。
此時，北方的奉係與直係正在激烈爭鬥，全國的政治版圖實際上是孫中山與奉係、直係三分天下。奉係的張作霖有意與孫中山聯合反對直係，孫中山也覺得與奉係聯合具有相當可能性。對於孫中山的這個認識，章太炎不願苛同，他對孫中山分析道，直係吳佩孚多謀善戰，遠過於皖係段祺瑞，斷不可小視。目前，南方之所以還能與直係相安者，在很大程度上是因為奉係張作霖在那裏牽製著，使吳佩孚無法分兵南下對付南方。盡管如此，奉係對南方的壓力還是相當明顯，四川已經受到奉係重創，而廣東雖然僥幸躲過直係攻擊，但並沒有達成永久和平。何況奉係、直係之間終有一戰，奉係勝了，南方還有機會繼續存在；假若奉係敗了，也就沒有什麽力量能夠牽製直係了。到了那個時候，南方就很難維持了，章太炎建議孫中山要充分利用三分天下而有其一的形勢，好好建設內部，擴充實力，不要亟於北伐。
對於章太炎的建議，孫中山或許以為是書生之見。然而吳佩孚在直奉戰爭中輕易打敗張作霖，緊接著，吳佩孚自以為羽翼豐滿，圖謀抬出黎元洪取代徐世昌；同時，以遠交近攻之策，派代表到廣東釜底抽薪，與陳炯明合作，支持陳炯明反對孫中山，準備以武力實現全國統一。於是陳炯明用武力手段逼退孫中山，孫中山想象中的北伐無疾而終，再度黯然離開廣東。
連年的戰亂早已引起國內外的反感和不安，直奉戰爭結束不久，北京知識界接續幾年前浙江督軍盧永祥提出的廢督裁兵主張，呼籲政治家拿出勇氣，廢督裁兵，召開舊國會，製定新憲法，改良選舉製度等。這些建議或許是獲得勝利的吳佩孚暗示或指導進行的，但南北重開議和，廢督裁兵，重建和平，對於一般百姓而言，無疑是一件早已期待的好事。
然而章太炎卻不這樣看。他強調，民國兵禍，先後十年，每戰一次，軍隊陡增。現在南北各方軍隊人數的總和已是民國元年的三倍。由此看來，戰爭為因，增兵為果，不去戰爭之源，雖暫時裁兵，並不能從根本上杜絕增兵的大趨勢。北京知識界的呼籲，哀音正辭，為民請命，但凡有意識、有感情的人，哪一個不被這樣的呼籲所打動呢？不過實事求是地說，中國問題的真正解決必須從根本做起，如果沒有根本解決的意識或框架，枝節改良，是沒有希望的。章太炎強調，要說裁兵，至少要從這樣四個方麵做起，否則隨意而為，是根本沒有意義的。
一是先計分額，後定總額。章太炎指出，中國有22個行省，外加5個特別行政區，這27個行政單位。如果每個行省定編兩個師，每個特別行政區定編一個師或一個混成旅，縱或以地域廣狹山川夷險略有參差，而大綱要不逾此，總數不過50個師。然則以定存50個師為限，而各個行政單位的份額不加限製，這多者自多，少者自少。多者恃強以淩弱，少者不平而生心。這樣的裁兵，正為造攻之本。所以章太炎說，不確定各省各區的兵員數額，空談什麽裁兵是沒有意義的。
二是廢巡閱使。章太炎說，份額已定，省區軍隊已均，而有巡閱使在，則一人兼製數省，恃有強權各省預有戒心，哪一個肯以裁兵自致削弱？所以，不能廢除巡閱使製度，任何裁兵的想法都不可能成為現實。
三是撤駐防軍。章太炎指出，辛亥首義，各省本自為謀，逮乎袁世凱當國，意存侵略。其後南北混戰不已，湖北、江西、江蘇、安徽、浙江、福建等省，長時期駐紮有北方軍隊。這些軍隊軍機不飭，時有驛騷，浚民以生，賦斂無度。向者富庶之區，現在都有入不敷出的情形。夫無形之誅求，甚於有形之殺掠；永久之宰割，甚於一時之戰爭。南方六省之患駐防軍，非但如直隸之患奉軍。於是西南幾省為了自保，為了抵禦北方軍隊的南侵，又不得不豢養一批軍隊。所以從章太炎的觀點看，裁兵的第三個關鍵，就是能否將駐防軍裁撤。駐防軍不裁撤，則東南無且夕之安，西南也必不肯接受裁兵約定。
四是裁撤中央直轄軍。章太炎說，民國以來，戰爭雖多，皆以中央為禍始，帝國之複興，國會之解散，其實都與中央政府大量無度增兵有關。現在的北京政府雖然不敢再蹈前轍，而以挾有重兵為總統者，但南北政客其實都有自己的私家武裝，都有槍杆子在背後作支撐。所以，要說裁兵，就必須從裁撤中央直轄軍入手，否則根本不可能成功。然而從南北軍閥實際情形看，這無疑等於與狐謀皮，是根本不可能的。
在章太炎看來，南北軍閥的存在，徹底毀滅了中國政治的一點生機，中國政治從全國、從中央政府的層麵看，現在還真的沒有什麽新的希望，如果一定要說中國希望何在的話，可能還是各省的自治和諸省的聯治。