北方的局麵因吳佩孚掌權而逼走徐世昌，請來黎元洪，換了一個天地；南方的局麵也因此而發生了巨大改變，中國重新走上統一的曙光再現。但對於未來重新走上統一道路的中國應該實行怎樣的體製，章太炎又有了新的思考和設計。他在1922年6月25口發表《大改革議》，就是要為中國的政治架構提出一個新的方案。
在這篇文章中，章太炎對當時活躍著的政治人物及政治製度都有非難和討論，他的觀點歸納起來就是堅持聯省自治的立場，創建一個聯省參議院，在中央政府層麵實行委員製。很顯然，章太炎的討論，是準備給黎元洪的政府提供一個體製創新的範本。
章太炎指出，民國秩序陷入混亂，如果從袁世凱的帝製算起，至今已有五年時間了。直到最近，徐世昌下野，黎元洪複職，法統重光，議者猶謂於法未合，不知法雖密合，綜不足以弭亂，欲定國本，則必有大改革，必須從根本體製上拿出辦法才行。
那麽，什麽是大改革，什麽是根本體製呢？這就是現行的約法，現行的國會，現行的元首製度。現行約法偏重於集權，國會傾於實力，元首定於一尊。過去這些年戰亂不已，說到底，都和這三件事有關。章太炎強調，未來中國如果不能就這三件事拿出新思路、新辦法，那麽戰爭依然不可避免，中國不可獲得一日之安。根據章太炎的看法，辛亥武昌首義，原本各省各自為謀，因而導之，即為聯邦之局，而現行約法卻與此相反，至《天壇憲法》，雖經增訂，使地方權限有所擴大，但亦依然沒有聯邦之文，其為集權專製之護符，彰彰可見。逆於國情，則桀驁者生心，而寡弱者致死，也就勢之必然了。
章太炎說，自1920年湖南提倡自治，西南各省聞風興起，南方軍政府幾年前說發起的護法運動，漸為芻狗，漸漸被南方各省所拋棄。1921年，廣州國會非常會議曾糾駁湖南省憲法，湖南即有脫離約法之宣言。此事光明俊偉，允愜人意。既然你軍政府不能同意我湖南地方自治，那我就離開你好了。根據湖南等省的經驗，現在應該允許各省自製憲法，然後再製定聯省憲法。各省憲法已成，則約法、夭壇憲法也就可以現行廢棄了。一省省憲已成，則一省於憲法已可脫離，不必等待聯省憲法製定完成。
至於現行國會，參眾兩院共有八百多名議員，文意未通，許多議員的能力也僅能寫票而已，遑論其他事情。論者謂中國無共和之資格，其實主要就是指中國議會中議員太多太濫，賢愚雜遝，紛呶一堂，其間當然不能說沒有優秀秉正不阿者，隻是屈於多數，這些優秀之士也就毫無辦法，所以議會體製不改革，議員人數不大幅度下降，這種體製害多而利少，是確定無疑的。就拿最近幾年的例子來說，這種體製隻能有助於獨裁者，有助於政治勢力絕大者。幾年來的國會曆史，證明了這種體製下的國會，竟然成為藏汙納垢的淵藪，國會議員竟然成為趨勢善變的政治小人，這樣的人，怎能擔當起國家大事的重托呢？在章太炎看來，國會製度不改革，就不可能為中國找到一條政治上的新路。
章太炎根據南北兩政府議會幾年來的經驗教訓，認為將議員的責任下移，製定省憲法，當由省議會或各法團任之；聯省憲法，當由省議會議員任之。自此以後，乃設聯省參議院，而現式可永斷。一省說選不過三五人，既無賢愚雜遝之病，自少趨勢善變之人，較之過去十年所實行的幾種議會製度應該更為合理、更為有效。
至於民國建立以來的元首製度，章太炎認為也有很多問題。根據章太炎的分析，現行的民國元首製度，以大總統一人蒞政，勢必孤注，為殉權者說必爭。民國僅僅10年，就發生了那麽多戰亂，幾乎每一次戰亂都與攘奪這個大位有關。即便是到了袁世凱之後實行內閣製，爭奪大位和總理的戰亂也一直無法平息，內閣專權與總統專權，其害並沒有什麽大的差別。換言之，原本民主共和的政治體製竟然招來大位之爭如此劇烈、如此慘烈，這與帝王專製時代爭奪大位還有過之而無不及。5年任期結束，必有喋血之爭，這種爭奪一點兒不比專製時代爭奪大位緩和。民國的總統製、內閣製既然有著這樣不易克複的問題，那就應該想想問題究竟在哪裏。章太炎指出，不把總統、總理之類的大位徹底廢除，這種爭奪永遠都不會結束，魚爛及於四方，人民終究沒有一個能夠幸免。從民國的曆史看，能夠奪得大位的不外乎這樣三種人，一者梟鷙者，二者誇誕者，三者仁柔者。大總統之職不廢，梟鷙者處之，則有威福自專之患，而聯省或為所破；仁柔者處之，則有將相上逼之慮，而聯省不與分憂；誇誕者處之，勢稍強則或與梟蟄者同，勢稍弱則又與仁柔者同。當選者不管是誰，隻要有梟鷙者在，那麽誰有本事與之爭鋒，誰又能有本事爭得過他呢？
根據章太炎的分析，邏輯結論就是從體製上不再設立這樣的總統或總理，不再給那些梟鷙者任何機會。這樣就可以免去各種政治野心家、軍事強人為爭奪大位處心積慮、不顧人民死活的狀況發生。
當然，章太炎並不是一個徹底的無政府主義者，他知道現代社會依然需要管理，他的建議隻是廢除總統、總理這類最容易集權的個人職務，而在中央政府層麵以委員製替代個人集權的總統製或總理負責製。章太炎認為，以委員製行之，員額既多，則欲得者自有餘地；權力分散，則梟鷙者不得擅揚；集思廣益，則誇誕者不容恣言，仁柔者不憂寡助。即便是到了選舉的時候，則爭不至於甚劇；及其履行職務，則亂不至於猝生。自是而後，兵禍消弭。如猶狃於現狀，不能毅然改革，中國的政治動**仍然很難從根本上杜絕。
章太炎的這篇《大改革議》後經刪潤為《弭亂在去三蠹說》，以約法、國會、總統的“三蠹”，以為約法偏於集權，國會傾於勢力，總統等於帝王，引起戰爭，沒有比這三囊更厲害、更直接的了。強調黎元洪踐位於北，孫中山稱號於南，北京有國會，廣州亦有國會，以法相稽，紛如聚訟。然仔細觀察，他們都很難長久，無足深論。欲為現代中國，為中華民國弭禍亂，中國就必須進行大改革，必須重建新體製。而這種改革、這種重建，在章太炎看來就是要徹底從體製上刪除三蠹存在的空間，三意不除，中國無一日之安；除了三蠹，中國或許能夠進入一個長久的政治清明期。而這個政治清明期的重要支撐，就是各地的自治、聯省的自治。地方議會決定著中國的未來，中央政府成為一個擺設、一個象征，政治強人回歸鄉土，那麽為大位而發生的政治鬥爭、軍事衝突必將大幅度減少。