我離開廣州隻有四個多月，再回廣州一看，情形已發生了很大的變化。廣州政府內部左派和右派的鬥爭非常激烈。右派看到左派力量日益發展，非常害怕，竟於1925年8月20日，暗殺了廖仲愷先生。這是孫中山先生逝世以來，右派勢力對左派的—次最嚴重、最卑鄙的挑釁。當時，共產黨和國民黨左派依靠省港罷工工人的力量，立即進行反擊，驅逐了國民政府內部公開的右派頭子胡漢民、許崇智等人，並解除了粵軍魏邦平、梁鴻楷部的武裝。10月1日廣州革命軍舉行第二次東征，盤踞東江的陳炯明雖然得到英帝國主義和奉係軍閥的援助，但在革命軍隊的英勇進攻下，仍是不堪一擊，被打得落花流水。1月中，廣州政府收複了惠州、潮州、汕頭等重要城市，陳炯明叛軍完全被肅清。廣東革命根據地大大地鞏固起來了。
但是革命運動的發展總是迂回曲折的。國民黨內一些舊的右派失敗了，跟著就又有新的右派產生。這時，戴季陶之流的所謂“理論家”正在大肆販賣其“純正的三民主義”的反動理論；鄒魯、謝持、林森、張繼等組成的西山會議派，也打著國民黨的招牌，在北京召開了非法的所謂“西山會議”；廣州黃埔軍校中的一部分反動軍官和學生在蔣介石的卵翼下也搞起“孫文主義學會”的反動組織。身為國民政府主席的汪精衛，雖然還沒有暴露他反革命的身份，但在左派力量日益增長的形勢下，也感到十分恐慌，辦一切事倩都縮手縮腳。國民黨的第二次代表大會原定在1925年11月召開，但是由於右派的阻撓，會議一直拖延下來。
我們四川代表團在到達上海之前，本來以為一定要遲到了。到上海以後才知道會議已經延期到1926年1月1日。我們趕到廣州，才知道大會的一切準備工作都還沒有開始，各地代表也到的很少。除了我們四川的代表外，隻有湖北的代表來了董必武、錢介磐（亦石）同誌等五人；華僑代表來了彭澤民、許蘇魂等三十餘人；其它地方的代表有的還沒有報到，有的地方甚至連代表都還沒有選出來。更可怪的是連國民政府所在地的廣東省，也還沒有選出代表來。大家議論紛紛，說大會恐怕開不成了。我看了這種情形很著急，因為當時鄒魯、謝持等正在北京醞釀要在上海召開非法的代表會議來和我們爭奪領導權。這次大會是我們組織力量反擊右派猖狂進攻的一次重要會議。假使大會開不成，那就會大大助長西山會議派的氣焰，對革命將帶來十分嚴重的惡果。因此我立即去找汪精衛。汪精衛愁眉苦臉地說大會恐怕開不成了！”我說現在鄒魯等人這樣猖狂，他們不但排斥共產黨，也排斥廣東的國民黨，不跟他們鬥一鬥，怎末成？否則，許多同誌流血犧牲換來的這塊根據地就要垮台，隻怕你這國民政府主席的位子也坐不住了！”汪精衛說：“我也沒有辦法。”我說：“怎末沒有辦法，快些籌備就有辦法了。”汪精衛隻在那裏唉聲歎氣，我又催促他趕快召開國民黨中央會議以籌備第二次代表大會。不幾天，中央會議召開了。會議上，大家推舉我做大會的秘書長，負責籌備工作。
國民黨第二次代表大會的一切籌備工作都是依靠我黨進行的。那時毛澤東同誌和周恩來、聶榮臻、蕭楚女等同誌都在廣東工作，陳延年同誌是中共廣東區委書記。和我經常往來的還有董必武、林伯渠、惲代英、張太雷等同誌。大會的籌備工作，就是由我和這些同誌商量，分頭進行的。依靠我黨黨員大家的努力，籌備工作進展得非常迅速。
1926年1月1日，大會果然如期召開了。會址設在廣東省議會的大廳中，布置得樸素莊嚴。會場門口設置了一個很大的地球模型，表示全世界革命運動的團結。會議開得很生動、很熱烈。到會代表256人，其中約有五分之三是共產黨員。共產黨員和國民黨左派占著壓倒的優勢，形勢非常有利。那時廣州還有幾十萬省港罷工的工人，天天遊行集會，還組織了工人糾察隊。由我黨舉辦的各種各樣的訓練班如雨後春筍，遍設於廣州市內。尤其是毛澤東同誌所主辦的全國農民運動講習所，集中了二十幾省的各族革命青年，成為指導和推動全國農民運動的中心。群眾的革命情緒空前高漲，到處都可以聽到國際歌的雄壯歌聲。
群眾初步發動起來了，左派勢力日益增長了，國民黨的右派甚至中間派都感到恐慌。汪精衛的老婆陳璧君對汪說：“你看這次大會上，能辦事的，會說話的，一考查，都是共產黨員。”從她的言語中，可以看出他們對共產黨的嫉恨。大會幵了幾天，剛好蔣介石從潮汕軍次回廣州，出席了大會。蔣介石最喜歡人家吹捧，陳肇英迎合蔣的心理，在開會時，向大會提議：“蔣總指揮勞苦功高，大家應向他起立致敬。”結果起立者寥寥無幾，鬧得蔣介石十分尷尬。會後代表們都罵陳諂媚無恥，陳也無地自容，幾乎不敢露麵。從這件事可以看出大會上正氣完全壓倒了邪氣。
形勢對我們十分有利，可是機會主義者陳獨秀偏偏顧慮重重，恐怕共產黨力量太大，嚇跑了國民黨右派，於是便親自出馬來限製一下。他一直在上海，沒有參加廣州的大會，但卻非常殷勤地一定要請右派分子戴季陶、孫科等去廣州開會，好象少了這幾個人，大會就開不成似的。後來他又給我們寫了好幾封長信，大談其所謂形勢與策略。他對形勢的估計很悲觀。當時，郭鬆齡軍倒戈失敗，奉係軍閥氣焰複張，並與吳佩孚勾結在一起，馮玉祥的國民軍正處於四麵受敵情況中。陳獨秀片麵地認為這就是革命低潮到來了，因此指示我們在統一戰線方麵要執行讓步的策略。他對大會出了許多壞主意，主張盡可能地把各方麵的“人物”都包括進國民黨中央委員會中去。據說這樣做就可以團結國民黨。他提名了一些人，其中很多是頑固不化的國民黨右派分子。當時我們感到這種做法不對頭，也有幾個同誌堅決反對這種無原則的讓步，因此大會並沒有完全按照陳獨秀的意圖進行。大會通過了對右派集團的堅決譴責，開除了西山會議派鄒魯、謝持等人的黨籍，並給林森等以書麵警告。這些做法都違反了陳獨秀的意誌，都是做得很對的。但最後在選舉方麵卻受了陳獨秀的影響，在選出的六十個中央執行委員和候補委員中，共產黨員隻占十四人。（包括毛澤東、李大釗、林伯渠、惲代英、董必武、鄧穎超和我等人。）而中央監察委員中，右派的勢力更大。這是一個極其錯誤的讓步。在這次大會上，本來我們有條件使進步力量在國民黨的領導機構中取得優勢，但是我們卻自動地放棄了。事實證明，不進行鬥爭，幻想以片麵的退讓換取“團結”，其結果隻會助長右派的氣焰，而使“團結”終於破滅。國民黨第二沭代表大會的基本方麵雖然是正確的，但在選舉問題上片麵讓步的錯誤，也造成了嚴重的惡果。