我在上海一直住到6月下旬才去廣州。途中經過香港。這時香港的工人已經開始罷工，許多工人擠在輪船上，要回廣州去。碼頭上的貨物堆積如山，無人搬運。6月24日，我到達廣州。這天正是廣州發生沙基慘案後的一天，群眾都走上了街頭，抬著血衣，高喊反對帝國主義的口號。“五卅”的影響是這樣的深刻和廣泛，全國人民的反帝怒潮，象火山一樣爆發出來了。
我到了廣州，找到廖仲愷先生，跟他談了整頓四川國民黨組織的計劃，他非常讚成。這時廣州剛剛鎮壓了楊希閔、劉震寰的叛亂，正在醞釀把大元帥府改組為國民政府。廖仲愷先生要我在國民政府成立以後再去四川，並且帶我去參觀了黃埔軍校和其他地方，向我介紹了廣州的許多情況。黃埔軍校是在我黨和蘇聯的幫助下建立起來的。這時廖仲愷任該校的國民黨代表，周恩來同誌任政治部主任，還有我們許多同誌如惲代英、肖楚女等都在那裏擔任教官或其他工作。所以我們去參觀時，看到的是一片朝氣蓬勃的景象。1925年7月1日，國民政府在廣州正式成立，汪精衛擔任主席，廖仲愷擔任財政部長，胡漢民擔任外交部長，許崇智擔任軍事部長，至於蔣介石還隻是以黃埔軍校校長兼任軍事參謀長的職務。革命形勢發展很快，但在新成立的國民政府中，右派還有著很大的勢力。要改變這種情況，必須繼續發展工農運動，發展國民黨內的左派勢力。這時整頓國民黨基層組織的工作已刻不容緩，我想回四川的心情更加迫切了。7月初，我離開廣州赴上海，準備取道長江水路入川。臨走時廖仲愷先生代表國民黨中央給我一千元錢作為活動的經費。
這時，四川的國民黨組織，正處於分崩離析的狀態，內部派係很多。特別是謝持、石青陽等在黨內組織的所謂“實業團”，借興辦實業為名，大種鴉片煙和做投機生意，在政治上又搞派別鬥爭，進行內戰，影響極為惡劣。謝持和石青陽都是西山會議派的要人，他們當時雖然沒有在四川，但四川國民黨重慶黨部是歸他們掌握的。他們這幫人隻顧借黨營私，拒絕進步力量的集聚，以致黨部冷冷清清，門可羅雀。1925年8月15日，我到了重慶，先找重慶國民黨負責人黃複生、朱之洪商量，提出整頓國民黨的計劃。黃朱二人聽了都搖頭，說：“現在人家聽到政治和黨派就頭痛，已經參加國民黨的不過是掛個兒，沒有參加國民黨的，今後也未必肯加入。你的想法倒不錯，隻怕是白費力氣。”我對他們說：“從前國民黨的聲譽，雖然被一些政客所玷汙，但自從中山先生主張國共合作、實行改組國民黨以後，情形就不同了。今後正要我們好好地去整頓。隻要我們目標遠大，做法正確，群眾自然就會擁護我們，國民黨的威信也就能夠樹立起來。”黃複生反問我：“你看這一堆爛攤子，怎樣整頓法？”我說：“第一，要有一個嚴密的強有力的組織機構；第二，要培養一批效忠革命的幹部；第三，要在群眾中進行廣泛的活動。做到這三件，我們的整頓工作就算成功了。我計劃先辦一個學校，一方麵可以集合和培養一批幹部，另一方麵也可以作為進行組織和宣傳活動的據點。”他們聽了我的話，都說：“你以為辦學校是容易的事情嗎？我們很久想辦學校，都沒有辦成呢。”我跟他們談了很久，他們始終表示懷疑，沒有信心。
國民黨的舊人暮氣沉沉，我就去找青年人商量。找到了我在成都辦高等師範時和我共同組織“中國青年共產黨”的楊闇公和楊伯楷（當時叫楊洵）、冉鈞、張錫疇等，他們大多已是共產黨員或青年團員，聽了我的計劃，非常讚成，立刻就動手幹起來。我把廖仲愷先生給我的一千元錢全部作為辦學校的經費，但是還差很多。又把我私人在川江輪船公司的兩張股票拿出來押當，由於這個股票的利息很高，當了兩千塊錢，也把它全部充作了學校經費。
我們一方麵籌備經費，聯絡熟人；一方麵分頭去找校址，買家俱。那幾天，重慶格外炎熱。可是大家幹勁都很足，每天清晨就到外麵去奔走；中午到楊闇公家裏開會，交換情況；下午又出去奔走。大家累得汗水直流，但心裏都很興奮，反而覺得挺爽快。不幾天，就在大溪溝找到了校址，而且把一切籌備工作都辦妥當了。早些時候，華法教育會曾計劃在北京、上海、漢口、廣州、重慶辦五個中法大學。我是華法教育會的發起人之一，於是就把新辦起來的學校定名為“中法學校”（大學部稱中法大學）。
學校的籌備工作差不多了，學生從哪裏來呢？恰好江北中學、合川聯合中學和重慶第二女子師範都因罷課而有許多進步學生被開除。我立即找到了這些學生，把他們招收入學。於是各地進步學生都聞風而來，一下子招了二百多9月4日，學校正式開學上課了。
與籌辦中法學校的同時，我又著手整頓國民黨的組織，把省黨部遷到蓮花池新址。我對四川各縣國民黨的情況是比較熟悉的。還在1921年搞四川自治運動的時候，我就有意識地物色了一批幹部。現在全國工人運動蓬勃發展，革命勢力日益高漲，群眾的革命情緒很飽滿，所以工作進行得很順利。不久，許多重要縣市的黨部都成立起來了。我回到四川以後，不過兩個月時間，居然辦起了學校，建立了國民黨的各縣黨部，以前對整頓工作缺乏信心的黃複生看到這種情形，非常驚奇。他對人說：“吳玉章的手段真髙明，好象有神仙幫助一樣。”其實，哪裏有什麽神仙幫助？我所依靠的是黨的領導和群眾的支持，不過黃複生當時並不知道我是一個共產黨員。
那時，我們接到廣州的指示，定於1925年11月初在廣州召開國民黨第二次代表大會。接到電報已經很遲了，我們趕緊籌備起來。因時間倉促，便讓各縣市代表就地開會選舉。選舉結果，我和楊闇公同誌等六人當選去廣州出席大會。這六個人中間，除了黃複生以外，其他都是共產黨員，可見當時四川的國民黨內，左派勢力已經占了很大的優勢。
1925年11月，我們離開四川，經上海去廣州。