關公即寫書一封，辭謝曹操。寫畢封固，差人去相府投遞；一麵將累次所受金銀，一一封置庫中，懸漢壽亭侯印於堂上，請二夫人上車。關公上赤兔馬，手提青龍刀，率領舊日跟隨人役，護送車仗，徑出北門。
——引自《三國演義》第二十六回
且說於禁、樂進隨進征進，也已探知劉備在汝南，回許都後將此事報與曹操。曹操心中憂急，便令張遼夤夜前來打探關公本意。關公正悶坐廳上，張遼已穿堂而入，舉手賀道：“弟聞雲長兄在陣上得知玄德公音信，特來賀喜。關公讓座，令下人奉茶，怏怏不樂道：“雖知故主現在，但未得一見，何喜之有！”張遼遂道：“雲長兄與玄德之交，比弟與兄之交何如？”關公聞之，不由落淚道：“我與文遠兄雖義氣相投，又各與呂奉先有師門之誼，但亦止於朋友之交也；我與皇叔玄德，卻是朋友而兄弟、兄弟而君臣者也，豈可共論？”
張遼聽關公提及呂布，隱然有指責自己背主之意，不由心虛膽寒，隻得依曹操之意，最後問道：“今即知玄德公現在河北，未知雲長兄是全忠以留在許都，匡扶漢室社稷，還是全義以投汝南，往從皇叔？”關公審視張遼良久，歎息道：“如今之許都，諸臣隻知有曹司空，豈知有漢天子？某即願盡忠，又忠於何人？且昔日結拜之盟，安肯背之！文遠兄土山之約，又豈能忘之！斬顏良以解白馬之圍，誅文醜以疏延津之困，關某已有報於曹公，話符前言而矣。我意已決，來日辭別天子而去，望文遠須為我致意曹公。”張遼聽了關公之言，半晌無語，隻得告辭回告曹操，曹操也是無言，揮手令其退出。
次日平明，關公上朝，見曹操及其心腹不在，遂向獻帝遞了辭書，說明離開許都，前去尋找兄長劉備，共舉義旗，興扶漢室之意。獻帝明知其意，也知不可強留，隻得勉勵數語，賜酒三杯，令張繡送至殿外。關公辭了天子，出宮隨至司空府衙，欲當麵拜辭曹操。曹操即知關公來意，乃懸回避牌於門，不令相見。關公怏怏而回府中，命舊日跟隨人役收拾車馬兩輛，又寫書一封，遣人送往大司空府，以辭謝曹操。曹操看了關公辭書，隻作不知，也不回複。次日侵晨，關公不見曹操回複，隻得長歎一聲，將九名美女安頓於府中，自己率十數名舊日部從，出得府門，跨上赤兔馬，手提青龍刀，護送車仗徑出南門。門吏擋之，關公怒目橫刀，大喝一聲，門吏盡皆退避，早有人飛馬到司空府報信去了。
關公既出南門，心知曹操必來追趕，便令從人舍了車仗，隻管望官道進發，自己卻獨自立馬提刀，於北關橋上相候。卻說曹操與眾謀士及部下將佐，正在府中談論關公之事未定，忽見南門守將進府，飛報關公奪門而去，車仗鞍馬二十餘人，皆望南行。又有滿寵來報說，關公府中除卻朝廷所派仆從及美女九人，劉備家眷及關公舊部盡皆離去不見。眾人聽了，無不愕然。座中一將忍耐不住，挺身出班大叫道：“關羽如此無禮！某願將鐵騎三千，去生擒關某，獻與丞相！”眾人視之，正是老將軍蔡陽。
那蔡陽乃是夏侯惇手下第一悍將，其刀馬武藝隻在主將夏侯惇之上，不在其以下，隻因性如烈火，向來目中無人，一向未得重用。曹操目視夏侯惇，見其沉默不語，卻不阻攔。曹操即喚張遼近前，叮囑道：“雲長此人大義參天，財賄不以動其心，爵祿不以移其誌，此等人我最為愛敬。想他去此不遠，我一發結識他做個人情，以後也好相見。文遠你可先去請住他，讓他稍留片刻，待我率全部文武與他送行，更以路費征袍贈之，使為後日記念。”
張遼領命，單騎先往。待張遼出帳，曹操卻又喚過蔡陽，令其領三千兵馬竟出西門，搶在關公之前，兼程前往汝南，與曹洪相會，合兵一處觀察關公去向。待其與劉備會合，即引兵擊之，勿必斬殺大耳賊，生擒關公回許都。使關公徹底斷了念想，再為朝廷效力——管他降漢不降曹，漢室即是曹家天下也。蔡陽得令大喜，出帳點兵去了。
列位看官，你道關公如此決然而去，那曹操真的不惱，反要送他一程？其實這是曹操穩軍之計，能以情留住關羽甚好，即便留之不住，也要拖延他半日時間，好讓蔡陽搶在關公前頭，先行到達汝南，以有時間和曹洪運籌派兵，以擊殺劉備也。其用意之深，果不負一代奸雄之名。卻說雲長立馬南門之外，忽聽有人大叫：“雲長兄且慢行！”回頭視之，見張遼拍馬而至。關公在馬上執手為禮，問道：“文遠莫非是奉了曹公將令，欲擒關某回去回罪麽？”張遼說道：“雲長說笑，兄弟不敢，若是擒兄，需是他人前來。曹司空已知兄台遠行，欲來相送，特先使我請住台駕，別無他意。”關公聽了，心中感念，不由動容，但也不敢大意，遂以手按住青龍刀，立馬於橋上相候。隻見塵頭起處，曹操引數十騎出城飛奔前來，背後乃是許褚、徐晃、於禁、李典諸將。賈詡、滿寵隨行左右。
曹操見關公橫刀立馬於橋上，令諸將勒住馬匹，左右排開。關公見眾人手中皆無軍器，方始放心。曹操心中一陣難過，揚聲道：“雲長行何太速？”聲音忽顯哽咽，幾乎淚下。關公見此，隻得硬起心腸，於馬背上欠身答道：“關某前曾委托文遠稟過明公，並獲明公允準在先。今故主兄長現在汝南，因當初在桃園訂有生死誓約，不由某不急去。前番造府不得參見，故拜書告辭，望明公話符前言。”曹操道：“即劉皇叔健在，是我無福奉教於君侯了。我欲取信於天下，安肯有負前言。恐將軍途中乏用，今特具路資相送。另昨夜趕製錦袍一領，略表寸心。”遂令左右二人，一人奉金一人捧袍，皆是單膝而跪，雙手舉案過頂。雲長用青龍刀尖挑錦袍披於身上，勒馬回頭稱謝道：“蒙丞相賜袍，沿途盤纏關某盡有，賞金可轉賜有功將士，今日拜別，異日更得相會。”將袍袖遮麵下橋而去，卻已經忍不住淚流滿腮。
曹操癡癡遠望，直到看不見關公人影，這才長籲一聲：“噫，雲長去矣！”許褚恨恨地說道：“此人以刀挑袍，無禮太甚，主公何不下令擒之？”曹操揮手道：“彼一人一騎，吾等數十餘人環伺，人家安得不疑？換了你我，也是如此。某言既出，不可追也。”張遼、徐晃聞聽此言，也自讚歎不止。
眾人剛要撥馬回城，忽聽城樓上衛戍軍士指著橋下叫道：“關將軍去了，卻為何將車仗留在那裏？”曹操聞之一怔，令張遼帶兩個軍卒過橋去看。片刻之間，張遼已驅使兩輛車仗過橋回來，報知曹操：“車中無人，卻又頗為沉重，亦無趕車之人，小將未敢輕啟，特來稟告主公。”曹操令軍卒掀起車簾，卻見前麵車中白銀成箱，後麵車內黃金成垛，卻盡是自己往日所賜，分毫未動。後車頂梁上另以絲帶懸掛一個錦盒，摘下打開來看時，正是“漢壽亭侯”印信。曹操大驚道：“關雲長掛印封金李代桃僵，劉備二位夫人卻哪裏去了？”滿寵忽然大悟，說道：“不好！關羽即無車仗拖累，騎赤兔馬奔馳一日夜即可到達汝南，如此蔡陽將軍危矣！”曹操聽了，不由懊悔不及。
卻說關公縱馬離開許都，不上五十裏即趕上隨從軍士，一行人馬逶迤向南進發。次日路過臥牛山，有關西大漢周倉下山劫道，見了關公模樣大驚，即請問名諱。關公報名，周倉大喜再拜，請為部曲，關公愛他豪壯，遂收為部下。周倉聞知關公欲去古城，尋三將軍張飛相會，於是喜之不盡，因說自己早聞張飛大名，亦知古城所在，欣然與關公在前引路。行之未遠，十數騎迎麵而來，卻是孫乾。關公見了孫乾不勝之喜，問先生何來？孫乾卻道數日前皇叔二位夫人，在貂蟬保護下已尋至古城，與主公夫妻相會。貂蟬言道二將軍近日必從此路前來，主公這才命孫乾來迎，以免將軍走錯方向。關公聽聞即將與兄長和三弟相見，不由即喜且悲，令孫乾在前引路，直奔古城而來。
眾人行了不上半日，前麵已隱隱看到古城垛碟。孫乾對關公道：“二將軍少歇慢行。某先回城內稟報主公和三將軍，使其遠出城門來迎。”不待關公應諾，已打馬進城去了。關羽放緩絲韁，與周倉慢慢行來，不由已是熱淚盈眶。距城下十裏之遙，隻聽城中三聲炮響，城門開處，一哨人馬馳迎前來，片刻間已至眼前。見為首三人並騎而行，左有張飛右有趙雲，居中一人縱聲高呼：“二弟安在？二弟安在？”不是大哥劉備，卻又是誰？
關公一刹時滿腔熱血奔騰，提韁驅馬上前，便要與兄長拜見廝會。正在此時，陡聽耳邊響起一聲炸雷，三弟張飛挺矛衝至近前，喝道：“關雲長！你忘卻了當年桃園結義之時也？投了曹操，封侯賜爵，前日替曹操斬顏良、誅文醜，解了白馬之圍，今又來賺我古城！”關公急勒戰馬，驚問道：“賢弟如何出此無情言語？愚兄所為二位嫂嫂盡知，你休屈枉了為兄。”兩兄弟說話之間，劉備已飛馬前來，對張飛喝道：“三弟休得無禮！你二哥大義參天，哪個不知？”張飛哈哈大笑道：“誰讓他做了曹賊的官兒？我嚇唬嚇唬他罷了。”說著將手中丈八蛇矛往鳥翅環上一掛，跳下馬來，撲通跪在關公馬前道：“二哥屈身事賊，以保二嫂，建功報恩而退，不戀官祿，不貪金銀，俺張飛自愧不如。哥哥請下馬，兄弟給你當下馬石可也。”關公哭笑不得，甩鐙下馬，上前與兄長劉備相見，後與張飛、趙雲分別見禮，又引周倉拜見皇叔、三爺張飛。劉備見周倉長相英武，也自替二弟喜歡。張飛引關公進到城中，到縣衙內見過簡雍、糜芳，眾人坐定，兄弟三人這才執手而泣，各訴別來思念之苦。
兄弟君臣正說之間，忽城中軍士來報：“城南門外有十數騎來的甚緊，不知是甚人。”張飛因關公來的突兀，畢竟心中疑慮，聞報出衙轉出南門看時，果見十數騎輕弓短箭而來。為首者遠遠見了張飛，急忙滾鞍下馬，跑上前來。張飛仔細視之，卻原來是糜竺。張飛大喜，亦下馬相見。糜竺說道：“謝天謝地，果然得見三將軍。”話猶未了，後麵從騎中跑過一個少年將軍，向張飛大禮參拜道：“孩兒拜見三叔！”張飛卻不認識，仔細相了一相，方哈哈大笑道：“你不是我二哥之子關平？快快平身，想煞了三叔也！”書中暗表，此少年將軍正是關公之子關平，乃是關羽與夫人胡氏在平原縣時所生，此時已十六歲，長大成人。因學其父愛使大刀，此時已是武藝不俗。
張飛問道：“先生一向在何處，怎生會尋到這裏？”糜竺道：“休要提起。自徐州失散，我與簡雍被陳登暗自賣放，遂輾轉到了南陽，投奔胡車兒將軍。後聞主公在河北袁紹處，簡雍便去尋找，一去再無消息。某使人遠近打聽，知雲長降了曹操，隻不知將軍在此，卻是離南陽不遠。昨日辭了胡將軍，離開宛城，借口到城外圍獵解悶，實欲打聽主公及三將軍下落。卻於路上遇見一夥客人，說有一姓張的將軍，如此模樣，今據古城。某度量必是將軍，故來尋訪。幸得相見！”張飛不由叫一聲佛，大聲道：“天下寧有此等巧事！俺家兄長攜子龍和糜芳，前幾日剛剛到此，貂蟬師妹相送二嫂又到，今日雲長二哥與孫乾亦來此。在城中落腳未定，你又到了——豈不是天意如此！”糜竺聽罷大喜，同張飛進得城來，來見玄德關公，並參見二夫人，哭拜於地。
玄德見兄弟重聚，將佐無缺，又新得了趙雲，關公又得了周倉，歡喜無限，在衙中連飲數日。當時檢點人馬，玄德、關羽、張飛、趙雲、孫乾、簡雍、糜竺、糜芳、周倉部領馬步軍校，共有四五千人。關平自徐州離散，隨糜竺逃至南陽，年餘不見父親，此時一見分外親切，於是要求從軍征戰，關公許之。玄德即與關張及眾人商議，因古城一片平原無險，易攻難守，便欲棄了古城去守汝南，眾人均無異議。恰好門外守軍來報，有汝南劉辟、龔都差人來請。劉備於是整頓人馬，便要往汝南駐紮，再招軍買馬，徐圖征進。三兄弟及眾將佐點軍已畢，正在收拾糧草車仗之間，忽聽城外號炮連天，人喊馬嘶。張飛即令中軍前去哨探出了何事，早有北門守將飛馳來報：“城外一哨人馬呼嘯而來，聲稱是曹司空麾下大將蔡陽，點名要見漢壽亭侯關將軍城外答話。”
張飛聽了大怒衝關公道：“你奉了曹操之令，先來將我和大哥穩在古城，候此援軍到來，好裏應外合擒我兄弟，是不是？不然我在此一年有餘並無人知，那蔡陽因何知道？前番被你胡弄過去，今曹操兵臨城下，你還敢支吾麽？”關公急止之道：“賢弟且住。為兄這一路南下尋找兄長和三弟，是在明處；那曹操或有除掉我兄弟之心，必令人追隨而來，他是在暗處，故尋至此。關某此心可昭日月，天地可鑒。你若還不相信，看我斬此來將，以表我真心。”劉備也忙勸道：“三弟不可魯莽，你二哥豈是背信棄義之人？”
張飛不理玄德，隻對關羽道：“大哥隻是仁義待人，某卻不受你欺哄。你若果有真心，咱們這就出城，你去斬了來將便罷。早聞你萬馬軍中斬顏良、誅文醜，曹操讚你萬人之敵。那蔡陽武藝再高，畢竟不如顏良、文醜強甚。我這裏助你三通戰鼓，三通鼓罷，你不斬來將，便是有私！”關公氣滿胸膛，無理可講，隻得應諾，提刀上馬，直奔北門，張飛氣哼哼地在後跟隨。劉備隻得率眾將謀士，一齊出北門列陣。隊伍剛剛排開，望見城北塵土蔽日，曹軍大至，為首一將正是蔡陽。
那蔡陽因算計關公押著車仗，必在自己之後，不想他早將二嫂送走，輕騎到了古城，竟走在自己前頭。等接到探馬回報，關公已到汝南古城。蔡陽早就不服關公，此時恐其跑了，遂不及去會合曹洪，仗著自己武藝不輸於關羽，人馬又眾，遂連夜趕來。今日終見將其弟兄三人皆都堵在這彈丸小城，於是不勝之喜，急率眾飛至城下，令三軍列陣，擂起戰鼓，齊聲呐喊。蔡陽眼裏隻有關羽，卻未留意其身後的張飛，因見關羽縱馬而至，於是自顧挺刀縱馬上前，高聲大喝道：“曹公對你天高地厚之恩，封侯拜將禮義倍至，你卻使詐背叛，真反複小人也！吾奉丞相之命，特來拿你！”說罷催馬上前。
張飛聽了蔡陽這一番話，已知內中緣故，心想：“壞菜！今番又冤枉了二哥也。我兄弟年餘不見，剛一見麵卻又連生誤會，不知我二哥有多委屈也。罷了，委屈不委屈以後再講，此時某倒要看看，二哥既能斬顏誅醜，他的武藝究竟到何境界！”這時心中有數，於是奪過軍士手中鼓槌，親自擂鼓助戰。
關公聽背後鼓聲催得如同爆豆一般，心下著急，更不打話，衝蔡陽舉刀便砍。豈料那蔡陽雖然年老，且是夏侯惇部將，但刀法精奇，正是關公對頭，竟一時戰他不下。耳聽兩通鼓將盡，關公心中焦急，忽地想起師妹貂蟬所授奪魄大法，立時將臥蠶眉豎起，鳳目圓睜。那雙目便射出兩道閃電，牢牢將蔡陽雙眸懾住。蔡陽正戰之間，感覺對方目光有異，不由抬頭望去，四目相對，即時神魂俱醉，不知身在何處。雲長大喝一聲，青龍刀起處，蔡陽頭已落地。其背後曹家軍士見主將歿了，不由四散奔走。張飛在後麵看得清楚，又驚又喜，高聲叫道：“二哥！你的眼睛怎地如此賊亮，還會放電！這是什麽本事？”關公惱他一再言語相逼，也不理他，隻顧催開**赤兔，隨後趕殺曹軍。
眼見曹軍沒命狂奔，追之不及。正在這時，忽聽東南方鼓聲大震，一哨人馬飛也似馳來，接住蔡陽敗軍一通截殺，幾乎殺個淨盡。剩下腿腳快的，急忙退往上蔡，投奔曹洪去了。劉備、關羽一見大喜，認識來援者首領正是汝南劉辟、龔都。雙方合兵一處，直向北追殺了六十餘裏，到了一座大山之下，這才駐足不追，大家下馬相互見禮。那劉備自起兵以來，幾乎從未有此大勝，至此心滿意足，揚眉吐氣。正要下令回軍汝南，見張飛四周張望一番，忽地大叫道：“哈，我們怎生到了這裏？山上有一個老神仙，卻是不可不見！”