公元208年，曹操出動二十萬水陸大軍攻打劉表。劉表去世後，劉表的兒子劉琮就投降曹操。曹操統率水陸大軍可謂一帆風順，於是順江陵東下，給孫權下了戰書，說自己率領八十萬大軍前來和東吳對陣。
看到曹操率軍而來，東吳的一些官員驚恐萬分，認為東吳的這場大禍不可避免了。隻有都督周瑜沒有把曹軍的攻擊當回事，反而顯得非常淡定。孫權很奇怪，問道：“曹操大軍壓境，都督為何顯得如此鎮靜？”
周瑜說：“曹軍看似是虎狼之師，我看未必。曹軍水陸軍隊不過十五六萬人，而且經過長期的征戰，早已疲憊不堪。收編劉表的軍隊不見得能真心為曹操賣命。因此，曹軍雖然人數眾多，但是軍心渙散，我們沒有什麽可怕的。”
聽了周瑜的話，孫權將一顆懸著的心放了下來，任命周瑜、程普為左、右都督，率兵與劉備合力迎戰曹操；又任命魯肅為讚軍校尉，協助籌劃戰略。
這時候，劉備與孫權已經結為聯盟，共同抵抗曹操。孫劉聯軍在赤壁駐紮，和曹軍隔江對峙。周瑜觀察曹軍水寨，看到曹軍進退得宜，操練得法，發現最可怕的是曹操的水軍。一問才知道，蔡瑁、張允任曹軍水軍都督，周瑜知道，這兩人久居江東，熟習水戰，若不除去這二人，恐怕自己就會敗在二人手中。
曹操正在想辦法如何渡江去攻打孫權大營時，曹操帳下有個叫蔣幹的謀士，說自己和周瑜曾經是同窗，願意前去勸降。
這天，周瑜的手下來報，說有個叫蔣幹的來訪。周瑜一下子明白了，蔣幹是來做說客的，於是心生一計。
看到蔣幹，周瑜親熱地迎了上去。周瑜總是不給蔣幹機會說勸降的話。蔣幹在周瑜帳裏待了好幾天，一直找不到機會提起勸降的事情。周瑜隻是帶他到營中各處查看糧草，向他展示東吳的精兵良馬。
這天晚上，周瑜與蔣幹喝完酒之後，就留蔣幹同宿。周瑜假裝酒喝多了，就和衣臥倒。蔣幹心中有事，自然睡不著，無意中在周瑜臥室的桌上發現一卷文書，仔細一看是周瑜的往來書信，其中有一封寫著“蔡瑁、張允謹封”字樣的書信。蔣幹拆開一看，內容是兩人暗伏曹營，等待時機謀取曹操首級的事情。看完這封信之後，蔣幹大驚失色，偷偷將書信藏在自己身上，第二天早上，便偷偷溜出周瑜的營帳，飛奔回去見曹操。
蔣幹將盜得的書信交給曹操，曹操看了之後非常惱火，立馬斬殺了蔡瑁、張允二人。
眾將看到曹操殺了蔡瑁、張允二人，便問曹操原因。曹操便對眾將說：“這兩個人怠慢軍法，因此將其斬殺。”眾將聽了都驚訝不已。
之後，曹操任毛玢、於禁為水軍都督。周瑜知道之後，大喜道：“我所懼怕的，隻有蔡瑁、張允這兩個人。如今二人已除，曹軍任毛玢、於禁為水軍都督，我就沒有什麽憂慮的了！”
“借刀殺人”就是利用第三方的力量，利用敵人內部的矛盾，從而達到取勝的目的。周瑜巧用借刀殺人之計，除去了自己的心腹大患蔡瑁、張允，就是借敵人內部的矛盾而達到自己的目的。成為赤壁之戰中最經典的案例之一。