建興十二年（234年）春，經過兩三年的整頓訓練後，諸葛亮再度帶領著十萬大軍，從斜穀出發布陣於渭水的南岸。為了避免糧食缺乏，他便進駐武功之西十裏的五丈原，並在此地製定了屯田兵的製度，準備長期作戰。同時，他又派使者去吳國商談，希望與吳國一起出兵抗魏。
諸葛亮屯駐在五丈原後，司馬懿也率領著幾十萬大軍，隔著渭水與蜀軍對峙。諸葛亮數次派人前去挑戰，司馬懿不為所動，拒不應戰。因此，兩軍相峙了約三個月。
一天，諸葛亮派遣使者拿了一包女人的衣服和一封信送到魏軍的營賬給司馬懿，以羞辱他的懦弱，司馬懿看完這封信後，心裏非常不是滋味，卻又裝作滿不在乎的樣子。他隨口問道：“諸葛亮的作息情形如何呢？”
使者回答說：“丞相非常忙碌，每天要處理許多繁雜的事，每餐吃不到一碗飯。”
司馬懿回頭對著左右說：“這樣怎麽能夠長壽呢？”
部下回去後，回稟諸葛亮：“司馬懿看到送去的東西並沒有生氣，還很關心地詢問了丞相的作息狀況。我告訴他丞相事多食少，他卻歎息丞相這樣很難長壽。”
諸葛亮在擔任丞相的這些年中，無論事情大小，他一定要親自過問，如此長時期的勞心傷神，終於導致他心力交瘁，健康情況一天不如一天。
魏將們對於司馬懿無論怎樣受辱都不應戰深表不滿，紛紛前往請戰：“我們為什麽要在此受蜀人的羞辱呢？希望能夠盡快出兵，與蜀軍一決雌雄。”
司馬懿敷衍著說：“並不是我不願意出兵，而是天子明詔，令我們按兵不動。如果輕舉妄動，則是違背君命，你們既想出戰，不妨等我奏準天子後，再同力赴敵如何?”
眾將答應後，司馬懿便派使者送表前往合肥給魏主曹睿，曹睿知道司馬懿是因為無法壓抑部屬激動的情緒，才上表請命，因此便派辛毗持節傳諭司馬懿不得出戰。
蜀將知道了這件事後，便報告諸葛亮，諸葛亮說：“司馬懿本來不敢出戰，但是拗不過將士們的憤怒之情，便假借曹睿的意思來製伏眾人。如今他們傳出這個罷戰的消息，還不是想瓦解我方的戰鬥力？”
群將正在談論此事，忽然傳報費褘到，諸葛亮請他入內，費褘稟告說：“大事不妙了！魏主曹睿聽說吳國由三路進兵，乃親自率領大軍駐紮在合肥，並派滿寵、田豫、劉劭分別帶領士兵迎敵。滿寵還用計將東吳的軍糧器備統統燒光，如今吳國已經潰不成軍了。”諸葛亮聽到這個消息，心情非常沉重，昏了過去。
原先吳國和蜀國約定，要由東西兩麵進攻，讓魏軍腹背受敵，以便合力消滅他。如今吳軍半路無功而退，原先的計劃遭到破壞。蜀國從而陷入艱苦的孤軍戰鬥中。
諸葛亮的病情越來越嚴重，他知道自己的生命將走到盡頭。在思索了一番後，諸葛亮獨留下部將薑維，悲戚地對他說：“我本想竭忠盡力，恢複中原，重興漢室，可惜我隻剩下了今天的壽命了。我平生所學，已著書二十四篇，內容包括八務、七戒、六恐、五俱之法。據我觀察，隻有你可以傳授，你一定要盡心學習，不要辜負我。”薑維感激涕零地答應了。
諸葛亮又說：“蜀中各條道路，全都不必多憂，隻是陰平地區，千萬需要當心。這個地方極為險峻，時間久了肯定會出事。”薑維點點頭出去了。
後主劉禪得到諸葛亮病重的消息，急忙命尚書李福當晚就起程到軍中去探望諸葛亮。
李福日夜兼程來到五丈原，入帳見諸葛亮，傳後主之命。問安過後，諸葛亮流著眼淚說：“我不幸在大業未成的半途死去，虛廢了國家大事，有負於天下。我死以後，你們要盡忠盡力，輔佐後主。國家以前的製度不要改變，我所用過的人，也不可輕易廢掉。我的用兵之法都已傳授給了薑維，他自會繼承我的遺誌，為國出力。”
諸葛亮又叫人取來文房四寶，坐在病榻上給劉禪上表，不忘勸誡後主：清心寡欲，約己愛民，達孝道於先皇，布仁恩於宇下。提拔幽隱，以進賢良；屏斥奸邪，以厚風俗。
諸葛亮寫完，又囑咐楊儀說：“馬岱、王平、廖化、張翼、張嶷，這幾個人都是忠心耿耿，可堪重用。我死之後，凡事都要按照舊法進行，緩緩退兵，不可急躁。你深通謀略，不必我多說。至於薑維智勇兼備，可派他在隊後壓陣。我死之後，不要發喪。讓後麵的軍隊先行，然後一個營一個營地慢慢撤退。如果司馬懿追來，你可以布成陣勢，回旗返鼓與他對壘。等他來到時，就把我先前所雕的我的木像安放在轎中，推到兩軍陣前，令大小將士分列左右，一定會把司馬懿給驚走。”楊儀一一答應了。
諸葛亮勉強支撐著病體，要左右侍從將他扶上小車，派人駕車出城遍巡各營。
建興十二年（234年）八月，諸葛亮懷著沒有完成統一事業的無限遺憾之情，病死在五丈原，時年54歲。
這天夜裏，薑維、楊儀遵諸葛亮之命，不敢舉哀，並依諸葛亮遺囑成殮，將諸葛亮的骨灰安置在龕中，令心腹將士守護，然後傳密令，各處營寨悄然無聲，一一撤出。
司馬懿探查到五丈原蜀營中已空無一人，猜測諸葛亮已死，便忙親自引兵來追。到山腳下，隻見蜀軍就在前方，他更加奮力追去。這時忽然山後一聲炮響，喊聲大震，隻見蜀軍全部回旗返鼓，樹影中飄出中軍大旗，上麵寫著一行大字——漢丞相諸葛亮。司馬懿不由大驚失色，定睛看時，隻見中軍幾十員上將，擁出一輛四輪車來，車上端坐著諸葛亮，羽扇綸巾。
司馬懿大乎上當，急忙往回逃走。背後隻聽薑維大聲叫喊：“賊將休走，你中了我們丞相的計！”魏兵頓時嚇得魂飛魄散，丟盔棄甲，亂作一團，死傷無數。
過了兩天，鄉民們互相交談說，蜀兵退入穀中之時，哀聲震地，軍中揚起白旗，前日車上的諸葛亮其實是木人。司馬懿聽說後歎道：“我能料諸葛亮生，卻不能料諸葛亮死也！”因此蜀中人有這樣一句諺語：死諸葛驚走活仲達。
諸葛亮病危的時候，曾與楊儀和司馬費等安排死後退軍的調度，命令魏延殿後阻擊追敵，薑維作為副將；如果魏延不服從命令，軍隊便自行出發。諸葛亮去世後，楊儀秘而不發喪，還讓司馬費去魏延處揣度他的意向。魏延對司馬費說：“丞相雖然去世，還有我在。相府親信和官屬等人便可將遺體送還歸葬，我自當親自統率各路大軍攻擊賊軍。怎麽能因一人死去而廢棄天下的大事呢？何況我魏延是何等人，就應當被楊儀約束，作斷後的將軍嗎？”他就私自和司馬費作出撤退和留下的安排，還讓司馬費親筆寫信，連同自己簽名傳告下麵將領。
司馬費欺騙魏延說：“我還應該回去向楊儀解釋，楊儀是個文官，很少經曆軍事，一定不會違抗尊命。”司馬費出來後，策馬奔馳而去。
楊儀等人打算按照諸葛亮既定的計劃，各軍營依次帶領部隊撤還。魏延派人探聽到這個消息後勃然大怒，搶在楊儀沒有發兵之前率領所屬部隊徑先南歸，所過之處燒絕棧道。魏延、楊儀各自上表說對方叛逆，一天之內，羽書一並送到都城。
漢後主以此事詢問侍中董允、留府長史蔣琬，董允、蔣琬都擔保楊儀而懷疑魏延。
楊儀等人命令砍伐山林打通道路，日夜兼程行進，緊隨在魏延之後。
魏延占據南穀口派兵迎擊楊儀等人，楊儀命將軍何平在前麵抵禦魏延。何平叱責先登上南穀口的士兵說：“諸葛公死，屍骨未寒，你們怎能如此！”魏延的部眾知道魏延理虧，不願為他賣命，都四散逃走。魏延和他的兒子逃奔漢中，楊儀派遣將領馬岱追殺他們，最終誅滅魏延三族。
除掉魏延後，楊儀等人便把諸葛亮的靈柩送回到成都。
後主劉禪帶文武官員，全部掛孝，出城二十裏迎接諸葛亮的靈柩。
十月，劉禪親自送靈柩到定軍山安葬，降旨封諸葛亮諡號忠武侯，又令在沔陽為其建廟，四時享祭。