北伐曹魏，統一全國，是諸葛亮早就定下的奮鬥目標。與東吳恢複聯盟關係，平定南方的叛亂，內部也較為安定的局麵給諸葛亮的北伐計劃提供了良好的條件。
建興四年（226年）五月，曹丕病死，太子曹睿繼位，諡父丕為文皇帝，其餘的文武官僚，都有封贈。當時雍州、涼州兩地缺乏人守，司馬懿上奏自請到西涼等處防守，曹睿允許了他的請求，便封司馬懿督導提督雍州、涼州等地的兵馬。
建興五年（227年），諸葛亮率大軍離開成都，向北進軍，伺機而動。之前，諸葛亮任命郭攸之、董允、費褘等為侍中，負責宮中的事，並且又派將軍向寵總督禦林軍馬。他自己則率領了趙雲、鄧芝、魏延、吳壹、向朗、楊儀、馬謖等大將和近十萬大軍北伐。臨行之際，他上表後主。這就是享譽古今的《前出師表》。
先帝創業未半而中道崩殂。今天下三分，益州疲弊，此誠危急存亡之秋也。然侍衛之臣不懈於內，忠誌之士忘身於外者，蓋追先帝之殊遇，欲報之於陛下也。誠宜開張聖聽，以光先帝遺德，恢弘誌士之氣，不宜妄自菲薄，引喻失義，以塞忠諫之路也。
宮中府中，俱為一體，陟罰臧否，不宜異同。若有作奸犯科及為忠善者，宜付有司論其刑賞，以昭陛下平明之理，不宜偏私，使內外異法也。
侍中、侍郎郭攸之、費禕、董允等，此皆良實，誌慮忠純，是以先帝簡拔以遺陛下。愚以為宮中之事，事無大小，悉以谘之，然後施行，必能裨補闕漏，有所廣益。
將軍向寵，性行淑均，曉暢軍事，試用於昔日，先帝稱之曰能，是以眾議舉寵為督。愚以為營中之事，悉以谘之，必能使行陣和睦，優劣得所。
親賢臣，遠小人，此先漢所以興隆也；親小人，遠賢臣，此後漢所以傾頹也。先帝在時，每與臣論此事，未嚐不歎息痛恨於桓、靈也。侍中、尚書、長史、參軍，此悉貞良死節之臣，願陛下親之信之，則漢室之隆，可計日而待也。
臣本布衣，躬耕於南陽，苟全性命於亂世，不求聞達於諸侯。先帝不以臣卑鄙，猥自枉屈，三顧臣於草廬之中，谘臣以當世之事，由是感激，遂許先帝以驅馳。後值傾覆，受任於敗軍之際，奉命於危難之間，爾來二十有一年矣。
先帝知臣謹慎，故臨崩寄臣以大事也。受命以來，夙夜憂歎，恐托付不效，以傷先帝之明，故五月渡瀘，深入不毛。今南方已定，兵甲已足，當獎率三軍，北定中原，庶竭駑鈍，攘除奸凶，興複漢室，還於舊都。此臣所以報先帝而忠陛下之職分也。至於斟酌損益，進盡忠言，則攸之、禕、允之任也。
願陛下托臣以討賊興複之效，不效則治臣之罪，以告先帝之靈。若無興德之言，則責攸之、禕、允等之慢，以彰其咎。陛下亦宜自謀，以谘諏善道，察納雅言，深追先帝遺詔。臣不勝受恩感激。
今當遠離，臨表涕零，不知所言。
諸葛亮在表中坦率地指出了在魏、蜀、吳三國相爭中，蜀國所處的不利局麵，希望劉禪能積極進取，奮發圖強，完成統一大業。
由於北伐的緣故，蜀國的軍政中心也移往漢中，有半數以上的官員和將士都駐守在此。從這時候起，諸葛亮在此指揮作戰，直到他死時為止，恰好在此地駐守了八年。在這八年之中，他先後帶著大軍向魏軍攻擊六次。
建興六年（228年）春，諸葛亮為穩妥起見，沒有采納大將魏延從近處偷襲長安的作戰方案，而是用聲東擊西的策略。他揚言要由斜穀出兵攻打郿城（陝西郿縣），並派趙雲、鄧芝兩將率一軍故布疑陣，實施障眼法。然後他卻率領主力大軍前往攻擊祁山。祁山是攻取長安的軍事要點，諸葛亮抱著誌在必得的決心。不久，祁山就被這支軍紀嚴明的部隊輕鬆地攻取了。祁山附近的三郡：天水（甘肅渭川）、安定（鎮原）、南安（隴西東北）也都相繼歸順諸葛亮。
劉備逝世後，蜀國一直在整頓內部，接著又平定南方，很久沒有與魏國相爭了。魏國漸漸對蜀國疏於防備。諸葛亮占領祁山後，漢明帝曹睿慌了，他親自到長安，命令張郃率領大軍前往攻擊諸葛亮，同時又派曹真率兵前往支援郿城對抗趙雲、鄧芝。
諸葛亮在祁山聽到魏軍大舉反攻時，算到魏軍將領張郃一定會前去進攻街亭。因為街亭是蜀軍運送糧草的必經之路，如果街亭被占，無疑是斷了蜀軍的咽喉之路。
諸葛亮決定派參軍馬謖守街亭。諸葛亮再三囑咐馬謖，街亭的地勢非常重要，如果失掉街亭，我軍必敗。並給他指出作戰方法，讓他在靠山近水的地方安營紮寨，千萬謹慎小心，不得有誤。馬謖非常自信，他得意揚揚地說：“我自幼熟讀兵書，深知兵法，哪有不能防守這個小地方的道理?”這時，有許多部將都反對讓馬謖去防守街亭，因為他平時過於自負。諸葛亮不顧眾人的反對，執意決定讓馬謖作為先鋒，前往街亭防守。
馬謖來到街亭後，巡視了一番，對諸葛亮讓他防守這裏不屑一顧。他暗想，丞相實在是過於多慮了，這麽偏僻的地方，魏軍不可能來攻擊。部下王平看到馬謖並沒有做任何部署，就勸他趕快到山下布陣。
馬謖不以為然地說：“哪用得著去山下布陣？你沒看到前麵有一座孤山嗎，這正是上天賜給我們的屏障，我們隻要在那山上駐紮就萬無一失了。兵法說：‘憑高視下，勢如破竹’。”
王平說：“參軍如此想就錯了，那座山前無進路，後無退路，萬一魏軍在山下團團包圍，斷了我們的水源，我們就無力反抗了。請您按照丞相吩咐，依山傍水，巧布精兵。”
馬謖不僅不聽勸阻，反而嘲笑說：“馬謖通曉兵法，世人皆知，連丞相有時還得請教於我，而你王平生長戎旅，手不能書，知何兵法?置死地而後生，這是兵家常識，我將大軍布於山上，使之絕無反顧，這正是致勝之秘訣。”王平再次勸阻，馬謖不再理會他，徑自將大軍布於山上。
張郃進軍街亭，偵察到馬謖舍水上山，心中大喜，立即揮兵切斷水源，掐斷糧道，將馬謖部隊圍困於山上，然後縱火燒山。蜀軍饑渴難忍，軍心渙散，不戰自亂。馬謖乘著混亂，迅速逃走。
此時，據守在箕穀的趙雲、鄧芝也被曹真攻打得有點招架不住，但是趙雲及時把軍用倉庫所在地，赤崖以北的棧道全部燒毀，使魏軍無法繼續追擊。同時他極力保護軍備，沒有造成太重大的損失。
諸葛亮非常懊悔當初沒有聽從劉備不可重用馬謖的勸告，後又不顧眾將的反對執意命馬謖守街亭，才導致這樣不可彌補的損失。現在按照軍法，也不得不處死馬謖。
臨刑前，諸葛亮流著眼淚對他說：“我屢次囑咐你，街亭是我們勝敗的關鍵，要全力防守，你卻自以為精通兵法，不聽勸阻。如今軍敗將亡，這全是你一人之過。今天我如果不殺你，又怎麽能平服眾人的怒氣？”
說完，便命左右侍衛將他拖出斬首，馬謖嚎啕大哭道：“丞相待我如子，我也視丞相為父，如今我是死有餘辜，但願丞相能像寬厚待我一樣，多照顧我家中的婦孺。”
諸葛亮對馬謖說：“我和你情同手足，你的孩子便是我的孩子，你不必再多說了。”
左右侍衛將馬謖推出轅門，正準備要落刀時，參軍蔣琬恰從成都趕到，看到這種情形，忙命刀下留人，馬上晉見諸葛亮說：“春秋晉楚相爭的時候，楚國殺了兵敗的大將得臣，正中晉文公的下懷。如今天下還未平定，就殺掉馬謖這種人才，不是很可惜嗎？”
諸葛亮流著淚回答說：“從前孫武所以能夠製勝於天下，是因為軍律嚴明的緣故。現在四海紛爭，正要開始作戰，如果不嚴申軍令，如何能夠服眾呢？”
這時，侍從稟告已將馬謖斬首，諸葛亮聽後大哭不已，蔣琬問道：“馬謖既然罪有應得，丞相又為何如此傷心呢？”
諸葛亮說：“我並不是為馬謖而傷心，我隻是想起先帝在白帝城病危時曾提醒我，馬謖這個人言過其實，不能重用。今日果然應驗了先帝的看法，我追思先帝的聖明，懊悔不已！”
諸葛亮斬了馬謖後，同時擢升王平為參軍，統領南夷五部“飛軍”之兵。
趙雲、鄧芝的部隊也在箕穀戰敗，因為趙雲退兵時仍有部隊在後麵堅守，所以損失不大，但也因此被貶為鎮軍將軍。諸葛亮問鄧芝道：“街亭失利，大軍敗退，兵將不可收拾，但是箕穀戰敗部隊撤退，兵將依然齊整如初，是什麽原因呢？”鄧芝說：“趙雲親自在部隊後麵拒敵，軍需物資一點都沒有拋棄，兵將沒有緣由散亂。”
趙雲有軍資和剩餘的絹帛，諸葛亮想將其用來分給將士，趙雲說：“軍事上沒有勝利，為什麽要有賞賜，這些物資請全部存入赤岸庫，等到十月用作冬季犒勞品。”諸葛亮很讚同這個意見。
司馬懿一直是諸葛亮北伐的大患，由於之前魏國連連戰敗，曹睿命司馬懿帶兵與蜀軍相抗。諸葛亮聽聞這個消息後，又加上街亭失守，命大軍退回漢中，第一次北伐不得不暫停。