漢武帝晚年思過，思想經常處於懺悔的狀態中。後元二年（前87年）春正月，漢武帝在甘泉宮接受諸侯王的朝見。二月，巡遊五柞宮。
五柞宮周圍山清水秀，景色宜人。漢武帝心緒苦悶，想借山水之秀以解煩惱。早春二月，春寒料峭。漢武帝連日遊覽，偶感風寒。不料數日之後，竟然病入膏肓，臥床不起。
漢武帝明白自己可能將不久於人世。於是，經過深思熟慮後，他決定要讓隻有幾歲的劉弗陵擔當起承繼劉氏大業的重任，並且還精心挑選著日後輔佐少帝的大臣。
當時，朝廷中大臣有田千秋、趙過、桑弘羊三人。漢武帝十分信任田千秋和趙過，委任他們推行自己的富民政策。雖然漢武帝因改過自悔而拒絕了桑弘羊的輪台屯田建議，但桑弘羊仍不失為一位著名的理財專家，因此，漢武帝仍然十分信任他，委以重任。
這三個人都是文官出身，將來定可以幫助少帝繼續推行自己的富民政策，以完成自己未竟的事業。但是，漢武帝更渴求武官出身的大臣，以有足夠的能力和權威來駕馭政局，穩固朝廷，輔助少帝治理國家。在武官中，漢武帝最親信的人也有三個：一個是霍光，一個是金日磾，一個是上官桀。
漢武帝認真考察群臣，認為隻有霍光可以承擔輔保社稷的大事。
霍光是霍去病弟弟，十多歲便入宮為郎，出則奉車，入侍左右，侍奉漢武帝二十多年，小心謹慎，從來都沒有過失，深得漢武帝信任。
金日磾字翁叔，原本是匈奴休屠王的太子。元狩二年（前121 年），驃騎將軍霍去病率軍出擊匈奴右翼之地，大獲全勝，虜獲休屠王祭天金人。這年夏天，霍去病又進軍祁連山，節節勝利。
匈奴昆邪王怕單於治罪，殺休屠王，率眾降漢。漢武帝封昆邪王為列侯，而金日磾因為父親不投降而受牽連，與其母閼氏、弟倫等俱沒官為奴。當時，金日磾年僅14 歲，就被安排在宮中養馬。
有一次，漢武帝乘遊宴之興，到禦廄中閱看宮中所飼養的馬匹。那些養馬的人，都牽著自己所飼養的馬，從漢武帝麵前走過。唯獨金日磾與別人不同，他恭謹守矩，目不敢斜視。漢武帝見他人所飼養的馬匹多屬平平，隻有金日磾所養的馬，個個體壯膘肥，油光可鑒。再看這個年輕的養馬人，身高8 尺以上，容貌威嚴莊重。
漢武帝感到很奇異，便詢問他的姓名、身世，金日磾一一對答。漢武帝讚許，當即便任命他為馬監，賜衣冠，使主管宮中養馬之事。後來，漢武帝擢升他為侍中、駙馬都尉、光祿大夫，他成為漢武帝的親信。
漢武帝非常尊重寵愛金日磾，賞賜累千金，出為驂乘，入則侍奉左右。貴戚們見金日磾受到如此恩寵，非常嫉妒。說道：“金日磾隻不過是一個降俘過來的，憑什麽受到如此的寵貴？”但是，漢武帝卻不以為然，甚至對他更加好。
金日磾為人忠誠寬厚，做事恭謹，從不居高自傲。在漢武帝麵前從來沒有犯過什麽錯誤。金日磾的母親教誨兩個兒子，很有規矩，漢武帝得知後很讚許。他母親病死後，漢武帝下詔在甘泉宮為她畫像，題名“休屠王閼氏”。金日磾每次看見畫像都下拜，對著畫像涕泣，然後才離開。
金日磾的兩個兒子都被漢武帝所寵愛，是漢武帝逗樂子的弄兒，他們常在皇上身邊。有一次，弄兒從後麵圍住漢武帝的脖子，金日磾在前麵，看見後生氣地瞪著他。弄兒一邊跑一邊哭著說：“爹爹發火了。”
漢武帝對金日磾說：“為什麽生我弄兒的氣？”
後來弄兒長大，行為不謹慎，在殿下與宮女戲鬧，金日磾正好看見，厭惡他的**，於是殺了弄兒。這個弄兒就是他的長子。漢武帝得知後大怒，金日磾叩頭告罪，把為什麽殺弄兒的情況一一說出。漢武帝很哀傷，為弄兒掉淚，以後從內心尊敬金日磾。
巫蠱之禍前，馬何羅與江充交好，馬何羅的弟弟馬通更因誅殺太子時奮力作戰而得到封爵。征和二年（前91 年），漢武帝得知太子冤屈，就把江充宗族和朋黨全部誅殺。馬何羅兄弟害怕被殺，於是策謀造反。
金日磾發現他們神情異樣，心裏懷疑他們，暗中注意他們的動靜，與他們一同上殿下殿。馬何羅覺察到金日磾的用意，因此，很久沒有機會動手。這時漢武帝駕臨林光宮，金日磾有小病在殿內休息。馬何羅與馬通以及小弟馬安成假傳聖旨深夜外出，一起殺了使者，發兵起事。
第二天早上，漢武帝還沒有起床，馬何羅便從外麵衝了進來。這時，金日磾正在上廁所，心裏一動，馬上進入漢武帝臥室，躲在內門後。一會兒，馬何羅袖藏利刃，從東廂而上，看見金日磾，神情大變，跑向漢武帝的臥室，不料撞到寶瑟，摔倒在地。金日磾得以抱住馬何羅，隨即高聲呼喊：“馬何羅造反！”
漢武帝從**驚起。侍衛拔刀想殺馬何羅，漢武帝恐怕傷到金日磾，阻止他們不要用刀殺。金日磾揪住馬何羅的脖子，把他摔到殿下，侍衛才把他捉住捆綁起來，對其徹底審訊，最後他們都伏法受誅。金日磾因此以忠誠篤敬、孝行節操而聞名。
上官桀是隴西上邦人，他年輕的時候做過羽林期門郎。有一次，他跟隨漢武帝去甘泉宮，趕上大風，車不能前進，就解下車蓋讓上官桀拿著。上官桀捧著車蓋，雖然風很大卻並沒有被車落下，不久下起了雨，他就用車蓋替漢武帝擋雨。
漢武帝對他的勇力很是欣賞，就升他做了未央廄令。漢武帝曾經身體不太舒服，等到病好之後，去看馬，發現馬大多瘦了。於是，漢武帝大怒，說：“你認為我再也見不著這些馬了嗎？”要治他的罪。
這時，上官桀叩頭說：“我聽說皇上身體不適，就日日夜夜為您擔心，哪裏還顧得上看馬呀？”話還沒有說完，眼淚就一串串地落了下來。
漢武帝認為他對自己很忠心，因此十分親信他，讓他做了侍中，逐漸升為太仆。
這三個人當中，漢武帝對霍光尤為器重。於是他就打算以霍光為主要輔佐劉弗陵的人物，但他沒把心裏的打算說出來，而是命黃門畫了一幅周公背成王朝諸侯圖賜給霍光。
二月的一天，霍光、金日磾等一行人跪伏在漢武帝的床前問安。霍光看到皇上危在旦夕，可能將不久於人世，而儲君至今還沒有立，怕漢武帝突然駕崩，禍危社稷，便趁漢武帝清醒時，跪在榻前泣問道：“陛下一旦不諱，應該由誰來繼承大位呢？”
漢武帝說：“前日所賜周公負成王朝見諸侯圖，難道你還沒有理解它的含義嗎？立少子弗陵，由你行周公之事！”
霍光叩頭謝辭道：“臣不如金日磾！”金日磾也在旁邊，急忙叩頭推辭，誠懇地說道：“臣德才遠不如霍光，況且臣是外國人，若使輔弼幼主，必會使匈奴輕視我大漢！”
漢武帝說道：“你們兩人素來都忠心耿耿，朕久已深知，都不必推辭，朕自有安排。”霍光、金日磾見漢武帝再不說話，隻好叩頭退出。
二月十二日，漢武帝頒布詔書，立8 歲的皇子弗陵為皇太子。
二月十三日，漢武帝命霍光為大司馬、大將軍，金日磾為車騎將軍，上官桀為左將軍，桑弘羊為禦史大夫，田千秋仍為丞相。宣五人入內。
五位顧命大臣齊跪在漢武帝榻前，叩頭拜見。
漢武帝已命在旦夕，不能多言，隻能頷首作答。五位顧命大臣拜受遺詔。遺詔曰：
製詔：朕體不安，已無痊愈之望，即將永訣。望輔弼諸臣，宜謹奉皇太子，盡心竭力。製告皇太子善待百姓，輕賦斂，近聖賢，信謀臣，以身奉行名教和祖宗法製。遵循朕的告誡，才有資格君臨天下。要牢記秦二世滅亡的教訓，終生不得疏忽。
蒼天不可久視，大地不可久履，朕就此訣別。告誡後世子孫，兢兢業業，切勿辜負天地的恩德！
二月十四日，漢武帝駕崩於五柞宮。遺體運回未央宮前殿入殮。
終年70 歲，在位55 年。
二月十五日，皇太子劉弗陵在柩前繼皇帝位，是為漢昭帝。霍光、金日磾、上官桀三人共領尚書事，大司馬、大將軍霍光總攬朝政，國家政令都由他製定。幾位大臣同心協力，忠於職守，貫徹漢武帝末年安國富民的大政方針，平穩地完成了政權的交接，為朝野臣民所稱頌。
三月二十二日，入殮後的漢武帝，口含蟬玉，身著金縷玉匣，匣上皆鏤以蛟龍鸞鳳龜麟之像，以轀輬車載柩，黃屋左纛，在極其龐大的送葬隊伍的護送下，葬於茂陵。茂陵在群墓的拱衛之下，巍巍聳立，仰視昊天，俯瞰後土。閱盡人間滄桑。一代天驕、叱吒風雲的大漢孝武皇帝，長眠於世。