漢武帝在對付諸侯王割據勢力的同時，對怎樣獨攬中央大權也考慮了很多。在封建統治的政治生活中，官製改革始終是與整個政權的機構變動、職能轉化直接聯係。皇帝為了使自己的政治意願得以有效貫徹，就需要依靠國家政權機構的運作。對於政權機構的調整，必然直接從官吏製度的變化、改革入手，從而達到終極的目的。
這時，丞相這個官銜在漢武帝的腦海裏浮現。因為漢朝丞相的權力太大了，在一人之下，萬人之上。要是不對他們采取一定的措施，皇帝手中的大權將無法施展。
丞相是秦代官製，設有左右丞相，右丞相居上，左丞相居下。丞相的官印是金印，印紐上係著紫色綬帶，職責是“助理萬機”。表麵上，丞相要秉承皇帝旨意辦事，實際上是整個政權的負責人。
皇帝在宮廷內接見大臣，處理國政，稱為“內廷”；宮廷之外的事，都由丞相掌握，稱為“外廷”。所有國家大事的決定、法令的製訂、百官的管理，丞相無不參加，甚至有權斬殺其他官吏。
漢景帝以前的丞相，大多都是開國的功臣，例如蕭何、曹參、陳平等都是這樣。因此，皇帝十分敬重他們，百官更是對他們恭謹從命。當時的丞相實際上是朝廷掌握實權的總理大臣。丞相終身在位，必然導致皇帝權力的分散。
漢武帝即位後，竇太後要免衛綰相，他就順水推舟了。接著，他在建元二年（前139 年）和建元六年，相繼免去魏其侯竇嬰和功臣後代柏至侯許昌的相職。六年之中，輕免三相。
建元六年（前135 年）六月，漢武帝任命武安侯田蚡為丞相。田蚡有王太後為政治和權力背景，又結交諸侯來擴大他的權力基礎，所以權勢得以漸長，百官都對他趨迎奉承。田蚡身材短小，相貌醜陋，為人奸詐貪鄙，本屬缺德少才無功之徒，僅僅因為是王太後的弟弟而受封為侯，竊據相位。他所進言的政事，都是出於他豢養的賓客之謀。田蚡自恃有太後為靠山，非常驕橫奢侈。
他建有最豪華的宅第，占有最肥沃的田園，每天去各郡縣購買物品的車輛絡繹不絕。大量接受公卿百官、諸侯、郡縣的賄賂，家中的金玉、美女、狗馬、古玩器物不可勝數。
每次進宮奏事，他總是誇誇其談，一說就是大半天，所奏的事不準不罷休。因而他的奏請，漢武帝不得已隻好一一采納。田蚡還獨攬任官除吏的大權，根本不把年輕的皇帝放在眼裏。他所推薦的人，有的甚至從平民一下子便做到二千石的高官。
有一次，田蚡又拿來一大串任官的名單，漢武帝終於忍無可忍，問道：“你要任官的人有沒有個完？朕也想要任命幾個呢！”
竇嬰在竇太皇太後在世時，官居大將軍，封魏其侯，權傾朝野。當時，田蚡隻是一個郎官，對竇嬰極力巴結，說話、敬酒時總是跪著，恭敬如父。為此，竇嬰對他全力栽培。
竇太皇太後死後，竇嬰失勢，以侯爵閑居在家。朝中的官吏、士人都轉而去趨附新任丞相田蚡。竇嬰門可羅雀，隻有一個曾任過中郎將和燕國之相的灌夫仍然和他要好。
田蚡為相後，再不把竇嬰放在眼裏，反過來還要奪竇嬰的田地。灌夫是一個軍功卓著、性格耿直、嫉惡如仇的老將軍，他見田蚡如此忘恩負義，以勢欺人，心中憤憤不平。
在一次宴會上，灌夫借著酒勁，指桑罵槐地把田蚡大罵了一番。田蚡懷恨在心，便捏造罪名，串通太後，逼迫漢武帝於元光四年（前131 年）冬，將灌夫和救護他的竇嬰處死。田蚡以誅殺公卿進一步樹立了自己的**威。
田蚡害死這兩位漢朝的大臣，不久，他也死了。田蚡死得很奇怪。
據說他是害死了竇嬰和灌夫，這兩個屈死的冤魂不屈服於田蚡，他們在陰曹地府仍和他作對，直到把他也拉到閻王爺那裏。
一天，田蚡突然說渾身疼，身上如鞭子抽一般，疼得叫喚不已。侍從請來大夫，結果許多名醫檢查，連病情都診斷不清。急得他一百多個美人哭哭啼啼，宅府大院哭聲一片。
王太後聽說弟弟患病，許多名醫診治都不見效，覺著病得奇怪，頭一天還好人一個，怎麽會突然之間病到氣息奄奄？漢武帝問舅舅怎麽疼痛法，田蚡說隻覺渾身如人用鞭抽一般。於是漢武帝和王太後請來一位方士，讓給擺弄一下。
方士請下神來，神靈附了方士的身體說：“丞相曾殺害了兩位大臣，是這兩位大臣用鞭在他身上狠抽，報他們的一腔怨氣。”
丞相一聽，十分害怕。他懷疑方士胡說，查其是否是竇、灌二人的奸黨。結果，沒有幾天，他身上果如鞭抽一般地紅腫起來。一天，田蚡已奄奄一息，昏迷之中，連喊幾聲：“饒命！饒命！”便一命嗚呼了。
竇嬰和田蚡雙雙死去，對漢武帝來說，是一件好事。竇、田的鬥爭，其實也是竇氏勢力和王氏勢力的最後一次衝突。對漢武帝來說，不論竇氏掌權還是田蚡掌權，都會成為他獨裁的絆腳石。田蚡在位時，依靠其姐姐王太後，已表現出為所欲為的樣子。以後任用丞相，漢武帝便吸取教訓，為削弱相權做了心理準備。
田蚡死於相位，繼田蚡為相的是薛澤。薛澤是漢高祖時期的功臣廣平侯薛歐的孫子，漢景帝時被封平棘侯，漢武帝當然不好對他頤指氣使。於是，漢武帝說要用“文德”而改任公孫弘。
公孫弘出身貧苦，是放豬出身的讀書人，六十多歲才征為博士。這種老儒生升任丞相，對皇帝自然感恩不盡，唯命是從。
有一天，公孫弘奉漢武帝之命去赴宴。進宮後，一眼就發現漢武帝穿著不整，而且還沒有戴冠冕。他明白，自己還遠沒有和天子親切到這種程度，這一定是對方在嘲諷和鄙視自己。宴會開始後，他坐了一會兒便給漢武帝敬酒，漢武帝卻假裝沒看見，隻和別的官員談笑。漢武帝談笑完，又命宮廷內的樂手奏樂，舞女們也出來獻舞。
漢武帝沉浸在聲色中，忘了丞相公孫弘的存在。待到月上中天，漢武帝這才明白過來說：“丞相，你怎麽還在這裏作陪？”
公孫弘聽後，馬上磕頭告退。回到他自己府中，當即氣得口吐鮮血，卻仍是啞巴吃黃連，有苦說不出。公孫弘躺在**，難以入眠，因為他已明顯感到自己的命運正如皇帝手中隨意操縱的玩物，什麽時候天子厭煩了，就會把他摔碎到地上，再踏上一腳。
第二天，有下屬的郡國到丞相府匯報工作，丞相公孫弘看完之後，歎息道：“你們先回去吧，過幾天我批後就給你們消息。”
來人一走，他馬上就穿上朝服，坐轎直奔皇宮。他要把上書親自交給漢武帝。這時的公孫弘已失去了以往由丞相直接控製地方長官的職權，他覺得此時的自己已經毫無價值。他想稱病辭職，過一段安安穩穩的生活。但是，見了皇帝後，他就不再說出自己心裏的半句真話，仍叩著首說：“卑臣願在有生之年為皇帝效犬馬之勞。”
“難得你一片忠心，為獎賞你的功勞，以後有什麽重大的文書，就直接送我這裏好了。但要牢記住，你的丞相之位是誰封的。”
公孫丞相返回家中，身子便軟成一團。不久，公孫弘便憂勞成疾，一命歸西。後來，禦史大夫李蔡為相。漢武帝覺得李蔡符合自己的標準。可惜這位丞相沒把握住自己，隻利用權勢多取了一點，被漢武帝得知後，定罪入獄，受盡了刑罰，終因抵擋不住酷刑而自殺。
後來又有趙周為丞相。因列侯獻酎金成色不足，分量不夠，漢武帝便以不敬罪奪爵106 人，再遷怒於丞相趙周，冤枉趙周說他知道列侯所獻酎金不合規定，故意不奏皇帝處理，包庇列侯不重視宗廟祭祠，將其下獄治罪。趙周被迫在獄中自殺，落得和李蔡一樣的命運。
太初二年（前103 年），公孫賀做了丞相。公孫賀是將門之子，與漢武帝有舊交。漢武帝為太子時，公孫賀為太子舍人，經常從侍左右。漢武帝即位，提升他為太仆。
公孫賀開始時不願意接受丞相印綬，因為前幾位丞相已經留下了前車之鑒。於是，他向漢武帝叩頭流涕說：“臣本是邊地騎馬射箭的粗人，才能低下，不足以承擔丞相重任，陛下免了吧！”
公孫賀講得如此誠懇，哭得這樣傷心，漢武帝和左右的官員都被感動得傷心落淚。漢武帝說：“把丞相扶起來吧！”公孫賀聽說是扶丞相起來，跪在地上死也不肯起身。漢武帝令出必行，不管公孫賀如何涕泣，起駕回宮了，公孫賀這才不得已當了丞相。
出宮時，左右侍從問他為什麽不肯當丞相？公孫賀說：“當今皇帝賢明，賤臣不能稱職。從今以後，我的身家性命危險了！”果然，公孫賀一家，後來在“巫蠱”之禍中被滅族。
漢武帝後期唯一免於一死、得以善終的丞相是石慶。石慶任丞相期間，漢朝正南征兩越，東出朝鮮，北逐匈奴，西伐大宛，漢武帝還大興禮樂，巡狩封禪，治國大事都沒有人向石慶匯報。形同虛設的石慶丞相哪敢計較，隻是俯首聽命而保全自己性命。
元封四年（前107 年），關東出現大批的流民湧進長安，眾官商議如何解決。漢武帝認為石慶年老而又膽小怕事，特令丞相告歸。如此重大的國事，竟不讓石慶參與，石慶深感慚愧，上書自責說：“臣已年老，不能理事，願交出丞相印綬，告老還鄉，為賢士讓路。”
“現在流民進京，事多繁雜，你想想，這個時候你能安心還鄉嗎？”
石慶任丞相，唯有謹慎過人，別無方略，從來不管事，漢武帝也不準他管。可一旦他表示辭職不幹，皇帝卻不準，他隻好又老老實實地待下來。
漢武帝見他又老實了，便原諒了他。
漢武帝通過削弱相權，鞏固了自己大權獨攬的神聖地位。改變了漢室政權原來屈君伸臣、君弱臣強的權力結構，從而使得他擺脫了相權對自己的抑製，完成了他走向皇權專製統治的重要一步。