汉武帝在对付诸侯王割据势力的同时，对怎样独揽中央大权也考虑了很多。在封建统治的政治生活中，官制改革始终是与整个政权的机构变动、职能转化直接联系。皇帝为了使自己的政治意愿得以有效贯彻，就需要依靠国家政权机构的运作。对于政权机构的调整，必然直接从官吏制度的变化、改革入手，从而达到终极的目的。
这时，丞相这个官衔在汉武帝的脑海里浮现。因为汉朝丞相的权力太大了，在一人之下，万人之上。要是不对他们采取一定的措施，皇帝手中的大权将无法施展。
丞相是秦代官制，设有左右丞相，右丞相居上，左丞相居下。丞相的官印是金印，印纽上系着紫色绶带，职责是“助理万机”。表面上，丞相要秉承皇帝旨意办事，实际上是整个政权的负责人。
皇帝在宫廷内接见大臣，处理国政，称为“内廷”；宫廷之外的事，都由丞相掌握，称为“外廷”。所有国家大事的决定、法令的制订、百官的管理，丞相无不参加，甚至有权斩杀其他官吏。
汉景帝以前的丞相，大多都是开国的功臣，例如萧何、曹参、陈平等都是这样。因此，皇帝十分敬重他们，百官更是对他们恭谨从命。当时的丞相实际上是朝廷掌握实权的总理大臣。丞相终身在位，必然导致皇帝权力的分散。
汉武帝即位后，窦太后要免卫绾相，他就顺水推舟了。接着，他在建元二年（前139 年）和建元六年，相继免去魏其侯窦婴和功臣后代柏至侯许昌的相职。六年之中，轻免三相。
建元六年（前135 年）六月，汉武帝任命武安侯田蚡为丞相。田蚡有王太后为政治和权力背景，又结交诸侯来扩大他的权力基础，所以权势得以渐长，百官都对他趋迎奉承。田蚡身材短小，相貌丑陋，为人奸诈贪鄙，本属缺德少才无功之徒，仅仅因为是王太后的弟弟而受封为侯，窃据相位。他所进言的政事，都是出于他豢养的宾客之谋。田蚡自恃有太后为靠山，非常骄横奢侈。