汉武帝晚年思过，思想经常处于忏悔的状态中。后元二年（前87年）春正月，汉武帝在甘泉宫接受诸侯王的朝见。二月，巡游五柞宫。
五柞宫周围山清水秀，景色宜人。汉武帝心绪苦闷，想借山水之秀以解烦恼。早春二月，春寒料峭。汉武帝连日游览，偶感风寒。不料数日之后，竟然病入膏肓，卧床不起。
汉武帝明白自己可能将不久于人世。于是，经过深思熟虑后，他决定要让只有几岁的刘弗陵担当起承继刘氏大业的重任，并且还精心挑选着日后辅佐少帝的大臣。
当时，朝廷中大臣有田千秋、赵过、桑弘羊三人。汉武帝十分信任田千秋和赵过，委任他们推行自己的富民政策。虽然汉武帝因改过自悔而拒绝了桑弘羊的轮台屯田建议，但桑弘羊仍不失为一位著名的理财专家，因此，汉武帝仍然十分信任他，委以重任。
这三个人都是文官出身，将来定可以帮助少帝继续推行自己的富民政策，以完成自己未竟的事业。但是，汉武帝更渴求武官出身的大臣，以有足够的能力和权威来驾驭政局，稳固朝廷，辅助少帝治理国家。在武官中，汉武帝最亲信的人也有三个：一个是霍光，一个是金日磾，一个是上官桀。
汉武帝认真考察群臣，认为只有霍光可以承担辅保社稷的大事。
霍光是霍去病弟弟，十多岁便入宫为郎，出则奉车，入侍左右，侍奉汉武帝二十多年，小心谨慎，从来都没有过失，深得汉武帝信任。
金日磾字翁叔，原本是匈奴休屠王的太子。元狩二年（前121 年），骠骑将军霍去病率军出击匈奴右翼之地，大获全胜，虏获休屠王祭天金人。这年夏天，霍去病又进军祁连山，节节胜利。
匈奴昆邪王怕单于治罪，杀休屠王，率众降汉。汉武帝封昆邪王为列侯，而金日磾因为父亲不投降而受牵连，与其母阏氏、弟伦等俱没官为奴。当时，金日磾年仅14 岁，就被安排在宫中养马。