公元前121年，霍光在霍去病的帮助下先担任郎官，随后迁任侍中等职务。霍去病去世后，霍光升任光禄大夫，深得汉武帝的信任。汉武帝晚年时，任命霍光为大司马大将军，与上官桀等人辅佐汉昭帝。后来，上官桀等人的政变计划泄露，被霍光平息。在昭帝时期，霍光得到汉昭帝的全面信任，得以独揽大权。在政治上，他采取休养生息的措施，鼓励农业，使得汉朝国力得到一定的恢复。汉昭帝驾崩后，霍光迎立刘贺即位。27天后，霍光以刘贺荒淫无道为由，主持废除刘贺帝位。同年，霍光从民间迎接汉宣帝刘询继位。公元前68年，霍光病重逝世，谥号为“宣成”。
汉宣帝回忆辅佐有功之臣，令人画十一名功臣图放在麒麟阁以示纪念和表扬，列霍光为第一。