霍去病是大將軍衛青的外甥，母親衛少兒是漢武帝皇後衛子夫的姐姐。因為有皇族乾係，霍去病在18歲時就很得天子寵任，入宮做了侍中。

二年春，漢以霍去病為驃騎將軍，率精騎萬人，由隴西(郡治狄道，今甘肅臨洮)解纜，涉狐奴水(今甘肅石羊河)，曆五國，轉戰六天，過焉支山(今甘肅山丹東南之大黃山)，向西北挺進千餘裡。大敗休屠王、渾邪王部，殺折蘭王、盧胡王，俘渾邪王子及相國、都尉，斬獲8900餘人，漢軍喪失非常之七。

為策應霍去病作戰，郎中令李廣、衛尉張騫率馬隊萬餘，從右北平(郡治平剛，今遼寧淩源西北)解纜，進擊左賢王。李廣率4000騎北進數百裡，因張騫部未能定時解纜，被左賢王4萬騎包抄，軍士皆發急。李廣命其子李敢率數十騎打擊匈奴馬隊步隊，以鼓勵士氣；並將馬行列成圓陣禦敵，匈奴打擊，則弓弩齊發。苦戰整天，漢軍箭矢將儘，李廣手持強弩“大黃”，持續射殺匈奴裨將數人，減緩了匈奴的打擊。戰至次日，漢軍死傷過半，匈奴也傷亡很大。時張騫率萬騎趕到，左賢王得救北撤，完成了管束左賢王部的任務。

戰後，伊樨斜單於怒渾邪王、休屠王慘敗，欲召至單於庭誅之。二王恐，乃向漢求降。休屠王悔，渾邪王遂殺休屠王，並其眾，共4萬餘人降漢。西漢將降眾分置隴西、北地、上郡(郡治膚施，今陝西榆林市南魚河堡)、朔方(郡治朔方城，今內蒙古杭錦旗北)，雲中(郡治雲中，今內蒙古托克托東北)五郡塞外，稱五屬國。而後，隴西、北地和河西地區少有匈奴攻略，遂減守兵之半。

霍去病作戰時身先士卒，喜好做前鋒。公元前117年，霍去病因病而死，年僅23歲。因為他當時還不到三十歲，武帝哀思非常，武帝給他修的陵墓形狀很像祁連山，還追封為景桓侯，在墓前直立了一尊“馬踏匈奴”的石像，意味著他為國度立下的不朽功勞。

在公元前123年，他隨大將軍衛青出征。北擊匈奴時，他帶領八百精銳馬隊分開雄師隊幾百裡去追擊匈奴，最後殲敵2028人，此中有相國和單於的祖父，活捉單於叔叔，戰後封為冠軍侯。公元前121年春，霍去病被任命為驃騎將軍，帶領精騎一萬人，向河西地區進發。在這場戰役中，漢軍大獲全勝，斬殺匈奴樓蘭王、盧侯王，活捉了匈奴渾邪王的兒子及相國、都尉等高官，殲敵8900餘人，並且緝獲了匈奴休屠王的祭天金神像。戰後，漢武帝命令增封霍去病食邑2000戶。公元前121年夏的第二次河西戰役中，霍去病孤軍深切，以他變幻莫測的戰術大敗匈奴軍。此次戰役中，匈奴單桓王、酋塗王及相國、都尉等2500人投降，王母、單於閼氏、王子、相國、將軍、當戶、都尉等120多人被俘虜，匈奴兵30200人被漢軍毀滅。霍去病的名譽日趨顯赫，職位也日趨高貴。

同年夏，為進一步毀滅匈奴有生力量，完整節製河西走廊，漢武帝令霍去病與合騎侯公孫敖率精騎數萬，由北地(郡治馬嶺，今甘肅慶陽西北)解纜，分兩路打擊河西匈奴。霍去病率部渡黃河，經戈壁南緣，迂迴至居延澤(今內蒙古額濟納旗北)，西太小月氏(今甘肅敦煌市南湖鎮陽關遺址西南)，轉向東南，攻至祁連山(今甘肅肅南裕固族自治縣西北)，大敗酋塗王，降俘6500人，斬首3萬餘。漢軍亦傷亡非常之三。另路公孫敖部因丟失方向未能插手作戰。