早在刘邦建国不久，强大的匈奴就已成为西汉封建王朝的严重威胁。匈奴铁骑不断南下寇边，掳掠人畜、财物，破坏了西北地区的生产和居民生活，终于迫使汉朝动用武力，于汉高帝七年(公元前200年)由刘邦亲率大军与匈奴激战于平城白登(今山西大同东南)。结果是汉军失利，陷入重围，断水断粮7日，几乎全军覆没，最后巧用陈平计策突围，汉高祖刘邦等才得生还。这次的失利表明，在社会经济凋敝，割据势力严重，国力虚弱的汉初，中原王朝还无力抗击剽悍的匈奴，所以汉初统治者不得不与匈奴言和，采用和亲的政策以求苟安，将宗室女嫁给匈奴单于为阏氏，并赠送大量丝织物、酒类等，以维持和平局面。从高祖到武帝，西汉曾先后将4位公主远嫁匈奴单于。
匈奴肆无忌惮，己成西汉后患
但是，“汉家青史上，计拙是和亲”,西汉的妥协并没能满足匈奴奴隶主贵族的贪欲，他们仍然不断侵扰汉朝边地，并恣意向各方扩张其势力范围，特别是月氏和乌孙相继西迁后，匈奴占有了整个河西地区，对汉朝西北边垂的直接威胁更大了。河西水草丰美，是一个良好的天然牧场，河西又位居要冲，匈奴据此，南可与羌人相勾结，西可控制西域，把持住内地通往西域的交通要道，割断汉朝和西域的联系，因而匈奴占有河西以后，更加肆无忌惮，在西域设置了僮仆都尉征敛赋税，大大加强了其军力、物力。到汉武帝登极时，匈奴环处于西汉王朝的西北方，已成为汉朝最严重的边患，而河西与西域正是其对西汉进击的一只强有力的右臂。
不过，汉武帝时的西汉已不再疲弱可欺。经过六七十年的休养生息之后，其中央集权已得到加强和巩固，“文景之治”的积极成果也使西汉经济发达、国力大增，士兵、军马及军械粮用都很充实，完全具备了反击匈奴的政治、经济和军事实力，具有雄才大略的汉武帝刘彻以壮盛之年在位执政，征讨匈奴便自然而然地成了他治国的一项基本国策。