马邑县（今朔州老城）两汉时期属雁门郡，雁门郡是汉代北方的大郡，有3.2万户，近24.9万人。马邑南控勾注陉，北依武州塞，是两汉时期从西安或洛阳出发，经太原北上，直达今呼和浩特附近匈奴龙庭的必经之地，这条北方大路，就是历史上著名的通塞中路，马邑正扼中路咽喉又是名马产地，名马场所。因此，当时汉朝统治者与北方匈奴贵族许多大大小小的战争，不少发生在这一带，特别看重马邑而互相争夺。

匈奴冒顿单于被秦将蒙恬逐走后，远徙北方十多年。不久，冒顿单于的儿子头曼杀其父自立为单于。秦汉之际，中原大乱，楚汉相争，无暇顾及塞外，匈奴乘机向南扩张，严重地威胁着汉朝的北方边塞。汉高祖六年（前201）为了防御匈奴，选派韩王信坐镇北方，改太原郡和雁门郡的31县为韩国，建都晋阳。韩王信因守地在雁门一带，而国都在晋阳，防卫不便，请求刘邦移都马邑。实行防边。得到刘邦同意，韩王信遂由晋阳徙都马邑，缮城掘堑为固守计。这年秋天，匈奴冒顿单于率骑兵20余万南犯汉边，将马邑围得水泄不通。韩王信料知彼众我寡，只好飞章入关，乞请援师。但是路途遥远，即使立刻发兵也不可能朝发夕至。这时，冒顿麾众猛扑。韩王信恐城池被陷，为了拖延时间，遣使到冒顿营求和。求和未成，却引起了刘邦怀疑，即赐书责之曰：“专死不勇，专生不任，寇攻马邑，君王力不足以坚守乎?安危存亡之地，此二者，朕所以责于君王”（《汉书·韩王信传》）。韩王信得书后，自恐被诛，索性把马邑献给匈奴，自为向导引匈奴大军越过勾注山，直扑晋阳城下。警报传入关中，汉高祖刘邦决意亲征。高祖七年（前200）冬十月，他率马步兵共32万人冒寒出师，在铜鞮（今山西沁县）打败了韩王信，杀其大将王喜。韩王信和他的将领曼丘臣、王黄与冒顿单于合谋攻汉。冒顿诱汉军深入，令左贤王与王黄把兵力部署在晋阳至广武一线，隐蔽精兵，驱使老弱残上阵，先败于离石；复退至楼烦，汉兵前锋屡有捷报。于是，刘邦又亲率大军从晋阳出发乘胜北追，越过勾注山，直抵广武营（今雁门关北侧）。高祖好大喜功，命太仆夏侯婴添驾快马，迅速追赶。这时天寒地冻，汉朝“士卒堕指者什二、三”（《汉书·高祖纪》），骑兵还勉强可以跟上，而步兵多半落伍。待刘邦赶到平城（今山西大同）以东的白登山，冒顿单于亲率精兵40万早已伏兵于附近山谷，以逸待劳，将白登团团包围。“匈奴骑兵其西方尽白，东方尽骁，北方尽骊，南方尽骅马”（《汉书·匈奴传》）。同时，分兵要路，截住了汉兵援应。刘邦被围七天，内无粮草，外无救兵，正在危急之时，谋士陈平献计，用重金贿赂冒顿单于妻子阏氏，阏氏受贿劝冒顿解围。恰好这时和冒顿约期围攻汉兵的韩王信将领王黄、赵利没有按期赶到，冒顿疑其与汉朝有谋，于是下令解围一角。刘邦令军士张弓搭箭，从解角冲出重围，进入平城。这时，汉朝援兵亦到，匈奴解围而去，汉兵也不追赶，两下罢兵。直到高祖十一年（前196）派太尉周勃从太原出兵进攻马邑，久攻不下，强攻破城后，进行屠城。将军柴武杀韩王信于参合，才收复了雁门和马邑。以后为了遏止匈奴入侵，刘邦采用娄敬建议，以宗室女为长公主，嫁给单于，与匈奴“和亲”，在当时情况下这是一种暂时妥协的政策。然而，就在这“和亲”的几十年内，匈奴贵族也没有停止过对汉王朝的骚扰。