掠夺的匈奴贵族对河南战争的失败并不甘心，从元硕三年（公元前126年）到元猎元年（公元前122年）的五年中，匈奴攸仙王不断从岱君、定乡（今内蒙古和林格尔）进入寇，但这些企图在汉**的坚决反击下化为泡影。 元硕四年（公元前125年），匈奴分兵攻打代郡、定乡、上郡，杀抢数千人。 第二年春，汉**派卫青率领六将，率领十多万人，从新根据地硕放出发。 魏青率军从高雀关北上，同时，李习、张慈功将军向北平右（该县在今河北平泉县管辖）牵制匈奴主力。 匈奴攸仙王以为汉军远在外，一时半会儿来不去，所以没有注意防御。 卫青得知有仙王骄傲和鄙视的弱点后，亲自率领一大批骑兵，行军六七百里，悄无声息地进入了匈奴妖王的驻地附近，在半夜包围了有仙王的营地。 此时，幽仙王在帐篷里喝得酩酊大醉，从梦中醒来，只见火光腾腾，杀戮声震耳欲聋，急忙带着妃子和数百名侍卫突围而入，向北逃窜。 汉朝轻骑兵队长郭城向北追击数百里，俘虏了十多名匈奴王（小王）、15000名男女和数十万头牲畜，取得了全面胜利。 汉军返回边关时，汉武帝派使者带着印章信奉魏青为军中将领，粮庄园增建8700户，将领全部麾下。
此后不久，同年秋，匈奴出动一万骑兵入侵代郡，肆意杀戮掠夺。 为了进一步攻打匈奴主力，巩固边防，汉武帝于元硕六年（公元前123年）二月，命令魏青将军指挥公孙敖、公孙和、赵信、苏坚、李光、李福六将， 率领十万余骑兵从定乡向北进军数百里，歼灭数千名匈奴大军。在这场战斗中，魏青的侄子，年仅18岁的霍归，也率领800名精锐骑兵首次参战，在战斗中冲锋陷阵，取得了歼灭2000多名敌人的辉煌战绩。 随后全军返回定乡、云中、雁门，稍作休整后，于四月再次出定乡，歼灭匈奴大军一万余人。 然而，苏坚和赵信率领的三千骑兵遭遇匈奴山虞军，损失惨重，苏坚冲破重围逃回，赵昕原本是匈奴的将领，战败后，他率领800余人的残余部队向匈奴投降。
在随后的几年里，汉军在河西（今甘肃省黄河以西的祁连山峡谷，又称“河西走廊”）取得了重大进展，确保了汉朝西部边境的防御，为彻底消灭匈奴入侵创造了有利条件。