其实确切地说，张骞的出使，更像是一种历险，仿佛是中世纪的欧洲人老嫌黄金不够，突然听到一个意大利囚犯的传奇故事(《马可波罗行记》)，知道有这么一个遍地黄金的富裕国度(中华帝国)，顿时起了远征东方的雄心，由此开启了大航海时代。但是，年轻人的理想很快遭遇到现实的打击。张骞一行人，刚出汉朝的边境，就被匈奴人发觉了。匈奴当时的领袖是军臣单于，匈奴帝国黄金时代的最后一位英主。军臣单于果然是位贤君，他发现这几名汉朝的“奸细”后，对年轻的张骞有这份勇气和胆略，深表赞赏，于是想把他收为己用。先是给张骞娶了匈奴人的女儿做老婆，又给他置了块地，让他放牧，培养他对匈奴的感情。不过，张骞这个人，不愧是武帝选中的人，真还有那么点血性，死活就不降。这一晃就是 11年。
一个月黑风高的夜晚，趁着监视的匈奴人不注意，张骞一行仓皇出逃。事出突然，没有准备干粮和饮用水。这一路上，真是又饿又渴，随时都有倒下的危险。好在他的助手里有个叫甘父的，射得一手好箭，沿途常射猎些飞禽走兽，饮血解渴，食肉充饥，才勉强撑下去。就这样，他们穿越黄沙漫天的戈壁，翻过冰冻雪封的葱岭(今天的帕米尔高原)，来到了大宛国(今天的费尔干纳，属于乌兹别克斯坦)。大宛王早就听说汉朝是一个富饶的大国，一听汉使来了，喜出望外，热情地接见了张骞一行，还邀请他们参观了大宛国特产——汗血马。
在大宛王的帮助下，张骞先后到了康居(今天的撒马尔罕，乌兹别克斯坦
第二大城市)、月氏、大夏等地。但是，月氏人的情形已经大变。他们离开家乡之后，渡过药杀水(今天的锡尔河，发源于天山，流入咸海)，赶走了塞种人，征服了大夏，在妫水(今天的阿穆河，发源于天山，流入咸海)以北定都，建立了国家，管辖的地盘相当于哈萨克斯坦南部的一部分、乌兹别克斯坦的大部和土库曼斯坦的北部，算起来和以前匈奴占去的差不多，而且这里的土壤比故土的更肥沃。月氏人既然乐不思蜀，张骞到达之后，自然没法说服他们一起对付匈奴，只好往回走。比这更糟的是，张骞一行在回国的路上，又被匈奴人发现了，不过幸好这次在位的还是军臣单于，这个老单于又放了张骞一马。这一放可不打紧，为匈奴的未来带来了无穷的祸患。这是后话，暂且不提。
张骞的出使，象征着一个新时代的到来。汉朝和匈奴的关系开始逆转。匈奴从战略进攻，走向战略防守。相反，汉朝则开始了积极扩张的时期。不过，从当时的情况来看，真正的转折点，要算是“马邑之谋”。马邑是个给匈奴和汉留下深刻印象的名字。就是在那里，伟大的冒顿单于降伏了韩王信，进而在白登山下围困汉高祖七天七夜。汉武帝是个很争气的君王，对于曾祖父在这里留下的屈辱，至今难忘。所以，没等张骞的消息回来，他就主动出击了。
当时马邑有个爱国的富商，叫聂壹，和匈奴人经常生意往来。有一天，他弄来两个死囚的人头，把它们高高悬挂在马邑城门上，然后告诉附近活动的匈奴间谍说，他已把马邑的首长杀死，请匈奴大军乘虚进击。军臣单于心想，之前就有韩王信的投诚，这一次保不准又是个好机会，于是亲率 10万骑兵，从武州塞(山西左云)入境 。但是部队走了 100多里，却只看到满山遍野的牛羊，没有一个放牧的人。军臣单于就纳闷了，唉，汉朝人都跑哪里去了！他没有继续进军，而是攻陷附近一个塞亭降望台，俘虏了一名当地官员，这才发现汉军在马邑设下的阴谋，遂急令撤退。西汉终究是一无所获。
自此匈奴帝国和西汉彻底撕破脸皮，开始进行长期的作战，双方一时间都没法取得决定性的胜利。汉朝的优势偏向西方，匈奴的优势偏向东方。在西边，汉朝夺回“河南地”(鄂尔多斯草原)，追平秦朝；但是，在东边，匈奴得到了上谷、造阳两郡(分属今天的山西和河北)。
不过形势突然逆转。公元前 126年，军臣单于去世(在位 35年)。之后，他的弟弟左谷蠡王伊稚斜自立为单于，打败太子于单。这次政变，虽说伊稚斜单于取胜，但是匈奴自此打破稳固的政治局面，单于家族内部陷入无休止的纷争之中，始终没有恢复过来。汉武帝在位的五十四年(公元前 140年 ~前 87年)里，匈奴更换了7个单于。除了军臣单于外，伊稚斜单于和他以后的继承者，全是庸庸碌碌之辈，而且他们都很短命。盛极一时的匈奴帝国，就这样在内政震荡中，继续与南方的汉朝进行长年的争霸。
与此同时，长期滞留在匈奴的张骞，趁着匈奴帝国大乱，无人注意，再次逃出匈奴，踏上归汉之路。终于在阔别祖国 13年后，回到长安。汉武帝封他做了太中大夫，后来又封了博望侯的爵位。张骞受到如此丰厚的奖赏，可见武帝已经敏锐地觉察到，他的西行对于中国的未来所具有的巨大价值。张骞不仅带回来关于葡萄和苜蓿的知识，开启了西亚和中国之间农业知识的交流，还第一次将印度的存在和方位，告诉了汉人。由于他的劝告，汉朝数次派遣使者赴西南寻求印度，虽然并未成功，但无意之间，发现了云南及附近的地区，而后将该地区纳入版图。更为重要的是，他将整个西域的情况，带回中国。因此，在以后的 100年里，汉帝国能够向西发展，最终控制了整个西域，无异于断掉匈奴帝国的右臂。
匈奴纷乱、昏君临朝的同时，汉朝却产生了许多名将，其中最著名的是汉武帝的小舅子——曾是马夫的卫青，以及卫青的外甥霍去病。霍去病是位年轻有为的将领，尤其善于骑马和射箭，他的手下也多是勇敢的年轻人。每次大战，霍去病和他的士兵们总是一马当先，而那些经验丰富的老将常被落在后边。当然，年轻敢闯，并非霍去病的唯一优势，更为重要的是，他采用了新的战术，利用灵活机动的轻甲骑兵作为战斗的主力。在此之前的汉军，是以笨重的战车和重甲的步兵为主。轻骑兵则是匈奴帝国军队最大的杀手锏，这时也被霍去病拥有了，加上汉朝的先进工艺，造的武器比匈奴好得多。匈奴再也没有足以傲视汉军的地方，命运的天平开始向汉朝倾斜了。
公元前 121年，年仅 19岁的霍去病带着他的轻骑兵，出陇西，过焉支(山名，又作胭脂，今天的甘肃境内)，在千里大漠中闪电奔袭，纵横千余里，俘杀匈奴18000余。匈奴休屠王的祭天金人也成了汉军的战利品。当年夏天，霍去病与公孙敖率数万骑兵，再出陇西，行军 2000里，过居延(泽名，今内蒙古境内，甘肃酒泉以北)，进攻祁连山， 俘杀匈奴 3万余，其中包括单于的母亲、妻子、儿子、相国将军等 63人。这一战，匈奴元气大伤，不得不退守到焉支山北。曾经在大漠中不可一世的匈奴人，第一次发出了他们的悲歌：“亡我祁连山，使我六畜不蕃息。失我焉支山，使我妇女无颜色。”公元前 121年，对匈奴帝国来说，是个悲伤的年份。自卫反击战的失败，给帝国带来密布的阴云，而王室内部的纷争，更使这场阴云酿成巨大的暴风雨。在那个悲哀的秋天里，匈奴的领袖军臣单于之子，在位的伊稚斜单于，终于忍受不了同时失去母亲、妻子、儿女的巨大悲痛。他决心报复，但是残暴而又懦弱的他，不敢向汉朝寻仇，反而把一切罪过归结到居于西方的休屠王、浑邪王身上，认为是他们的失败，连累了整个战局，准备招来单于庭杀掉。心虚的两王恐惧之下，合谋投降汉朝。没多久，休屠王反悔，被浑邪王杀掉。浑邪王带领两王的部众四万人投降。自此，河西走廊无匈奴。汉朝可以从容地通过那里，与西域各国交往。
公元前 119年，匈奴再次受到汉军的猛烈攻击。汉军由两部分构成。一部是由霍去病统帅，进攻匈奴帝国的东部，深入2000余里，擒杀匈奴兵 7万余人；另一部是由霍去病的舅舅，大将军卫青率领，与匈奴单于相持于沙漠。卫青见匈奴军队布阵等待，心知不好对付。他命令手下战车队组成一个圆圈，作为营地；另派骑兵5000，与单于派来的 1万骑兵对阵。太阳西落之时，突然狂风大作，沙石扑面而来，两军不得相见。卫青使用疑兵战术，以两翼环绕流动于单于周围，使他误判，以为汉军太多，不能战胜，于是驾起他的六骡战车，突围而去，自此与王庭失去联系长达十余天。这一幕“沙中之战”对于匈奴人是最大的打击，此后许多年，匈奴帝国的行动范围，只得局限于大漠之北，即今天的外蒙古一带。当然，这次决战，汉朝付出的代价也挺大，辛苦培育多年的骑兵损失殆尽，出征时 14万军马，回来时不满 3万，再也没有大举用兵的能力。
西汉与匈奴的争霸战争自此基本上告一段落。此后二十年，两国关系极少出现重大变化。汉武帝于是向其他方向发展。“沙中之战”后八年，灭南越(今天的广东和广西)，不久降服东南的东越(今天的福建)和西南的滇王。“沙中之战”后十一年，又征服朝鲜王国，可从东面对匈奴加以侧击。