恰逢匈奴单于杀死游牧民族大月氏人的王，继位者很想报杀父之仇。汉武帝探知这一消息后，决定利用这一大好时机，派人去联络大月氏，夹击匈奴。公元前139年，在汉武帝身边担任郎官的张骞毛遂自荐，带领随从100多人，第一次出使西域。
张骞此行充满了危险。当时匈奴的势力已经延伸到西域，控制了天山一带和塔里木盆地的东北部以及河西走廊地区。河西走廊是通往大月氏的唯一的一条路，张骞一行刚一进入，就遇见匈奴骑兵，结果全部被俘，被扣留了10年之久。但他不忘使命，在公元前129年，抛下妻儿，逃离匈奴，继续西行，终于到达了大月氏。可是西迁的大月氏征服了富饶的大夏以后，已不想再与匈奴交战了。张骞在大夏地区考察了一年多后起程回汉。归途中他虽然改走天山南路，但还是再次被匈奴俘获，又被扣留了一年多。直到公元前126年，张骞等人才趁匈奴内乱，带着妻子和儿子，逃了出来，回到长安。