西汉时期，北方的游牧民族匈奴强大起来，占据了北方广大的领土。它不仅阻断了汉朝与西域的交通，而且对汉王朝构成严重的威胁。汉武帝决定派使去联合西边的大月氏人，东西夹击匈奴，一举消除匈奴势力。这时，汉中成固人、郎官（皇帝侍从、低级官职）张骞（？～公元前114）慨然应募。汉武帝喜出望外，立刻派他率领熟悉道路的胡人甘父（堂邑氏奴仆）和百十名随从，持汉节（一种出使凭证，用竹杖和羽毛、牛尾等饰物制成），带大量礼物去出使大月氏。于是中国历史上有确凿记载的第一次外交远征开始了。
公元前139年，他们从首都长安悄然出发了。不幸的是，出发不久，他们就被匈奴骑兵掠去，出使的前途霎时暗淡了。
驿车在崎岖坎坷的小路上辗转前行，张骞一行人在饱受颠簸之苦后被带上匈奴王庭。傲慢的军臣单于问张骞去向，张骞据实以对。单于狡黠地反问说：“大月氏在我的北面（实为西面）汉朝使者怎能穿过我的领土到那里出使呢？如果我要穿过汉朝领土到南越（五岭以南地区）去，汉人能允许吗？”随后，就把张骞一行全部扣留、软禁起来。
在被软禁的十年里，为了改变他的志向，单于强迫张骞娶胡人为妻，建立家庭，并有了孩子，但是张骞时时不忘重任，手持汉节从未失落，暗中寻找契机。
机会终于来到了。公元前129年（元光六年），趁胡人监视有所懈怠之机，张骞毅然诀别妻儿，带领部分随从，胡服胡马悄悄逃离匈奴。
张骞并未朝向西南方，望着手中的汉节，他毅然向西奔去。他们取道车师，进入焉耆，然后溯塔里木河西行，过龟兹疏勒（喀什），然后翻越葱岭，来到大宛（今苏联费尔干纳盆地）。这是一段极艰险的旅程。戈壁滩上时而列日炎炎，地表温度达五、六十度；时而狂风骤至，飞沙走石。葱岭却又是冰封雪盖、突兀高耸。加上他们是匆匆潜逃，粮尽水绝，只能靠甘父射猎充饥。但还是有不少人倒在沙海深处，永远留恨于出使的征途中。
公元前128年（元朔元年）张骞决定动身返国。越过葱岭后，为了避免匈奴，他们没走来时的道路（北道），而是沿昆仑山北麓，经莎车、于阗（新疆和田）、鄯善（新疆若羌）东行（今所谓南道）。不料，进入羌人居住区时，又被匈奴扣留。
前126年，军臣单于死，匈奴内乱，汉军又屡败匈奴军队。趁混乱之机，张骞带着妻子和甘父离开匈奴，回到汉朝。出发时的随从人员共近百人，然而，仅张骞、甘父二人侥幸生还。
从西南出使西域受挫后，汉武帝加强了对匈奴的攻势。前121年（元狩二年），张骞率军击匈奴，因贻误战机，被废为庶人。但武帝仍把他留在朝廷，经常问及西域诸国情况。
这一年，骠骑将军霍去病两次大败匈奴军队，浑邪王带数万人投降汉朝。汉在河西走廊设置了武威、张掖、敦煌四郡，通往西域的咽喉要道打通了。机不可失，张骞又开始了他的第二次西域之行。
前119年（元狩四年），张骞被任命为中郎将，率领副使、随从三百多人，每人备马两匹，共携带价值百万的丝绸、宝玉及特产，驱赶着上万头牛羊，从长安出发，浩浩荡荡，向西域进发。这是一个规模庞大、规格高级的外交使团，又是一个大规模的贸易商队。由于河西走廊已在汉控制之下，他们顺利到达了乌孙，但其时乌孙国王廷内部正为王位继承问题闹得矛盾重重，剑拔弩张，无意东顾。大臣们也因为新居水草肥美，物产丰饶，又不了解汉的强盛，无心东迁。乌孙王只是表示愿意和汉建立友好关系，建立联盟。但共击匈奴的决策却迟迟不定。于是，张骞分遣十几名副使，各带人马礼物，分别出使大宛、康居、月氏、大夏及安息、身毒等国，建立广泛的外交联系和贸易关系。
公元前115年（元鼎二年），张骞返回汉朝。启程时，乌孙王特派了翻译、向导和几十名使者一路护送，并带几十匹良马作礼物回报。
张骞劳苦功高，拜为大行令（管理各民族事务和外交的最高长官），位列九卿。前114年（元鼎三年），张骞终因长年奔波，积劳成疾，病逝于长安。
张骞开创了汉朝同西域各国的外交事业，丝绸之路作为东西方友谊的纽带，在他死后仍在延伸，东西方的人们永远都会记住这个勇敢的开路人！