崆峒之行过了一年（公元前111年），三十五岁的司马迁，以郎中身份“奉使西征巴蜀以南，南略邛、筰、昆明”，这事关系到汉武帝经营西南夷。所谓西南夷，以现在的省份划分来说，大约指云南、贵州和西康东部与四川交界一带以及四川西南部。汉武帝注意到西南夷，是由经营东瓯（浙江南部）、南越（两广和越南）而引起的。司马迁十一岁时（公元前135年）汉武帝平定闽越后，派唐蒙晓谕南越（因为汉军打闽越是因为南越受闽越威胁）。唐蒙到了南越才知道南越西北有个夜郎国（今贵州北部桐梓、遵义一带）。这时南越还没有并入版图，唐蒙建议和夜郎国结成盟友来挟制南越。汉武帝就派唐蒙率兵千人，以赏赐和威吓双管齐下，使夜郎和它旁边的小邑归附汉朝，于是汉朝就在这里设置了郡治。
当时蜀人司马相如认为邛都（今四川东南的西昌一带）及筰都（今四川东部的汉源县一带，在四川成都的西南方）也可以置郡，于是汉武帝命司马相如以郎中将前往劝说那些小邦归顺汉朝，邛都、筰都由于贪图汉朝的赏赐也就答应了，汉在那里设置十几个县，隶属于蜀郡（成都）。后来这些西南夷又渐渐不听话了，经常反叛。由于这时候汉朝正在集中全国的力量对匈奴发动战争，因此，汉武帝就采纳了公孙弘的意见，放弃西南夷的经营。到司马迁二十岁那年（公元前126年），历尽了千辛万苦回到长安的张骞，带回一项讯息，又引起汉武帝对西南夷的兴趣。他说他在大夏时（西域古国之一，位于兴都库什山北麓及阿姆河一带）曾看到邛都所产的竹杖和蜀郡所产的布，而大夏人说那些东西是从身毒（印度）买来的。又说大夏在中国的西南方，非常仰慕中国，若能够打通蜀郡到印度的通路就方便多了。
于是四年后汉武帝派遣使者，计划从西南夷地通往印度以连大夏。结果那些夷人从中作梗。滇国（在云南滇池一带，是战国末年楚国将军庄肠因走投无路而建的国家，原来汉朝并没有注意到它）和夜郎国的君长都问汉朝使者“汉朝大还是我大”，一个个都是不服气的样子。汉朝使者只好回报汉武帝，并强调滇国算是个大国，值得经营。《史记》描写汉武帝听了以后，说：“天子注意焉！”
十年后，司马迁随着汉武帝到崆峒那年（公元前112年），南越反叛了。这一年距离卫青、霍去病最后一次大规模攻打匈奴已经有七年。那次征伐迫使匈奴逃到远方去了，此后北方有二十年没有大规模的战事。汉军虽然因上次征伐失去大量的马匹而实力受损，但对付南越这种国家还是绰绰有余的。
在平定南越战争进行中，汉朝除了派水师从现在的湖南、江西南下以外，也以宗主国的权威，命令西南夷出兵助阵。这些西南夷小邦却并不听话，其中有个小邦且兰（今贵州省贵阳东北的平越县一带）说是恐怕邻国会趁它发兵的时候来打劫而抗命，并且杀了汉朝使者及犍自己当上了郡太守。这些西南夷君长不知道这时汉武帝“闲”得很，自己竟然闯下了大祸。结果，第二年南越国被平定了，汉朝在那里设置了九个郡。汉武帝对西南夷“食指大动”，派郭昌等人攻击西南夷，杀了且兰及邛都、筰都诸君主。西南夷各小邦这才如梦初醒，纷纷请求归附。
司马迁所说的“奉使西征巴蜀以南，南略邛、筰、昆明”，指的就是这个时候。他去做什么呢？《史记》没有详细的记载。但我们可以推测他的任务，与当年的司马相如应该是差不多的，即汉军杀了三个小邦君主示威以后，由他（或还有其他人）去劝说各小邦君主乖乖地归顺汉朝。结果，他去过的邛都，汉朝很快地在那里设越嵩郡，筰都则设沈黎郡。滇国起初仍不服，西汉两年后才用武力予以制服。另外所设的汶山郡、武都郡等，司马迁没提，大概是由其他人负责。
由汉武帝派司马迁代表朝廷去招抚夷邦一事来看，司马迁是相当被器重的。而崆峒之行和这次奉使西南，正好把他二十岁那年的大游历没去过的地方补了起来，他等于几乎把当时的全中国都游遍了。
这个时候，效法黄帝“且战且学仙”的汉武帝，一面注视战局的进展，一面进行他的求仙“大业”。先前，他决心进行封禅后曾叫儒生草拟封禅仪式，结果五十多个儒生各说各的，弄了几年弄不出个结论。因为他们试图从《尚书》、《周官》、《王制》等古籍中去寻求依据，但古代可能根本就没有封禅，他们无法找到依据。而祭祀天地性质的典仪则有不少，于是他们有意抄来参考，可是又没有胆量为现实考虑而予以变通组合，或加上一些创意，所以弄了半天弄不出结果。
汉武帝为此非常烦恼，公孙卿等方士又跑来说，黄帝以上的九皇，行封禅都能与神相通，这令汉武帝更是急着要举行封禅。汉武帝曾问过儿宽的意见，儿宽这个“儒者”，被班固形容为“以称意任职（以称皇帝的意而被任职）”，是个懂得做官的人，他对汉武帝说，封禅这种大典是个非比寻常的大礼，古经籍里都不会有记载的，这种事情只有由“圣主”作最允当的裁决，自行制定。如果任由群臣各执所见在那里讨论，最后一定不会成事，一定要有圣德如汉武帝这样的人，以他与天相应的智慧，要怎么办就怎么办，为后世开创一个典型出来。
汉武帝听了，自然是高兴万分，于是决定“自制仪”。既然要自行制定，当然由方士们来拟定最便捷，他们反正不受什么约束。但全听他们的难免要遭天下人的讥笑，所以“采儒术以文之”，仍然拿儒术来装饰门面。
司马迁用“儒术”的“术”字，可能是指一些祭祀仪式的小细节由儒者来参加讨论，而不是典礼的大节目，等于是降低了儒者参与讨论的层次。本来这是汉武帝要“外饰以仁义”敷衍一下天下人，同时也是给儒者留一点面子。可是那些儒生仍一板一眼，绝不违背他们所信仰的古礼。当汉武帝把一些可能是方士所制的礼器拿出来让他们提出意见时，有儒生说“不与古同”，这下使汉武帝对儒生的迂腐感到忍无可忍，干脆下令“尽罢诸儒不用”了。
从此，封禅大典就摆明地由方士们编导，风度也不要了。如果说汉武帝还有一点风度的话，那恐怕就是让报天派和求仙派对封禅的意义自说自话，然后他全部接受，反正对他都有利。
这个决心下定以后，封禅的筹备工作就加速进行了。也不知道是谁提的建议，说古时候在行封禅以前要“振兵释旅”，也就是要收缴兵器，解散军队，杀伐的事情要先停止。
这时南方战事大体已经平息，汉武帝最在意的还是北方的匈奴，为了震慑匈奴、避免战事，他勒兵十八万，出长城到河套北岸一带，旌旗连续千余里，神气活现地对匈奴示威一番。还派使者到匈奴单于帐内威胁单于：“南越王的脑袋已经悬在大汉的北阙（宫殿北边的门观），现在，单于你要是还能再战，大汉的天子已在边境等着，你来好啦！如果不能战，干脆投降，南面而向大汉称臣，何苦在这苦无水草的沙漠中逃来窜去！”单于听了大怒，斩了主张接见汉使者的人，并扣留了汉使者。但单于也被吓得整队迁移到北海（贝加尔湖）的北面去了，不敢再出来。
汉武帝得意地率领大兵南下到达了桥山（陕西中部）祭祀黄帝陵，然后就罢了兵。在这里他曾疑惑地问：“黄帝不是不死吗？怎么会有坟墓？”
公孙卿很机智地回答：“黄帝已经成仙登天了，这个坟墓是群臣思慕他才建立的，葬的是他的衣冠！”
汉武帝对这个答案非常满意，而且还感叹地说：“这么说来，将来我要是成仙升天了，群臣也要把我的衣冠葬在东陵（汉武帝为自己预备好的坟，叫茂陵，早已造好，因在长安之东所以又叫东陵）。
这是冬天的事情，因为还没改历，仍属于年首。到了春天，大队人马正式展开了封禅有关的活动。他们的第一站是公孙卿持节候神仙的中岳太室山。下一站就是行封禅大典的泰山，仪式仍然由方士安排，就如同当年的秦始皇一般，在正式封禅前要先东游海上。