作为一个史官，司马迁对任何事情，都会很传统地、很职业性地保持冷静、客观。他在皇帝身边，亲眼看到当李陵未败以前，陈步乐回来报军情及起初传来捷报时，朝中的公卿王侯都是一片奉承歌颂的声音；等到李陵投降的消息传来，汉武帝一怒，就变成一个个都怪罪李陵的不是，没有一个人敢挺身而出，为李陵说几句公道话。
富于正义感的司马迁，对这种冷暖不同的场面当然会感到极端的不满。
虽然司马迁和李陵曾经同在皇帝身边服务而算是同事，李陵的祖父李广及叔父李敢，在担任郎中令的时候，司马迁可能已经是郎中，而成为他们的属下，司马迁对李氏三代都应该很熟悉才对。但是司马迁说，他和李陵之间，性情志趣并不相同，从来也没有把酒言欢过，“素非相善也”。只是李陵的浪漫骑士作风，应该是司马迁心中所向往的。他们之所以不熟，除了性情志趣以外，大概李陵也像李广那样“恂恂如鄙人，口不能道辞”，不善于交际呢。
这种微妙的情感，继之以冷静的观察，关于李陵败降案，他认为，一个做臣子的，能够不顾自己的生命，而去为国家的事情拼命，这已经是很不寻常了！现在只因为某件事情一有不当，那些只知道顾全自己、保住自己妻儿的公卿大臣，便马上毫不留情地加以陷害，他觉得非常痛心。
李陵只不过带了五千步兵，就敢深入胡马之地，足踏匈奴王庭之所在，就好比把自己当诱饵送入虎口一般的危险，但他就能向强敌挑战，与多他好几倍的敌军连战斗十几天，杀死敌人的数目远远超过他本身兵力的能力范围。匈奴被他杀得连救护伤亡也来不及，诸君长们都为这件事感到震惊，聚集所有能骑射的人，集中全国的兵力来围攻李陵，致使李陵转战千里，战到箭已射完，可是救兵还是没来，士卒们虽然负伤呻吟，可只要李陵高声一呼，他们无不裹伤奋起，泪水和着血水，张着空弦，冒着白刃，争着和北边的敌人死拼。
再者，平时观察李陵的为人，就知道他事亲至孝，与人交往讲究诚信，遇到财物分取的时候都合乎正义，对人有礼貌而且恭俭谦让。奋不顾身，以赴国家的急难，是他平日就有的抱负。像他这么一个人，却落得这般下场！
司马迁那种炽热的心肠，实在按捺不住想为他说几句话。可是太史令傣禄不过六百石，在满朝文武的嘈杂声中，哪有他发言的余地？他又眼看汉武帝自从李陵败降的消息传来后，就“食不甘味，听朝不怡”，实在觉得于心不忍。他以为，解释清楚了李陵为人的本质，除了可以为李陵洗清冤屈以外，也可以宽慰汉武帝的心，他有此义务，他应该出来说话。
终于机会来了，可能因为司马迁是皇帝近臣的关系，汉武帝“习惯”主动地问他的意见，他逮住机会就对汉武帝说，李陵素来与士大夫交往，遇有好东西绝不争先，要分东西也绝对分得比别人少，像他这样的人，才能在必要的时候得到别人的效命，即便古时候的名将也不过如此！又说李陵的投降并不是真投降，猜测他的真实意图，是想等待适当的机会，建功赎罪来回报朝廷。现在，他败降匈奴是无可奈何的事情，但话说回来，他重创敌人的战果，就足够昭示于天下了。
本来，司马迁准备好很充分的说辞，想把事实的可能真相及汉武帝郁闷的心结，一一加以分析和排解。谁知他一开始表示同情李陵，并推崇其战果，就使“心虚”的汉武帝为此震怒。
原来这次对匈奴战争，最初的意思是以李广利为主力，李陵的任务不过是战略上帮李广利牵制匈奴兵力的助攻而已。但是仗打下来的结果，李广利出酒泉，击右贤王于天山（在今新疆吐鲁番或哈密一带），斩虏万余级，成绩不错，可是回程却被匈奴包围，好几天没粮可吃，死伤甚多，后来还是靠赵充国与壮士百余人英勇突围，李广利才率兵跟着逃出来。当初以三万骑出战，回来时损失了两万多。
反观李陵，深入敌境，与单于相遇，以区区五千步兵，杀死了无数敌人，几乎牵动了匈奴全国，战果显然在李广利之上。
但在军队配备及有关的部署方面，汉武帝又是以如何不同的态度去对待他们呢？这是汉武帝绝不容许任何人触碰的“隐痛”，也是他心虚的地方。可是热心、多情、正义的司马迁，偏偏去碰了它，无意间去“伤”了它。汉武帝愤怒地认为司马迁是以称颂李陵来讽刺李广利，所以不让他把话讲完就将他交付理官（狱官）审理。
于是，司马迁被关进监狱里去了！这是天汉三年（公元前98年）的事情，而李陵败降匈奴是在前一年冬天。
不久，像前说过的，汉武帝经过一段时间冷静以后，醒悟到李陵之所以战败，是因为没有后援的缘故。他也想起当初是自己安排失当，致使路博德有机会“生奸诈”。他派遣特使去慰劳李陵军最后逃回边塞的四百名士兵。
不过，司马迁的“罪嫌”并未因而消失，他仍痛苦地在狱中等待判决，忍受狱吏的虐待。狱吏的面孔，古今中外都差不多。汉武帝时代，虽倡导儒学，广施德政，但同时又借法家治国，一批法家严厉控制人民以防叛乱，因此秦法复活了，产生了不少酷吏。他们在汉武帝的支持下，往往滥杀、滥捕无辜，一杀就是几百人，甚至一次毁灭千余家，即使大臣也难逃他们的毒手。在这种情况下，不论司马迁经由哪个单位收押或被关在哪个监狱，他的处境必然是凄惨无助的。怪不得他在《报任安书》中提到狱吏时说：“见狱吏则头抢地，视徒隶（狱卒）则心惕息（害怕喘息）。”实在令人不忍呀！
很不幸的是在第二年又有一个天大的误会发生了，使司马迁和李陵的处境急转直下。天汉四年（公元前97年）春，汉武帝命公孙敖率领军队深入匈奴，以便迎接李陵归国，显然汉武帝此时对李陵已全然谅解，而这段时间，司马迁之所以迟迟未被定罪，与汉武帝这种心情或许也有关系。这个行动如果成功，可能也会对司马迁的判决产生良好的影响。可惜，公孙敖无功而还，而且带回一个要命的情报，说他从捕得的俘虏口中得知，李陵正为匈奴练兵对付汉帝国，并把自己无功回来的原因，归因于李陵个人身上。
这个情报实在足以令汉武帝头昏眼花，他又在暴怒之下抄了李陵的家，李陵的母亲、妻子全部被杀了。这是一种惨无人道的刑罚，灭族已经够惨，其执行的方法，据《汉书·刑法志》记述夷三族（父族、母族、妻族，或父母、兄弟、妻子）的情形说：凡当夷三族者，皆先黥（在脸上刺字）、劓（割鼻）、斩左右趾，然后笞杀之（以刑杖活活打死），最后还要枭其首（把头砍下来悬在木上），菹其骨肉于市（把尸体剁成肉酱）。如果牵涉诽谤的，还要先断其舌，可说是五刑（黥、劓、断趾、断舌、枭首）俱备。而且先侮辱而后杀死，杀死了还要侮辱其尸首，实在是残酷至极！
可怜的司马迁被判“诬罔”之罪，可能就是这个大风暴的影响。因为所谓“诬”就是无中生有，所谓“罔”，就是欺，“诬罔”也就是欺君之罪。原来司马迁因为说李陵的投降是想等机会建立功业来回报汉朝，并以李陵的功劳讽刺李广利的功少，因而才被关进监狱的。随后汉武帝后悔没给李陵后援，司马迁的罪嫌因而下降，有可能只剩下讽刺李广利的部分。但是公孙敖带回的情报，使汉武帝非常愤怒地杀死了李陵的全家人，等于确认李陵毫无在匈奴为汉建功的意思，汉武帝新“恨”旧“怒”一齐迸发，就命理官判司马迁诬罔欺君的大罪了。
按照汉朝法律，诬罔是死罪。然而，不知道又过了多久，事实的真相被弄明白了。在匈奴，李陵痛苦而困惑地询问一位汉使者说：“我为汉率步兵五千，横行于匈奴，以无援而败，我何负于汉？为什么被满门抄斩！”