司马迁在《史记·李将军列传》中讲了李陵的身世，说李陵是陇西成纪（今甘肃秦安）人，字少卿，飞将军李广长子当户的遗腹子。在讲到李陵投降匈奴的情况时说，陵乏食而救兵不到，匈奴攻击甚急，招降陵。陵说：“无面目报陛下。”遂投降匈奴。所带兵将尽没，只有四百人逃归汉朝。单于既得陵，因素闻其家声，乃以女妻陵而贵之。西汉朝廷听到这个情况后，诛杀陵母及妻子。从此以后，李氏名声败落，陇西之士居其门下者，皆为之羞耻。
既如此，司马迁为什么还要给辩解呢？他在《报任安书》中作了具体的回答：
一是同朝共事，私交甚厚。李陵曾为建章监，司马迁为太史令，均任职于宫门内，所以说“俱居门下”。
二是认为李陵有国士之风，观其为人，“事亲孝，与士信，临财廉，取与义，分别有让，恭俭下人，常思奋不顾身，以徇国家之急”。
三是李陵虽被战败，但对匈奴的打击和杀伤也是很惨重的。说“李陵提步卒不满五千”，“与单于连战十有余日”，杀敌已超过自己兵力的一半数目。随后，“转斗千里，矢尽道穷，救兵不至，士卒死伤如积”，其势不能再战。
四是认为李陵在兵败无援的情况下，投降匈奴是权宜之计，可能在适当时机以报朝廷。
朝廷对他处宫刑的原因，司马迁认为这不在于他为李陵辩解的本身，而是汉武帝想叫他李夫人的兄弟贰师将军李广利在征讨匈奴时立功封侯。而李广利率领抗敌主力，李陵只是带兵配合作战。二人相比，李陵曾遇敌奋战，李广利则无功而还。司马迁出来为李陵说话，汉武帝认为是对李广利的毁谤，故处以宫刑。
李陵投降匈奴后，有些史料说，苏武回归汉朝时，曾劝说和他一起回归，没有成功。后来大将军霍光、左将军土官桀等也曾招他回归汉朝，也没有成功。其原因主要是李陵认为朝廷已判他为投敌罪，并且杀了他的全家，自己还何必再归汉朝呢？（引文见《报任安书》）