匡衡，字稚圭，西汉东海（汉郡名，今江苏省邳县以东至海，连山东省滋阳县以东至海地区）人。他出身农家，祖父、父亲世代都是农民。传到匡衡，却喜欢读书。他年轻时家里贫穷，白天给人做雇工来维持生计，晚上才有时间读书。可是家里穷得连灯烛也点不起。邻家灯烛明峦，却又照不过来。匡衡就想出个法子，在贴着邻家的墙上凿穿一个孔洞，“偷”它一点光亮，让邻家的灯光照射过来。他就捧着书本，在洞前映着光来读书。
匡衡家穷买不起书。同乡有个富翁家中藏书很丰富。匡衡就去他家做工，却不收分文工钱。富翁感到很奇怪，问匡衡为什么？匡衡说：“我不想要工钱，只希望您能把家中的书都借给我读，我可就很心满意足了。”富翁听了，被他那种勤奋好学的精神所深深感动，就答应了他的请求。从此，匡衡就有了极好的读书机会。史书上说，匡衡精力充沛，超越常人，富翁家的丰富的藏书，加上匡衡本人的勤奋努力，终于把他造就成为一位知识学问渊博的学者。当时的读书人中甚至流传着几句口碑：“无说《诗》，匡鼎来；匡说诗，解人颐（没有人能解说《诗经》，匡衡恰好来了；匡衡给大家解说了《诗经》的疑义，大家开心得都笑起来）。”可见他声誉很高。当时，许多读书人都拜他为师，跟他学习。
汉元帝的时候，张衡受推荐被朝廷任命为郎中，再升为博士，给事中。这时先后发生了日蚀和地震，汉元帝心中惶恐，怕是上天降下的灾殃警兆，就向大臣们咨询政治的得失。匡衡上奏，列举历史事实说明天象只是一种大然的阴阳变化，祸福全在于人的作为，人类社会的风气，更在于朝廷的教化倡导和影响。因而皇上应当裁减宫廷的费用，亲近忠臣正人，疏远佞臣小人，选拔贤材，开放方路接纳忠谏，等等。汉远帝很赞赏匡衡的见识，提升他为光禄大夫、太子少傅。
汉元帝庞爱傅昭仪和她的儿子定陶王超过了皇后和太子。匡衡对此提出了恳切的规劝，透彻地剖析“正家而天下定”的道理，要防止招致国家的祸乱。匡衡在朝廷中参议大政，引经据典，阐明法理道义，很受赞赏，由此升任为光禄勋、御史大夫，后来又升来丞相，封为乐安侯。
汉元帝时，宦官中书令石显专权，排挤陷害贤良。匡衡也害怕他，不敢指摘。汉元帝去世之后，汉成帝即位，匡衡和御史大夫甄谭联手弹劾石显，揭露他和党羽的种种罪恶。石显和爪牙都受到应有的惩办。但朝中大臣也有人认为，匡衡身为辅政大臣，早年不及时参奏揭发，却阿谀曲从，没有尽到责任，对他提出弹劾。匡衡也自感惭愧，一再请求辞职，后来终于因多占封地的事被罢了官。
“凿壁偷光”是后人根据匡衡的故事，概括出的一句成语，形容勤奋好学。