5位英勇的八路军战士跳崖后，躲在山洞里的冉元同赶快回村去找人。第二天上午，他带领着两个老乡进山为烈士们收尸，当他们来到悬崖下，只找到了3具遗体。躲在洞里的李老道的视角却发现了被山崖上树枝挂住的两位勇士，李老道赶紧找到了八路军报告了情况，并和乡亲们一起来营救。
易县青救会主任余药夫此时也躲藏在山腰的一个洞里。他回来时，意外地碰上了跳崖负伤苏醒过来的葛振林。余药夫急忙扶住他往山下赶，每走一段他都要机警地往前面去探一段路，发现没有敌人时再回来扶葛振林往前走。走了不久，他们俩又碰到了拄着拐杖的宋学义。原来挂在树上的就是葛振林和宋学义。他们俩在余药夫的帮助下，艰难地下了山，找到了自己的部队。
狼牙山五壮士的英雄事迹很快就传遍了他们所在的部队——第一分区，也传遍了整个晋察冀抗日根据地。
聂荣臻司令员在军区的一次会议上，高度地评价了狼牙山五壮士的英雄行为。他说：“在他们身上，体现了中国共产党领导的人民军队的优秀品质，体现了中华民族的英雄气概，我们要继续下去，发扬光大。”
为了悼念为国捐躯的马宝玉、胡德林和胡福才3位烈士，一分区召开了隆重的追悼大会，一分区司令员杨成武在会上宣读了晋察冀军区司令部和政治部发出的训令，训令要求全区各部队，学习狼牙山五壮士勇敢顽强的精神，以战斗的胜利来纪念他们。马宝玉、胡德林、胡福才3位烈士被命名为一团模范荣誉战士，每逢纪念日点名，首先由他们的名字点起，胡德林、胡福才被追认为中国共产党党员。
副班长葛振林和战士宋学义受传令嘉奖，各获“模范青年”奖章一枚，宋学义也光荣地加入了中国共产党。一分区政委罗元发，代表分区领导机关给他们俩戴上了英雄花。他们俩人先去养伤，伤养好后被送入抗日军政大学学习，毕业后提拔为干部。
为了永远纪念五壮士，学习五壮士，1942年，当地军民动手修建了纪念碑。纪念碑位于五壮士跳崖的棋盘陀。这里山路崎岖，别说车辆，连牲口都上不去，建造纪念碑的部队指战员和当地群众硬是用肩挑、手抬，把砖头绑在山羊身上运，完成了建碑用料的运输，又齐心合力建成了石砌实心、尖塔，高约5丈的纪念碑。
聂荣臻司令员除题写了碑名外，还题了词：
视死如归本革命军人应有精神，
宁死不屈乃燕赵英雄光荣传统。
晋察冀军区政治部主任朱良才手录邓拓同志诗一首作为题词：
北岳狼牙耸，边疆血火红。
捐躯全大节，继后竞奇功。
畴昔农家子，今朝八路雄。
五人三烈士，战史壮高风。
一分区和地区、专署的领导同志都分别题了词，纪念碑的碑文中写道：
风萧萧兮易水寒，壮士一去兮不复还，呜呼！三壮士已战死矣，而生者犹继续为人民战斗，望狼牙山巍巍之高峰，谁不为之赞叹，而高歌我军民对民族之忠贞，坚信我民族之不可战胜也。
五壮士的精神，将化作火红的旗帜；五壮士的血，将化作经久不熄的火炬。
一分区团以上干部和地区、专署领导及部分战士、群众参加了纪念碑落成典礼仪式。高高耸立在狼牙山巅的纪念碑，天气晴朗时，在日军盘距的保定城外都能看得见。八路军五壮士的正义精神压倒了日本军队的武士道。当地老百姓称这个纪念碑是镇敌塔。
日军恨透了狼牙山，多次出兵对这里进行“扫荡”，他们几次架起大炮来轰，炮弹都呼啸着从纪念碑旁飞过，但就是击不中纪念碑。狼牙山五壮士纪念碑成为刺入日军心中的一把利剑，而使他们坐卧不安。
1943年4月，在抗日战争形势对我们日益有利的时候，日军不甘心灭亡，再次抽调兵力对晋察冀抗日根据地进行毁灭性的“扫荡”。牵制敌军的我八路军指战员再一次被逼上了棋盘陀，日军拚命地向带给他们耻辱的棋盘陀进攻。可是，被逼而踏上绝路的我八路军指战员，在老道的帮助下，从天险“阎王鼻子”放下长绳，从悬崖下安全转移。攻上了棋盘陀的日军一无所获，气极败坏之中，日军放火烧了山上的庙宇，用炸药炸毁了五壮士纪念碑。
中国人民在中国共产党的领导下，终于打败了日本侵略者，取得了抗日战争的胜利。接着，又打败了蒋家王朝，夺取了全国的解放，建立了新中国。新中国成立以后，各级领导和广大人民群众都非常怀念狼牙山的五壮士纪念碑。1957年至1958年，经过当地军民的合作，一座更加雄伟壮丽的“狼牙山五壮士纪念塔”落成了。这个纪念塔外围用石头砌成，内部设有木梯可通向顶层。聂荣臻元帅重新题写了碑名，彭真、刘澜涛、杨成武等当年的战地领导十几个人为纪念塔题了词。
抗日战争胜利后，葛振林随军南下，又参加了全国解放战争并屡立战功。全国解放以后，在湖南工作，最后以解放军衡阳军分区副司令员的职务离休。离休后经常到老部队和地方，以自己的亲身经历宣讲革命传统，对人民进行爱国主义教育。1983年，葛振林到张家口参加老部队的纪念活动，在北京作短暂的停留。在京期间，他受到了晋察冀军区司令员聂荣臻元帅、一分区司令员杨成武将军、一团政治处主任史进前将军的接见，老战士和老首长们重逢，聂帅非常高兴地说：“当年的许多事情已忘了，但五壮士这件事没有忘！”
宋学义因腰部负伤严重，于1947年转业回到家乡，回乡不久，他用自己的复员费买了一头牛，在村里组织了第一个互助组。以后他一直担任村大队党支部书记，他谦虚谨慎，不骄不躁，不躺在功劳簿上吃老本，而是想方设法地为人民多办事。他从不对任何人提到自己的光荣经历，直到有一次开群英会，上级给他寄来了请柬，村里人才知道他是战斗英雄，组织上也曾几次动员，安排他进城工作，都被他婉言谢绝了。由于工作出色，他多次被评为劳动模范并出席省、地、县的劳模大会。宋学义于1971年病逝。
马宝玉的家乡为他建立了雕像，狼牙山一团政治处主任史进前为雕像题词：“惊心动魄战斗，抗日民族英雄。”
五壮士所在的七连被命名为“狼牙山五壮士连”。
狼牙山上立青松，
“棋盘”深谷血花红，
不屈五壮士，
抗战建奇功，
壮举震敌胆，
豪气贯长虹。
中华儿女多壮志，
英雄名字万古颂。
这首《狼牙山五壮士之歌》及其五壮士的精神，激励着一代又一代人奋勇前进。