在武装斗争的艰难岁月里，曾希圣长期从事党的兵运工作和军事情报工作。曾希圣之所以为毛泽东、周恩来所看重，是因为他有突出的聪明才智、战功卓著。他在中央苏区跟随周恩来在中央军委工作时，他的一项特殊功绩就是参与创建了中央军委2局，并且担任了第一任局长。
1930年，党组织调曾希圣到上海中央军委，在周恩来的直接领导下从事秘密情报工作。不久，曾希圣又奉调到江西瑞金中央苏区红军总司令部担任侦察科长，参加了12月30日中央根据地的第1次反“围剿”斗争。在粉碎敌人第1次“围剿”斗争中，红军在龙冈地区一举全歼张辉瓒的第18师1个师部和2个旅，缴获了一部无线电收报机，在东韶战斗中突袭妄图逃跑的国民党谭道源师，又缴获15瓦电台一部。毛泽东、朱德决定以俘虏的国民党军张辉瓒部无线电人员为主，编成一个无线电训练队，开始了红军历史上的军事情报工作。
在1932年以前，红军和敌人作战，没有专门的军事情报机构。为开辟红军的军事情报工作，曾希圣倾注了全部精力，作出了卓越的贡献。随着战事的发展，红军迫切需要建立军事情报机构，培养军事情报人才的工作也显得越发重要。1932年秋，曾希圣在中央苏区反“围剿”斗争中参与创建了中央军委2局，并担任第一任局长，他是红军无线电对敌斗争的创建者。在他的组织与领导下，军委2局排除种种难以想象的困难，顽强地攻破了一个又一个技术难关，以其特殊的手段获取了大量极其准确可靠的军事情报。党中央、毛泽东运用这些情报，在中央苏区反“围剿”斗争中，指挥红军以小胜大，以弱胜强，粉碎了敌人一次次“围剿”。
红军之所以能在反“围剿”战争中以弱胜强，粉碎敌人一次又一次进攻；后来又能在二万五千里长征中摆脱敌人几十万大军的围追堵截，跳出重围，取得战略转移的伟大胜利，除了党中央和毛主席的正确指挥之外，军委二局提供及时而准确的军事情报，起了极为重要的作用。毛泽东把曾希圣和他领导的军委2局比做红军夜行军的灯笼，说：“没有二局，长征是难以想象的；有了二局，我们就像打着灯笼走夜路。”这是对红军军事情报工作很高的评价，也是对曾希圣莫大的褒奖。
在曾希圣率领军委2局强有力的情报保障下，毛泽东指挥红军，把第5次反“围剿”中连打败仗的被动局面，一下子变成连打胜仗、处处主动的形势。毛泽东对曾希圣的工作非常满意，经常对他当面交代任务，并把有关的重要决策及时告知曾希圣，使他能够心中有数，任务明确，带领军委2局更加努力地去取得准确的情报。当年，毛泽东在长征途中生活上十分关心曾希圣和军委2局人员，当时吃饭定量低，菜很少，缺盐。长征经过湘南时，毛泽东给曾希圣和军委2局送来了猪肉。1935年中央红军到达陕北后，鲁迅托人从上海带来两只火腿送给毛泽东，毛泽东也把这珍贵礼物送一部分给曾希圣。在当时的技术条件下，军委2局的电台与器材非常笨重，仅一部发电机就有几十公斤，在艰难的长征路上全靠人力挑运，当时无论人力如何紧缺，毛泽东都要下令对军委2局需要的人力保证不缺。
曾希圣1930年到达中央苏区，1940年后离开延安，在此期间，他为我军情报工作的建设，默默地奉献自己的心血和智慧。周总理称赞曾希圣是为军事情报工作创业的人。1933年庆祝“八一”建军节而举行的阅兵式和前方军事比赛大会上，中央军委给曾希圣颁发了二等红星奖章。发奖时，周恩来副主席、朱总司令都来给予鼓励，一起给曾希圣颁发奖章。