1928年3月，正是江南杜鹃花漫山遍野盛开的季节，谢觉哉乘船经湘江、长江来到上海，他开始接手主编党中央机关刊物《红旗》。这年严冬的日子，谢觉哉收到地下党组织的密信：中央派他去沈阳接收地下省委。为完成这一任务，他不顾严寒只身经海路转经陆路来到沈阳，秘密召集党组织开展了有声有色的宣传、鼓动工作。翌年春天，寒冬的沈阳刚从冰天雪地露出生机，他又从沈阳匆忙赶回到上海。在上海，他继续主编《红旗》，发表了许多时事评论文章，以此鞭挞黑暗的反动统治，鼓吹革命。夏天，王凌波、谢觉哉、熊登可集资在上海开“天生祥”酒店兼卖杂货，谢觉哉在店铺表面上是店老板，实际借此做掩护，开展了一系列地下革命活动。
1930年春天，党中央在上海秘密出版、公开发行《上海报》，谢觉哉被调到《上海报》，担负极其繁重的日常组织领导工作。6月，谢觉哉在上海参加“飞行集会”时被拘捕，由于他机智地与敌周旋，当即被释放。8月15日，党中央决定《上海报》与《红旗报》合并，改出《红旗日报》，李求实、谢觉哉被安排在报社负责编辑工作。翌年，上海互济会成立，他参加该会并担任宣传工作。秋天，他又被调到湘鄂西苏区，初任省委政治秘书长，负责编政府的《工农日报》。后来，调任党校任教育长。第二年7月，蒋介石发动第四次“围剿”，谢觉哉在战斗中被国民党逮捕，被羁押近三个月，后经党组织多方营救才被放出敌营。出狱后他又辗转到上海，被党组织分配在上海全国总工会工作。1933年5月，谢觉哉被调到中央苏区——江西瑞金，任中央政府和毛泽东的秘书。1934年1月20日，江西瑞金召开第二次工农兵代表大会，谢觉哉在会上当选为中央政府秘书长，兼任中央政府机关党总支书记。8月，谢觉哉在《红色中华》报发表《紧急动员起来，力争秋收胜利》等文章。这期间，他参与制定一系列革命法规条例。这些法规条例的制定和颁发，对于中央革命根据地的巩固和发展起到了很大的作用。10月10日，谢觉哉离开中央苏区，随红军进行举世闻名的二万五千里长征。
在长征途中，他被编入中央直属队。遵义会议确立了毛泽东的领导地位后，谢觉哉闻讯很兴奋，对长征的胜利充满信心。1935年10月19日，红军胜利到达陕北吴起镇，他和徐特立露宿田野，并吟诗述怀，表达胜利的喜悦和革命豪情。11月，中央政府西北办事处成立，谢觉哉任国民经济部合作指导委员会主任，不久又改任内务部长、秘书长。到达陕北后，红军面对敌人的封锁和包围，经济十分困难，谢觉哉与林伯渠一道想办法去解决。谢觉哉善于研究新情况，发现新问题，并从中寻找规律。
1936年，他同刘景范负责进行陕北地区有史以来第一次直接的、普遍的、无记名投票的民主选举工作，为了配合这次选举运动的顺利进行，他在《新中华报》上发表了不少文章，对这次民主选举起了推动和指导作用，为边区实施民主制度进行了一次有益的尝试。7月15日，在保安县，他会见了美国著名记者、作家埃德加·斯诺，两人结下了深厚的友谊。
第二年4月26日，为使苏维埃过渡到特区政府，谢党哉负责苏维埃政权存在以来的初步权力改变。此时，谢觉哉担任中央西北办事处司法部长并兼任陕甘宁边区高等法院院长，后来还兼任审计委员会主席。在延安凤凰山下，谢觉哉在院子里以膝为案写作，为我国的人民司法制度谱写了最初的篇章。谢觉哉办案敢于碰硬，坚持原则，重证据，重视调查研究，依靠群众，走群众路线，反对逼供信，并参加选举法起草委员会。1937年7月，谢觉哉从延安出发到兰州任“国民革命军第八路军驻甘办事处”党代表，向甘肃省主席——谢觉哉的同乡旧友贺耀祖宣传我党的政策主张，开展抗日民族统一战线工作。洛川会议后，他为了打开了兰州抗战的新局面做民运工作，将自己制定的计划送贺耀祖处，要国民党部作出具体的实施安排。9月，在兰州八路军办事处，谢觉哉同王定国结婚。在兰州期间，谢觉哉曾以致夫、明远、觉斋、志理、佳金、无奇、见金、实之、雷朗等笔名发表了大量文章，在当时产生了深远的影响。
1938年9月5日，谢觉哉由兰州回延安，参加党中央在延安召开的六届六中全会。会议后，谢觉哉被任命为中央党校副校长。到任后，他大力改进党校工作，使党校保持党的优良传统，树立新党风、新学风，为党造就了一大批为革命献身的优秀党员干部。他还亲自抓教学质量，编教材，讲授《党的建设》课，并参加发起延安各界宪法促进会。1940年，党的西北中央局成立，谢觉哉任中共西北局副书记，兼任陕甘宁边区政府秘书长和政府党团书记。谢觉哉还撰文，对陕甘宁边区采取“三三制”政权形式作了精辟的论述。他除了进行理论论述外，还亲自走访各阶层人士，要求党内人士认识这一新事物，打消党外人士的疑虑。谢觉哉还利用公余时间写出了《自传》，毛泽东看了后批道“文如其人，信哉”。8月，毛泽东就党团问题写信给谢觉哉，指示谢老召集边区党团会议，掌握政策。9月，林伯渠、谢觉哉等人在延安组织了“怀安诗社”，这是一个业余性自由组合的文艺团体。11月，谢觉哉在西北局高干会议上作关于参议会的工作总结汇报，接着又在县委书记联席会上作民主问题的报告。12月，谢觉哉参加延安宪法研究会议并发言。这一年，他以焕南、觉哉、甘光、马彬等笔名发表了《小言论》、《杂感》及其他评论文章，并在第二届陕甘宁边区参议会第一次会议上当选为副议长，为建设“三三制”政权做出了卓越的成绩。这期间，他曾以焕南等笔名发表《闲话》、《一得书》等短文百余篇，得到毛泽东的赞赏。其后，他又写作了《六十自诉》、《马日回忆》和记“西安事变”经过及其意义等文章，并代边区政府和参议会拟写刘志丹陵联，并作陵前碑头联。他多次聆听毛泽东讲话，且参与讨论司法工作问题和制定婚姻条例。
谢觉哉在边区政府和参议会工作期间，深深认识到，边区经济能否改善，关系到边区政权的巩固与发展。他不顾身体衰弱，于1941年7月带病疾书，赶写了《花定盐池运销的研究》。盐，这种现在看来极其平常的物质，当时却是极其珍贵的物品。为此，谢觉哉决定在陕甘宁边区统销食盐，为适应这种情况而设立盐业公司。他制定了方略：你压盐价，我就收买，你不能不卖盐，结果我方就能以通常的价买得。在他的领导下，盐业公司保障运盐不赔本，使找寻或扩大销盐门路的两大任务得以完成。
同时他认为坏分子把盐业公司变成专卖——对边区内也专卖，是错的，但把盐业公司办成公家赚钱的企业——保障入股得多少红利，也不对。所以他又想办法纠正这些错误。对于边区的税收，他在日记中写下了这样的记录：运盐的在盐池完了税，但必须卖给盐业公司，由公司卖出，否则叫做“走私”。而公司给予运盐者的价，不及自由卖出的多，运盐者无多利或赔本。他们说：“友方故意以高价引诱走私，破坏我们统销。”这是不可理解的。边区盐卖得高价，是件好事。友方不会这样蠢！大概是那方面的“私购”，私人虽以较高于盐业公司的价购得盐，但在那方出售仍可以比那方的专卖店为廉且赚得钱。那么，我们为何要替友方做这种义务“缉私”？不准“走私”，目的是公家换得法币，公家向外买货非法币不可。私人销盐得的法币，不会交给公家。一、公家换不到法币，是把法币换价压低所致（实际自己吃亏）。二、运盐大部统制在公营商店及合作社，公家需用法币，只要他不吃亏，谁也会给公家。三、盐公司总能收销一部分盐。四、就是特货一项得的法币占政府收入……尽够支用。去年财厅的实物供给制，丰衣足食做到了。但它并未计及收入。依靠印刷机，票子无限制地发。物资局把保障财政、平定物价、调剂金融三项平均提出，而不知它的责任是在推销黑白二物以弥补财政上赤字。不肯多发票子，太保守了，一转而到可以无限制地发。为解决边区经济问题，他在党中央和毛泽东的指导下思考了很多，想出了许多卓有成效的办法见谢觉哉著的《谢觉哉日记》第578页。。
1944年，谢觉哉赴西北局参加党外人士座谈会，征求对政府工作的意见，他仔细倾听党外人士的声音，认真记录。这种密切联系群众的做法得到与会人士的好评。5月11日，他草拟给各高等法庭分庭庭长和各县司法处长的指示信，详列了司法工作各方面的原则。6月17日，谢觉哉召开政府委员、参议员联席会议筹备会，并拟定议程。20日，他向毛泽东汇报边区工作情况。7月10日，联席会议正式开幕，他参加了大会并聆听了毛泽东讲“三三制”问题。他把撰写的姜梦周传记送给毛泽东审阅。10月2日，谢觉哉出席延安市参议会和劳动英雄、模范工作者大会并讲话。11月14日，谢觉哉在文教会议上讲话，他说文教工作上的民主问题，是统一战线问题，团结一切人的问题，因时制宜和因地制宜问题，破除成见问题，普及与提高问题。11月，他主持修改选举条例草案。11月下旬，他草拟参议会报告，呈送给毛泽东。毛泽东批阅：“此件好，略畸形剐，请酌。”在召开边区参议会二届二次全体会议时，他作了题为《川边区民主政府》的报告和《妇女是中国解放的旗帜》的报告。他还建议把参议会改为人民代表会议，要求把民主运用到人民大众的各种生活中去，使人民大众有实行管理自已的生活的权利。毛泽东看后给谢老回信说：“此议计好，关于参议会改为人民代表会议，我想对内对外都会有好影响的。……政治民主有其自己的内容，经济是物质基础，而不就是政治民主的内容，文化是精神的东西，它有助于政治民主，也不就是政治民主的内容。”
1946年，延安成立中央法律问题研究委员会，谢觉哉担任主任委员，在他的领导下，边区政府开展了新的立法活动。谢觉哉在这个中国革命史上第一个法律研究会里，提出了一系列重要的法律观点。11月，他终于完成了边区宪法草案的起草工作。后来，他参加司法工作会议，参加西北局讨论《施政纲领草案》并主持召开选举工作总结会议，拟定总结大纲。4月2日，陕甘宁边区第三届参议会开幕，谢觉哉代表常驻委员会作报告。5月，为延大和西北党校师生讲宪法。6月，由中央书记处批准成立“中央法律问题研究委员会”，林伯渠、徐特立、王明、黄松龄、王觉民为委员，谢觉哉为主任委员。任务是研究法律及试拟《陕甘宁边区宪法草案》。谢觉哉从9月至11月，为解放日报写《案头杂记》共10余篇。
1947年2月10日，中央法律问题研究会移至杨家岭。3月7日，研究会随部队撤离延安，东渡黄河，22日转移到山西临县后甘泉村。4月1日，在后甘泉主持召开法律问题研究会议，参加的有：王明、吴玉章、王觉民等。中央指示，这一时期的任务是起草全国新宪法及创立新民主主义的法律理论。9月，在谢觉哉主持下新宪法草案初步完成。