胡乔木认为，有必要采取有效措施，有计划有领导地开放党的历史档案。我们不能因为有少部分档案要保密就不扩大开放。只有开放档案，党史研究领域才能形成竞争的环境。他对档案馆负责人说：“要破除陈腐的保密观念”，要把档案馆“由封闭型管理变为开放型管理”，不要老是“一把锁”，要开放档案为历史研究，为学术研究，为党的中心工作和各项工作服务。
胡乔木指出，要系统地研究、整理、编辑出版、公布档案资料。多卷本《中共中央文件选集》内部本和公开本都是由党中央决定，在他支持下编辑出版的。以后又续出了十一届三中全会以来党在新时期形成的文献系列集《三中全会以来》《十二大以来》《十三大以来》等。《日本帝国主义侵华档案资料选编》《中华人民共和国经济档案资料选编》，以及大批地方革命历史文件选编，等等，也是在他同意和支持下陆续编辑出版的。在遵义会议五十周年纪念到来之前，他亲自主持编辑出版了《遵义会议文献》。为了选用张闻天有关遵义会议的论述，他不仅让张闻天选集传记组提供意见和文本，而且还从档案馆调阅了张闻天1943年所写的长达四五万字的延安整风笔记，亲自考量，从中节录了约一千二百字，加上《从福建事变到遵义会议》的标题。为了写好《建国以来党的若干历史问题的决议》中关于“文化大革命”的段落，他和邓力群一起主持编辑了两部篇幅相当大的、关于“文革”十年间毛泽东言论和“文革”十年间重要文件的资料集。他还指导中央党史研究室组织研究人员住到中央档案馆长期查阅档案，研究“文化大革命”历史。
胡乔木还指出：“为了写好党史，要多收集资料，收集国民党和外国人写的共产党的历史，看看他们怎样写红军、八路军、新四军。”并说，《张治中回忆录》，托派王凡西写的《双山回忆录》，对我们写党史有用处。
三、要搞清楚理论问题，通过党史表述这些理论
胡乔木指出：“写一本党史涉及许多理论问题，不是系统地讲理论，而是通过党史表述这些理论。”
胡乔木十分注重理论问题的研究和解决。他在拨乱反正之初的1977年1月3日，就在中宣部碰头会上讲话，提出《关于社会主义时期阶级斗争的一些提法问题》，对于“无产阶级专政下继续革命”的口号，对于社会主义时期阶级斗争的形式和作用的认识，对于“阶级斗争为纲”的理解，对于党内斗争是否都是社会阶级斗争的反映，是否都是路线斗争，这些流行的理论提出质疑，并鲜明地表示了否定的意见。这篇讲话不仅对全党全国解放思想、拨乱反正具有重大意义，对于研究党史，特别是建国以来的党史，也是有十分重要的指导意义的。
在起草《历史决议》的过程中，胡乔木指出：“我们要写这个《决议》，理论问题要给予很大的注意”，“非常重要的就是要把中国革命究竟走了一条什么道路，要怎样继续走下去，写出来。”“《决议》里要有一种现实的力量、理想的力量。”胡乔木把对历史经验的总结，对毛泽东功过是非的评论，同理论问题的研究联系起来。他指出，毛泽东犯“文化大革命”错误的原因之一，是出于对马克思关于资产阶级权利的论述的误解和对于列宁关于小生产每日每时产生资本主义和资产阶级的论断的教条化。同时，他又指出：“毛主席的确打破了共产国际的专制、教条化倾向。”并进行具体分析说：“毛主席同第三国际的指导方针做了长期的斗争，这是非常着显的事实。今天讲马克思主义普遍真理同中国实际相结合，怎么结合？就是要研究中国的实际，从实际出发；就是要联系群众，从群众的最大利益出发。毛主席把这些发展成了一个观点、一个工作方法的系统，还可以加上独立自主、自力更生，确实在世界政治上显出中国革命的特点。”
在1985年11月4日举行的《中国共产党历史》上卷送审本讨论会上，胡乔木讲《党史研究中的两个重要理论问题》。指出：“写历史是件不容易的事情。”“写一本党史涉及许多理论问题，不是系统地讲理论，而是通过党史表述这些理论。”
他提出了两个重大理论问题并进行了具体、深入的分析。
一个问题是：马克思主义与中国革命的关系。涉及“马克思主义是否适用于中国？”怎样看待“中国化的马克思主义”？要研究“中国为什么能接受马克思主义？”“中国历史文化与马克思主义结合，有哪些特色？究竟在哪些问题上结合了？”中国的封建主义、中国的资本主义、中国的农民战争，同欧洲有什么不同？中国农民的分化，中国的富农，同欧洲农民的分化、欧洲的富农有哪些不同？等等。胡乔木指出：“讲起马克思主义应用于中国革命的历史，不是一个简单的问题。研究党史就会遇到这些复杂的问题”，“今后在我们的写作、研究中会碰到这些问题，如果没有一定的见解，就很难写好党史。”
另一个问题是：革命与历史的关系。胡乔木指出：“历史太复杂，太丰富了，对于社会历史的研究，就得全面掌握、多方面研究，不能仅仅从一个方面去研究。”在这个题目下面，党史要回答一系列问题。如怎样认识有阶级以来的历史都是阶级斗争史？胡乔木认为：“应当说在中国共产党成立后存在着激烈的阶级斗争。但是也不能说没有其他情况，不能说在激烈的阶级斗争以外，就没有历史了。”胡乔木指出：“党史要答复这样的问题，要答复中国为什么要革命，为什么要成立党。如果不把这样的问题讲清楚，讲得没有说服力，青年人的思想就会糊里糊涂，甚至陷入混乱。党史写得好，就能答复革命史与整个历史的关系，就能说清楚整个历史为什么发展到以革命为中心。”“历史是谁创造的？是少数先进分子创造的，还是人民群众创造的？”胡乔木指出：有人说历史是人民创造的。马克思恩格斯并没说过这句话。马克思说过，历史越到近代人民起的作用越大。马克思还说过，历史首先是生产的历史。但没有推论下去，说历史就是生产者决定的。事实上，很多历史的发展不是生产者起作用，不能简单地说生产者就是推动历史发展的。普列汉诺夫说：“历史上有相当长时间个人起很大作用”。当然，归根结底，历史是生产发展的条件决定的。这个问题应该答复，但很复杂。在我们的书里面，对这个问题要有正确的表述。
四、要按照实事求是的原则，认识、评论和解释党史上的问题，作出从历史到逻辑的总结
胡乔木要求，《中国共产党历史》这本书，“我们要尽量写得客观、求实，不抱有任何偏见，按照历史原来的面目写出来。”对于近年来国内外有关着作中多次涉及并有种种误传的重大问题，应当写清楚，不应当回避。对于像古田会议的背景、中央苏区肃清“ＡＢ团”、社会民主党和富田事变、百团大战、延安审干和“抢救”运动、1947年土改会议、共产国际和中国革命的关系、抗战前后苏联对中国革命的影响等等，这样一些有争议的、比较敏感的问题，在《中国共产党历史》编写和审稿过程中，他都明确地提出自己的意见，有些问题还亲自动笔修改。他所作叙述和论断，鲜明、准确，得到党史界的赞同。
在1980年起草《历史决议》的过程中谈到怎样写“文化大革命”的问题，胡乔木指出：“对历史评论是一件事，解释是另一件事。如果不能答复为什么发生‘文化大革命’，决议就等于不作。‘文化大革命’这种历史在世界历史是可以说是千年不遇的。如果连对这个问题都没有做出一个令人信服的解释，决议就没有价值。”他在另一次谈话中，具体分析了“文化大革命”曲折发展的过程和“文化大革命”这个错误为什么发生的原因，指出：“对‘文化大革命’要作出从历史到逻辑的总结。”
胡乔木还强调，研究历史要保持客观的态度和广阔的视野，要写得公正、准确。他说：“历史是个复杂的整体”，“我们要有比较广阔的视野，用广阔的视野来观察、分析历史。”D“历史发展是很复杂的，写一部历史不容易，写革命历史对革命及其周围事件作恰当的描写，要看很多材料，要有相当广泛的视野，各方面的情况都要看到。”胡乔木又指出：“历史是非常复杂的，如果不在研究的时候保持客观态度，就不能正确地解释历史。这要与我们的感情发生矛盾。但是，愤怒出诗人，愤怒不出历史家。不可理解的事我们还是要去理解，否则我们就要像雨果那样，尽管在他写的书里充满了对拿破仑第三的仇恨，却并没有把历史解释清楚。把拿破仑第三的阴险、狡猾描写得淋漓尽致，也还是没有把‘雾月十八日事变’解释好，而马克思则不同，他还是作了多方面的分析。”他提出：“要对历史负责，要把历史描述得很公正、很准确。”