一、从编辑《六大以来》等“党书”入门
胡乔木调到毛泽东身边做秘书工作，是从编纂党的文献开始的。可以说，文献编纂是胡乔木入门第一课。
1942年春，他刚到主席那里时，不知道他这个秘书该做些什么事。他看到主席亲自在校对《六大以来》的清样，就主动请示说：“我来干这个事吧。”毛泽东对胡乔木说：“你算找对任务了。”于是，校对后来称做“党书”的《六大以来》文献清样就成为胡乔木到毛泽东身边做的第一件事。
《六大以来》的材料收集工作从1940年下半年就开始了。为的是为原定于1941年上半年召开的党的七大准备材料，以便总结六大以来的历史经验和教训。七大的材料收集、编印和准备工作最初是由任弼时负责的，原定于1940年的10月底结束。但文献的收集进展并不顺利，到10月份，文件还远没有找全。10月16日，中央政治局会议决定由陈云、王明、王稼祥、洛甫、邓发等分头负责收集各方面的文件，限定11月底完成。由于这几位都是政治局委员，工作繁忙，分不出多少时间和精力来做这件事，结果未能完成。于是，中央又决定把收集六大以来的文献的工作交由中央秘书处承担，由毛泽东负责督促与审核。
毛泽东接手后，工作进展很顺利。中央秘书处指定资料科的裴桐专门承担文献的收集工作。他每收集到一份，就由中央秘书处处长王首道负责转交毛泽东审核，毛泽东审核完后，就再交王首道送印刷厂排印。胡乔木当秘书后，裴桐就直接和乔木联系办理。他们当时只知道是为七大准备材料，没有听说要把这些文献汇编成书。
面对皖南事变后复杂的国内形势和尖锐的党内矛盾，毛泽东深感反对主观主义、教条主义的极端重要性。1941年3月和4月，毛主席为出版旧作《农村调查》一书写了序和跋。重申“没有调查就没有发言权”，批评那种“下车伊始”就哇喇哇喇地发议论，“钦差大臣”满天飞的作风。5月19日，毛泽东又在新落成的延安杨家岭中央大礼堂做《改造我们的学习》的报告，批评主观主义，特别是教条主义。强调“中国共产党的二十年，就是马克思列宁主义的普遍真理和中国革命的具体实践日益结合的二十年”。学习马克思列宁主义理论，要反对主观主义的态度，采取马克思列宁主义的态度。“这种态度，就是有的放矢的态度。‘的’就是中国革命，‘矢’就是马克思列宁主义。”到8、9月间，在为中央准备“九月会议”的过程中，毛泽东更加深刻地感受到，党的六大以来主观主义、教条主义对党的领导机关的严重危害，而且，这种危害通过党的领导机关下发的一系列决定、命令、指示等，已经在党内形成了一条比以往历次“左”倾错误路线更加完备的新的“左”倾路线，正是这条错误路线，几乎断送了中国革命的前程。
而直到1941年，在党的高级干部中还有一些人对这条错误路线缺乏正确的认识，甚至根本否认这条错误路线的存在。在这样的背景下，要想成功地召开七大是不可能的。针对这样的状况，毛泽东认为，有必要在党的高级干部中开展一个学习和研究党的历史的活动，以提高高级干部的路线觉悟，统一全党的认识。为此，他建议，将正在审核的历史文献汇编成册，供高级干部学习和研究党的历史用。这项建议得到了中央的赞同。
中央作出决定后，胡乔木就协助毛泽东将历史文献汇编成册。在毛泽东的指导下，胡乔木先把收集到的文献按照专题和时间顺序相结合的方法进行分类，一共分了政治问题、组织问题、军事问题、锄奸问题、职工运动、青年运动、妇女运动、宣传教育等8个专题。然后，再将每个专题内的文献按时间顺序进行排列。编排好后，便交印刷厂排印。在排印过程中，又陆续找到一些文献，胡乔木协助毛泽东，将这部分文献分别放在相应的分类专题之后，在目录中则以“补遗”或“拾遗”标明。《六大以来》最后出版时，在原有“目录”、“补遗”目录、“拾遗”目录的基础上又编了一个“编年目录”。这样，1941年正式出版的《六大以来》，有几种目录，检索起来很方便。
《六大以来》内容十分丰富，汇集了自1928年6月中共六大到1941年11月间，党的历史文献519篇，共280多万字。汇集本共印了500套，发给中央各部机关、各中央局、军委、军分区等大单位，不对个人发放。1941年12月，挑选其中有代表性的文献86篇汇编成《六大以来》的选集本。分发对象不仅有单位，也有个人，但个人只限于党的高级干部。《六大以来》选集本是党的高级干部学习和研究党的历史的主要材料。对此，胡乔木后来回忆说：“编出《六大以来》使总结历史经验得到一个武器。把党的历史文献编出来，使正确路线同错误路线的对照非常明显。一些犯‘左’倾错误的同志看了心服口服。”
《六大以来》出版后，引起了党的高级干部学习党的历史的浓厚兴趣，不少同志就提出来研究党的历史干脆从党的一大开始，要求中央编一本六大以前的党史资料书。所以，毛泽东从1942年初就着手编辑《六大以前》。《六大以前》的资料工作主要是由胡乔木和陶铸负责的。《六大以前》共收文献184篇，按照时间顺序编排，分上下两册。发行的方式与《六大以来》汇集本相同，只发单位，不发个人。由于发行时正值全党处于整风检查的紧张阶段，因此不像《六大以来》那样在党内引起很大的反响。但是，它的编辑出版，为1943年编辑《两条路线》奠定了很好的资料基础。
《六大以前》出版后，毛泽东紧接着就准备在《六大以来》和《六大以前》两本书的基础上，选编一本关于党的路线的学习材料（即《两条路线》）。后因故暂时耽搁了下来，直到1943年的8月，才正式开始。《两条路线》只挑选最能反映党的各个历史时期两条路线斗争的文件、讲话、文章等，具有很强的针对性，决定选目难度较大。但因为已有两部“党书”做基础，驾轻就熟，很快就完成了。胡乔木作为毛泽东的秘书和中央总学委的成员，参加了编辑工作。这回他感觉到编辑工作容易多了。
毛泽东自始至终指导这部书的编辑工作。在此书编辑大体就绪时，毛泽东于8月15日交代胡乔木：“加上《调查研究》、《增强党性》两个决定。即可付印。交弼、康、刘、周一阅。”20日，毛主席发现了新材料，即致信乔木：“此件列入党史文件，请送王首道抄过一份付印，原文还我。又一九四二年四三决定宜选入党史文件内。审查干部决定由康生交你。党书请于九月五日前印出，以便交去华北干部带去敌后（由康生分发）”。由于条件所限，未能如毛泽东所愿。《两条路线》直到10月份才装订成册。
《两条路线》也分上下册，所收文件起自1922年党的二大宣言，迄于1943年10月《解放日报》发表的毛泽东《在延安文艺座谈会上的讲话》，共收录文献131篇。最后印了2000套，分发的范围较广，不仅在延安的高级干部人手一套，而且各根据地的主要领导人也差不多人手一套。此后，《两条路线》成为党的高级干部学习的主要材料。
关于这几部“党书”的作用，毛泽东在1943年9月7日至10月6日的中央政治局会议上批评王明在十年内战时期的“左”倾机会主义错误和抗战初期的右倾机会主义错误时，做过简要的论述。毛泽东说：“现在党内主要的危险是闹独立性，我们要强调党的一元化领导。抗战初期的右倾投降主义，六届六中全会在政治路线上是克服了，但未作结论，组织问题也没有说，目的是希望犯错误的同志慢慢觉悟。到了一九四一年五月，我作《改造我们的学习》的报告，毫无影响。六月后编了党书，党书一出许多同志解除武装，才可能召开一九四一年九月会议，大家才承认十年内战后期中央领导的错误是路线错误。”
在毛泽东的带领和直接教诲下，参与编辑和校对《六大以来》《六大以前》和《两条路线》三部“党书”，对于乔木个人的成长，对于他全面系统了解党的历史，分清党内路线斗争中的是非功过，准确把握毛泽东的思想，具有非常重要的意义。这也为他后来准确把握毛泽东的意图，在纷繁复杂的党的历史中，抓住本质，理清线索，参与起草党的历史决议，奠定了坚实的基础。
二、自始至终参与编辑《毛泽东选集》
众所周知，50年代初开始，胡乔木即参加《毛泽东选集》的编辑工作。他负责《毛泽东选集》一至四卷的文字以至标点符号的校订，并且是第四卷的主要编者，这一卷中许多有着重要思想内容的题解和注释都是他写的。“文化大革命”后期，他又参与编辑《毛泽东选集》第五卷。在《毛泽东选集》的字里行间，渗透着他付出的劳动。
《毛泽东选集》编辑出版工作的加快，同斯大林的促进不无关系。在1950年毛泽东访问苏联期间，斯大林对毛泽东着作的重视、关切和期待把本已准备的《毛泽东选集》编辑、出版进一步提上了日程。
中国革命的胜利，是在毛泽东的领导下、在毛泽东思想的指导下赢得的。新中国的社会主义革命和社会主义建设，自然还要依靠毛泽东的领导和毛泽东思想的指导。新中国成立后，中共中央便把编集毛泽东着作，出版《毛泽东选集》，提上了日程。在毛泽东访苏期间，斯大林主动向毛泽东谈起此事。他说他们想得到毛泽东的着作目录，以便翻译成俄文。他认为，这样可以帮助世界人们了解中国革命的情况，吸收中国革命的宝贵经验。毛泽东回答说，他正在审读自己的着作，因为这些着作是由各地方出版社出版的，有很多错误和歪曲之处。他计划到1950年初审读完毕。毛泽东提出，苏联在编辑经典着作方面是有丰富经验的，能否指派一位颇有造诣的同志到中国来。斯大林当场答应可以派尤金去。斯大林向毛泽东介绍，这个人你们可能不熟悉，他有理论修养。斯大林还很客气地征求毛泽东的意见：“你看合适不合适？”毛泽东爽朗一笑，表示欢迎。
1950年3月4日，毛泽东回到北京。4月间，即向斯大林发去电报，正式邀请尤金来华帮助编辑《毛泽东选集》。5月，毛泽东主持中央政治局会议，讨论斯大林要把毛泽东的着作译成俄文的提议，一致赞同，都认为这是迫切需要做的事。会议作出决定，立即正式成立中共中央毛泽东选集编辑委员会（不久改称毛泽东选集出版委员会），刘少奇担任主任。编辑出版《毛泽东选集》，作为中共中央统一部署的大事，这是第一次。
胡乔木作为毛泽东的秘书，自始至终参加《毛泽东选集》的编辑工作。参加这项工作的，还有原来的秘书陈伯达和时任秘书田家英。
胡乔木在1941-1943年间，参加了《六大以来》《六大以前》《两条路线》等几部大型文献集的编辑工作，这几部文献集中收入不少毛泽东的文章、讲话和文告，这给《毛泽东选集》的编纂工作提供了便利。在革命战争年代，无论是在革命根据地或解放区，还是在国民党统治区，出版过各种各样的毛泽东着作集。这些集子是编辑《毛泽东选集》的基础，胡乔木他们尽量广泛搜集。
在《毛泽东选集》编辑工作开始时，胡乔木与陈伯达、田家英有分工。陈伯达主要负责编选文稿。田家英主要负责文章注释，包括外文翻译方面的组织工作。胡乔木则主要着重于文辞修饰，包括语法修辞的规范，标点符号的使用等。当时还组织了中央宣传部、中国科学院近代史研究所、中央党校、军事科学院等单位的有关人员参加一些工作。例如，涉及古代史的注释主要请范文澜撰写。由于请尤金来帮助编辑《毛泽东选集》，尤金不懂中文，就得把文稿翻译成俄文。这项工作由师哲和苏联驻华大使馆文化参赞费德林一起做。李立三参加了俄文译文的校阅。
1950年7月，尤金奉斯大林之命到北京。这时《毛泽东选集》第一卷的大部分篇目，已经过毛泽东最后审定。其中三分之二的内容已由师哲和费德林翻译成俄文。