会上的斗争非常复杂。苏共代表不仅自己强烈坚持并反驳中共代表的意见，而且操纵一些党的代表一起鼓噪。阿尔巴尼亚、越南、朝鲜、日本、印尼、澳大利亚等党则公开支持中共的观点。还有不少党在底下向中共代表表示支持，说明只是由于他们的处境，不好在会上公开自己的态度，希望给以谅解。
秘书处经过十多天激烈争论，到10月21日对声明草案基本上达成了协议。但还有几个重大问题没有形成一致意见。
10月22日，起草委员会举行第八次会议。苏共代表波诺马廖夫作了秘书处工作报告。邓小平发表讲话，肯定声明草案比原来有所改善，指出有三个问题没有解决：一、团结问题，没有重申各国共产党协商达到一致的原则；二、全面肯定苏共二十大、二十一大的提法不能同意；三、关于战争与和平问题，我们还有保留意见。
至此，起草委员会的工作宣告结束。未能解决的问题交给八十一党代表会议讨论解决。
在起草委员会进行的斗争中，胡乔木表现了他独特的智慧和才干。当时担任翻译组组长的阎明复对胡乔木作过如下的回忆和评论：乔木同志有着深厚的马列主义理论功底，谙熟我党的方针，了解中苏分歧的实质所在。在旷日持久的讨论中，他审时度势，讲求策略，从容不迫，应付自如。应当反驳的，即席发言，有理有节，讲明我们的观点；凡是可以接受的对苏共草案能有所改善的意见，他都表示支持。乔木同志还巧妙地引用苏共代表的讲话来反诘苏共的观点。在讨论“从人类生活中排除战争的可能性”的观点时，乔木同志援引了苏共苏斯洛夫发言中讲的“只有在社会主义在一系列国家中取得胜利的条件下，才有从人类生活中排除战争的可能”。而苏共代表矢口否认苏斯洛夫说过这样的话。乔木同志当即要求核查苏斯洛夫讲话记录，使得苏共代表哑口无言。”
起草委员会的使命结束后，莫斯科会议会前的基本准备工作完成。胡乔木随中共代表团回国，稍作休整，等待时日再次整装出发。
1960年11月10日至12月1日，在莫斯科举行81个国家的共产党和工人党代表会议。11月5日，参加莫斯科会议的中共代表团分乘两架飞机离开北京。中共代表团阵容强大，由团长刘少奇、副团长邓小平率领，胡乔木为代表团团员之一。
中共代表团在莫斯科参加了十月革命四十三周年庆祝活动。11月7日，苏共向中共代表团提交了苏共中央11月5日对9月10日中共中央《答复书》的答复。在这封长达六万余字的答复信中，苏共对中共进行又一轮粗暴攻击。这封长信同时散发给了参加会议的各国共产党和工人党代表团，为会议造成了极不正常的气氛。莫斯科会议阴云密布。但在11月9日下午，苏斯洛夫、科兹洛夫、米高扬等会见刘少奇和中共代表团其他人员时，却又说苏共中央主张在这次会议上消除分歧，加强团结，不涉及他们答复信中的问题。刘少奇当即表示：我们这次是抱着团结的目的来的。你们11月5日的“答复”全面地攻击中国共产党，破坏了团结的气氛。你们呼吁团结的说法是不真实的。我劝你们不要把事情做绝，否则你们会受到历史的谴责。
11月7日、8日和9日，连续三个晚上，中共代表团在中国驻苏使馆，对苏共的“答复”进行讨论，对他们攻击中共的关键地方进行分析，为中共代表团在会上对苏共进行驳斥作准备。从苏共的不友好行为可以预料，这次会议不会那么顺利，会像以往的会议一样。代表团讨论中考虑可能发生的多种问题，要大家作好精神准备，不怕进行一场旷日持久的尖锐争论，但不能让它拖泥带水，这样就要把该讲透的话讲透，必须义正词严，尖锐反驳。为了不使代表团团长刘少奇陷于谩骂之中，代表团研究由邓小平代表中共代表团发言。会议如能达成一致的文件，再由刘少奇出面作一个呼吁团结的讲话。代表团确定由胡乔木起草邓小平的讲话。
11月11日，各国共产党和工人党代表会议如期举行第一次会议。赫鲁晓夫发言，阐述苏共对会议文件草案的观点，多处影射中国共产党。他讲完话，人们照例礼貌性地起立鼓掌。胡乔木和中共代表团成员和工作人员没有鼓掌也没有起立，严肃地端坐在那里，纹丝不动。中共代表团抵制赫鲁晓夫发言的不妥协的行动引起会场注目。
这样，中共代表团就不仅要驳斥苏共中央的那个“答复”，还必须驳斥赫鲁晓夫的发言和其他随声附和的一些党的发言。从11日至13日，中共代表团在邓小平、彭真主持下继续进行分析，同时讨论邓小平发言的内容。在代表团顾问们的参与下，胡乔木起草了邓小平的讲话稿。胡乔木写出初稿以后，代表团内进行了讨论，作了修改，由刘少奇、邓小平和彭真最后审定。
邓小平于11月14日走上讲台，作长篇发言。他就“时代的性质”、“反对帝国主义侵略政策，防止世界大战，争取世界和平”、“社会主义国家和资本主义国家和平共处”、“资本主义国家共产党的任务和和平过渡”、“民族解放运动对世界和平和进步事业的意义”、“社会主义国家关系准则、相互援助和自力更生”、“马列主义的普遍真理与各国革命和建设相结合”、“反对修正主义和教条主义”等重大问题，阐明了中共的观点；并驳斥了苏共草案在这些问题上为中共所不能接受的观点和对中共的攻击；用大量事实指出了赫鲁晓夫坚持大国沙文主义、“老子党”的错误和破坏中苏关系的责任，规劝苏共领导不要害怕同自己的大国沙文主义作斗争；呼吁迅速采取步骤缩小分歧，立即停止一切公开的攻击；还警告，如果社会主义阵营的分裂竟然代替了团结，那么世界形势必然发生巨大逆转。
邓小平的发言，没有使苏共回心转意。苏共不仅自己气急败坏上阵，并照例操纵一些党为自己作辩护，对中共进行排炮式猛烈攻击。中共代表团决定采取更强硬态度，如果苏共坚持在决议草案中要保留中共不能同意的观点，而拒绝写上协商一致的原则，我们就不签字，并发表声明谴责，苏共要承担严重后果的一切责任。
这个决定在请示中共中央同意后，代表团将它陆续告知了与会的一些党的代表团。并由胡乔木再次负责主持起草邓小平将要在全体会议上作的第二次发言。发言稿先后修改了五次，最后由刘少奇、邓小平、彭真审定。这就是邓小平在11月24日全体会议上的讲话。它说明中共一贯坚持1957年的《莫斯科宣言》，一贯维护国际共产主义运动和社会主义国家的团结；指出现在苏共等党的代表想用多数强制少数的办法彻底破坏协商一致的原则，并在文件里保留影射中共的措词，作为进一步攻击中国共产党的法律根据，这是我们绝对不能同意的；强调社会主义各国和世界各党既必须联合，又必须保持各自的独立，为了解决分歧、求得一致意见，严格遵守协商一致的原则是维护团结的唯一道路。
面对中共代表团的严正态度，苏共代表团也不能不考虑其后果而有所软化。11月24日和26日，起草委员会由苏斯洛夫主持举行了两次会议。中共代表团出席人员除胡乔木外，还有彭真、康生、刘宁一等。商谈比较顺利。11月28日，召开第三次会议讨论争议问题，包括“关于二十大、二十一大”、“关于个人迷信”、“关于协商一致”和“关于集团活动和派别活动”等问题，争论相当激烈，难于达成协议。
这时，一些党出来进行斡旋。中共中央来电指示，在草案中要坚持写上通过协商达到一致的原则，但对苏共二十大的提法可以同意保留。这样，29日召开第四次会议中间休息时，彭真、胡乔木与苏斯洛夫等交换了意见，双方终于初步商定：文件中保留对苏共二十大的提法，文字可以照抄1957年《莫斯科宣言》；删去“集团活动”、“派别活动”等提法；写上协商一致的原则。文件中的最后几个分歧问题获得解决。
这样就可以考虑由刘少奇出来，作一个肯定会议呼吁加强团结的讲话了。
胡乔木和顾问们一起，负责起草刘少奇的讲话稿。经过胡乔木多次修改，最后由刘少奇、邓小平、彭真审定。
1960年12月1日，各国共产党和工人党代表会议举行最后一次会议，会议上总算有了活跃的气氛，有了笑颜。苏斯洛夫代表文件起草委员会，作了会议文件修改工作的报告。刘少奇代表中共中央讲话，阐明了中国共产党对世界形势、战争与和平、当代共产主义运动面临的任务以及加强社会主义阵营的团结等问题的立场和态度。赢得大会长时间的热烈掌声。最后，大会通过会议公报、《莫斯科声明》和呼吁书，举行签字仪式。
在会议文件上签字的有七十八个国党的代表团，出席会议的美国、巴基斯坦和冰岛的党未公开签名。另有五个党（柬埔寨、老挝、菲律宾、波多黎各、埃及）没有参加这次会议。
会后，胡乔木等随刘少奇去列宁格勒等地参观访问。12月8日启程回国，9日到北京。毛泽东、朱德、周恩来等前往机场迎接。当天，毛泽东召集会议听取刘少奇等汇报。
此后，胡乔木向北京有关机关作了一个报告，介绍了从文件起草委员会到会议通过《莫斯科声明》的五十多天中，中苏两党以及其他各国共产党之间在一系列问题上存在的错综复杂的分歧，通过激烈争论和充分协商，对会议文件中许多提法进行反复修改、调整和补充，最后达成协议的情况。胡乔木按照《莫斯科声明》的文本，逐段逐句作了解释。
对胡乔木的劳绩和贡献，阎明复有这样一段评说：“回顾这五十多个日日夜夜，乔木同志为了扞卫我党的观点，反驳苏共的攻击，推动会议文件起草工作一步一步地前进，殚精竭虑，呕心沥血，日夜操劳，不仅承担了大量文字工作，而且还参与了各种会议上的论战，据理力争，严辞反驳，出色地完成了少奇同志和小平同志交付的重任。乔木同志的贡献将永远载入史册。”