黄永胜登上林彪贼船，除了主动靠拢和叶群引诱，最根本还是其政治路线的一致性。
1967年4月份，“文化大革命”如火如荼，极“左”思潮一浪高过一浪。不仅地方上乱作一团，军队许多团体也在蠢蠢欲动，希望在乱中夺取权力。特别是“二月逆流”之后，军队中一小撮人开始反对老革命家，谋取军权。地处南边的广州军区司令员黄永胜一开始也看不清形势，不知该往哪儿转。在他举棋不定之时，他想起他的老领导林彪，对，应该向军队的最高领导国防部长请教，以免走错路。
一到毛家湾，林彪热心接待他的老部下。启发性地问道：“对于当前部队和地方某些群众组织的关系比较紧张，你看应如何处理？”
黄永胜不假思索：“我看就是重申八军，贯彻八条。支持八条中的不准以任何借口冲击军事机关，不准随意揪斗军队领导干部。”
林彪脸上掠过一丝不意觉察的微笑，说道：“只靠八条是不解决问题的，现在需要有新的东西，向全国发出一份新命令，规定几条。”
黄永胜连声附和道：“对对，应该规定几条。”
林彪说：“好，那就再搞上几条。”
黄永胜又是一阵附和。
很快，林彪炮制的“十条”出笼了。几天之内发到全国各地。“十条”的发布等于是给冲击部队的群众组织火上浇油，这正好适合林彪唯恐军队不乱的意图。乱就可以让群众冲击那些与他对头的“老家伙”，可以自下而上地揭开所谓“盖子”。
5月27日，黄永胜为紧跟形势，回到广州后伙同政治委员、第二书记刘兴元召开碰头会议。在会上，黄永胜提出：“明天党委召开会议，研究常委班子调动问题。决定不要郭成柱、陶汉章、相炜参加。撤了广州军区副司令员文年生副书记之职，只在常委中留一职务。”并说这样才有利于团结。
会上，任某提议“对相炜、江民风历史要审查，要成立专案小组，由军区负责人挂帅，由孔莱、江副参谋长和我组成。”黄永胜对此表示赞同，以此为起点，开始迫害军区领导干部，制造了文年生、相炜、江民风、陶汉章反革命冤案。
1967年12月8日，黄永胜批示成立相、江、陶三个专案小组，每组七至八人。
1968年3月1日期，在没有事先报告军委和总政等上级组织批准的情况下，经过黄永胜批示，为查清文年生副司令、晏福生副政委、郭成柱副政委和陈青山副主任的问题，成立了专案小组，黄永胜指出：“晏福生主要是查同贺龙的关系。”
1968年4月进京以后，黄永胜仍在北京遥控广州军区专案审查小组，诬陷文年生、相炜、江民风、陶汉章阴谋夺权搞政变。诬称王、关、戚反革命阴谋集团和相炜、江民风问题有联系。当专案组向黄永胜汇报，说查不下去了，没法查时，黄永胜说：“不要慌嘛，可以慢慢搞嘛，王、关、戚都在关着嘛，将来是可以查清的嘛。”据统计，在“文化大革命”中，黄永胜在广州军区策划制造的文、相、江、陶冤案，遭诬陷迫害的干部达764人。因“广东地下党”冤案而受到诬陷迫害的人达7200多，广东省副省长林锵云被抓起来之后，黄永胜对一个负责人说：“敌人档案里搞出来林锵云是个坏家伙，为什么不斗？是不是几个学生常委不行。要把林锵云他们的材料印出来交群众去斗，群众有些事情可做，想办法引导群众把敌人揪出来。”他们利用极其毒辣凶残的手段，逼一些人承认广东地下党是“特务组织”、“叛徒支部”、“国民党支部”，追查地下党的上级领导，致使许多领导干部被迫害致死。不少人冤狱多年，身心遭以严重的摧残，大批干部家破人亡，妻离子散，林锵云等85人被迫害致死。其中包括我党早期著名农民运动领导彭湃烈士的母亲、儿子以及烈士的侄儿、堂弟、堂侄等。连黄永胜自己后来交代问题时也承认：“我是拿竹竿打人，竹竿子长得很，伤害人很多。”
黄永胜进京后不久，就主持召开总参党委扩大会议，在会上说：“总参出了不少坏人，有黄克诚、罗瑞卿、张爱萍、王尚荣，现在又出了杨成武，这是不足奇怪的。”12月25日，他在听取总政军管小组汇报时说：“你们要交代政策，利用矛盾，分化瓦解，各个击破”，“要深挖一下，对干部要排排队”，“总政是水浅王八多”，“总政情况复杂，是阎王殿，是几代招降纳叛的地方，是阶级斗争复杂的地方。”
在此期间，黄永胜以总参谋长和军委办事组组长的身份，秉承林彪旨意，成立材料组，罗织罪名，陷害领导人，并且停发军委几位副主席的文件，收缴中央军委的全部印章。如在总政制造冤案792起，受诬陷迫害的达839人，其中军以上干部52人。在砸烂总政的大冤案中，给当时领导人和干部职工强加的罪名有“叛徒”、“特务”、“现行反革命分子”、“反革命修正主义分子”等，有482人被非法关押，使总政副主任袁子钦及王冰等17人被迫害致死，95%以上的机关干部和直属机关的大批干部被赶出总政。
与此同时，黄永胜采取颠倒黑白的手法，歪曲历史事实，刚到总参就在林彪的指使下，诬陷聂荣臻是“华北山头主义”后台，11月又说：“每一个大转折总有些人出来反对主席的正确路线，有的是自觉的，也有的是不自觉的。聂荣臻这一辈子也没有干什么好事。这些人是不会死心的，一有适当的气候就会起来搞名堂。”如同打击罗帅夫人一样，实际上从1933年至1944年，黄永胜一直在聂帅领导下工作，对聂荣臻的革命斗争经历是亲眼目睹了的。无怪乎在1980年的审判期间，黄永胜矢口否认讲过这句话。
1968年5月，黄永胜在对贺龙专案组人员讲话时，大肆鼓动说：“贺案很重要，是大土匪，大军阀，大阴谋家。这案很大，面很宽，有很多人，要在这个基础上继续努力。搞案本身就是一场阶级斗争，要把埋在身边的定时炸弹挖出来，要猛打穷追，要团结一致，共同对敌……”并扣压了贺龙元帅写的八封申诉信。
最惨无人道是1968年8月黄永胜与吴法宪召集罗瑞卿专案组开会，传达林彪诬陷“罗瑞卿是罪大恶极的反革命分子，十分狡猾，可恶之极。”与此同时，在原罗瑞卿专案组写的一个关于推迟罗瑞卿手术治疗的报告上批示“同意”，赞同对罗瑞卿进行不间断的审讯和斗争，待秋后再动手术。这使将军的左腿失去了安装假肢的可能，在精神上和肉体上受到了极大的折磨和摧残。
在处理彭德怀一案中，黄永胜也起到了推波助澜的作用……