李训、郑注看出，仇士良取代王守澄，实际上仍是宦官控制朝权。所以，他们决心铲除宦党。他们商议，若要达此目的，必须内外呼应，由郑注坐镇凤翔，选壮士数百为亲兵，皆持白掊，怀其斧。假借为王守澄送葬为名，郑注率亲兵入朝。王守澄葬于沪。奏请文宗令内臣中尉以下尽集沪水送葬，到时“亲兵斧之，使无遗类”。
然而，李训、郑注二人并非完全同心协力。当郑注前去凤翔后，李训担心一旦事成，郑注将夺去首功，便与宰相舒元舆合谋改变了原计划。
太和九年（835年）十一月，一天，文宗到紫宸殿视朝。李训的亲信、左金吾大将军韩约不按惯例奏报：“左右厢内外平安。”而是上奏：“左金吾听事后石榴夜有甘露，”关“蹈舞再拜”。李训、舒之舆也率百官称贺，并劝文宗亲往观视。文宗应允，转而升坐含元殿，又先命李训前去观看，李训良久方归，上奏：“臣与众人验之，殆非真甘露，末可遽宣布，恐天下称贺。”文宗甚觉怪异，令左、右中尉仇士良、鱼弘志率众宦官前去验看。李训见时机已到，急召宁节度使郭行馀、河东节度使王：“来受敕旨。”此二人均为李训亲信。然而，王却害怕得腿都发抖而不敢前来。此时，二人的部曲数百，皆手持兵器立于丹风门外，李训令人召之。可惜，惟有王的部曲应召，而郭行馀的部曲竟不入。
仇士良等来到左仗金吾厅，见韩约变色流汗，神色慌乱，便诧异地问：“将军何为如此？”忽然，风吹帷起，仇士良猛见里面藏有伏兵，又隐约传出兵器之声，心知不妙，急忙夺门而逃，奏告文宗说李训反了，并指挥宦官们挟着文宗出了含元殿。李训见事已败露，忙命金吾兵急追。李训竟独身攀住了文宗乘舆，请求文宗留步。文宗已被宦官劫持，为保全自家性命竟然斥责李训。宦官郝志荣乘机将李训击倒。仇士良等挟持文宗到了宣政门。李训见大势已去，便换上随从的衣服跃马而走。
甘露之变就这样失败了。失败的原因，关键在于李训、郑注勾心斗角，急立头功，且又未能控制禁军，亦无周密计划，再加上文宗临阵动摇，致使仇士良随机应变成功，转危为安，变被动为主动。
仇士良知道文宗参预了谋杀宦官，十分怨愤，常对文宗出言不逊，文宗也只能听之任之，惧不复言。仇士良命左、右神策副使各率禁兵五百，以搜捕贼为名，大肆杀戮。金吾吏卒六百余人皆被杀死，诸司吏卒死者千余人，“横尸流血，狼藉涂地，诸司印及图藉、帷幕、器皿俱尽”。宰相舒无舆易服单骑而逃，被禁兵追擒。就连年逾七十的宰相王涯，仇士良也不放过，硬是屈打成招，逼其手书，自诬谋反。将王涯亲属奴婢，一概收监。禁军借机勒索掠夺，坊市恶少趁乱也杀人剽掠，一时间，血雨腥风，尘埃蔽天。
朝日，百官入朝，“时无宰相御史知班，百官无复班列”。可见朝中官员被杀之惨重。文宗升坐紫宸殿，问：“宰相何为不来？”仇士良说：“王涯谋反系狱。”并呈上了王涯的自供书，文宗问左仆射令狐楚，右仆射郑覃：“是王涯的手书吗？”答：“是的。”事后，令狐楚对文宗表示，王涯谋反一事，未必可信。仇士良闻知，甚为不满，致使令狐楚未能入相。可以看出，仇士良已经控制了朝权。
然而，仇士良的大反扑并未停止。李训逃出京城后，直奔终南山，投奔老友、寺僧宗密。宗密本欲将其剃发为僧，使其免遭毒手，但众僧徒惟恐窝藏罪犯祸及山门，只好让其另寻生路。李训已无安身之所，只好投奔凤翔的郑注。途中被擒，取其首级送往京师。几天后，李训的首级在前，王涯、贾馀、王、郭行馀等人同被押赴刑场。仇士良命“百官临观，斩腰于独柳之下，枭首于兴安门外”。其亲属无论亲疏一概问斩，孩婴亦不例外，“妻女不死者没为官婢。”仇士良又密令凤翔留军张仲清斩除了郑注及其亲属。后又斩杀了韩约。
至此，仇士良将异己几乎一网打尽，“中书惟有空垣破屋，百物皆阙。”“仇士良等各进阶迁官有差。自是天下皆决于北司，宰相行文书而已。”仇士良利用甘露之变，大肆杀戮，尽斩异己，从而进一步控制了朝政。