长寿元年（692）一月，酷吏来俊臣诬告狄仁杰谋反。武则天不察详情，就把做了四个月宰相的狄仁杰罢相下狱。任用酷吏，以巩固政权，是武则天的统治手段。这些酷吏专门制造所谓谋反大案。他们制造许多刑具，对被告严刑逼供。这次，来俊臣为了诱使狄仁杰承认谋反，要他承认愿为武后的臣下就可免去他死罪。狄仁杰为了免于冤死，等待时机，他招认了谋反罪。他说：“大周革了唐室的命，万物重生，我们是唐朝的旧臣，谋反确是实情。”其他几个被指控谋反的大臣，除魏元忠外，都和狄仁杰一样，全都服了罪。来俊臣见服了罪，没有用酷刑，只将被告收监。一天，判官王德寿受来俊臣指使，诱逼狄仁杰招供宰相杨执柔是同党，狄仁杰十分气愤，说：“皇天后土，叫狄仁杰去干这种事情么！”说罢以头触柱，血流满地。王德寿害怕至极，不敢再说了。
狄仁杰承认谋反，来俊臣等也就放松了对他的看管，狄仁杰趁此机会，从狱吏那里借来笔砚，偷偷撕碎被子，写了一幅冤状，缝在棉衣里，请狱吏把棉衣送到家里。
狄仁杰的儿子狄光远收到棉衣，折开棉絮见到父亲所写的冤状。急忙向武则天告发。武则天召来俊臣询问，来俊臣对武则天说，狄仁杰下狱，并未动过刑，他住的地方也很舒服，如果没有事实，他哪会承认谋反。武则天犹疑未定，派通事合人周綝到狄仁杰处察看。来俊臣要狄仁杰穿好朝服，会见通事舍人周綝，又假造了一份请求赐死的《谢罪表》，让周綝上交武则天。周綝核查，完全受到来俊臣的利用。就在这关键时刻，凤阁侍郎乐思晦的儿子被武则天召见，他控告来俊臣谋害了他的父亲。他说，国家的王法为来俊臣所欺弄，任何一个亲信大臣，来俊臣都可以逼他承认谋反。听了这个才九岁小孩的话，武则天有所醒悟。他召来狄仁杰，亲自问他为什么承认谋反。狄仁杰回答说，不承认早就死于酷刑之下了，哪里还有机会向陛下辩白？”武则天又问，为什么写《谢罪表》。狄仁杰告说，并无此事。武则天这才真相大白，释放了狄仁杰等七名同案人。虽然如此，武则天还是没有让他们官复原职。狄仁杰贬为彭泽县令，同案有的还流放到了岭南。
再度为宰相
狄仁杰当县令的彭泽县（今江西九江），是个穷地方。他一到任，亲眼看到老百姓穷苦不堪，就向武则天上疏，陈述百姓困苦，乞免租税。他在疏中说：“常年纵得全熟，纳官之外，半载无粮，今总不收，将何活路？”
万岁通天元年（696），北方契丹孙万荣率军攻陷冀州，杀死刺史陆宝积，屠杀官兵数千人。契丹兵进而又攻打瀛州，整个河北为之震动，人心恐慌。武则天下诏擢升彭泽县令狄仁杰为魏州（今河北魏县、大名县等地）刺史，前去平息战乱。狄仁杰上任后知道，前任刺史独孤思原因害怕契丹突然来袭，把老百姓全部迁入城里，修补城墙，巩固城防。与此做法相反，狄仁杰上任后打开城门，让老百姓出城耕作。他宣称，敌人离这里还很远，不必这样惊慌。如果敌军到来，我自有退敌制胜之策，无须烦扰百姓。契丹听说狄仁杰到了魏州，慑于其威名，未敢冒犯，不战自退。魏州官民对狄仁杰的气势和胆略十分敬服，他们感谢狄仁杰的德政，为他立了碑。不久，狄仁杰改任幽州都督。武则天赐紫袍、龟带，并自制金字十二于袍，以表彰狄仁杰的忠心。
神功元年（697），狄仁杰晋升为鸾台侍郎、同凤阁鸾台平章事，第二次做了宰相。
复相后，狄仁杰面临第一个大问题是派兵镇守疏勒四镇。当时王孝杰率军大破吐蕃军，夺回了西域的龟兹、疏勒、于阗、碎叶四郡，并在龟兹设安西都护府，派军驻防。这四镇是唐朝的西疆要塞。然而，狄仁杰认为，派兵驻戍四镇不是上策。因而他上疏朝廷，陈述用兵荒外，争不毛之地，可谓无益可得，无利可图，倘若一味用兵，必然耗费国家大量资财。狄仁杰建议，可模仿贞观年间唐太宗册封阿史思摩为可汗的做法，由他镇守四镇的旧例，封阴山贵族阿史那斛瑟为可汗，委坐四镇。这样既省了大笔开支又能达到安边的目的。武则天并没有采纳狄仁杰的意见。
圣历元年（698）八月，狄仁杰再次得到提升，拜为纳言，兼右肃政御史大夫。同年，北方东突厥进犯河北，攻掠定州（今河北省定州市）、赵州（河北赵县），杀死官兵无数。武则天命太子为河北道元帅，狄仁杰为河北道行军副元帅，征讨东突厥，武则天亲自送军队出征。狄仁杰率十万大军猛追，东突厥迅速逃回漠北，曾经饱受突厥驱使的百姓恐惧至极，生怕受到官兵杀害，纷纷逃匿。武则天任命狄仁杰为河北道安抚大使，妥善处理这一问题。狄仁杰上疏武则天，请求把这些百姓一律赦免，不加追究。他提醒武则天：“边远有事，还不足虑；如内地不安，就是大事了。”这是狄仁杰处理国家大事的出发点：努力淡化和消解矛盾，防止矛盾激化，力求国内的稳定。武则天采纳了狄仁杰的建议，对被突厥驱使的百姓一律不问罪，许多逃匿的百姓纷纷回家。狄仁杰大量发放粮食，救济穷困百姓，百姓很快安定下来。狄仁杰还下令，严禁官兵侵扰百姓，若有违犯，定斩不赦。在狄仁杰安民做法的感召下，河北道很快安定下来。狄仁杰回朝后，被授予内史。
武则天改唐为周，当上女皇帝后，萦绕在她心头的问题是：由谁来继承她的大业。唐睿宗虽是她的亲生儿子，又赐了武姓，但他毕竟是李唐王朝的后代。如果将她的侄子武承嗣或武三思册立为太子，两人又不具备品德和才能，不可能成为贤明君主。武承嗣在武则天改唐为周后，也蠢蠢欲动，想当太子，武则天对此也犹豫不决。狄仁杰趁此机会，想说动武则天。他说：“太宗皇帝不避风霜，甘冒枪林箭雨，九死一生，方平定了天下，创立大唐基业，传给后世子孙。先帝驾崩时，把两位皇子托付给陛下。陛下现在打算把天下移交给别人，这恐怕有违天意吧！况且，姑妈与侄儿，亲娘与儿子到底谁亲？立儿子为太子，皇位由儿子继承，陛下百年之后牌位送到皇家祖庙，陪伴先帝，代代相传；皇位如由侄儿继承，我从未听说过侄儿当皇帝把姑妈牌位送到皇家祖庙去的！”狄仁杰的话说到了武则天的心坎上，她无言以对，只好说：“这是我的家务事，你不要管。”但狄仁杰还是说下去：“王者以四海为家，四海之内，何者不为陛下家事！君为元首，臣为股肱，义同一体。况臣备位宰相，岂得不预知乎！”他还进一步启发武则天：“依臣看，天意和百姓都没有厌弃唐朝。匈奴犯边，梁王武三思公开招募勇士，一个多月还没有招足一千，后来庐陵王出面招募，不到十天功夫，就有五万人报名。由此可见，现在要立非庐陵王不可！”
后来，鸾台侍郎王方庆、内史王及善等也提出立庐陵王为太子的建议，武则天才有些心动。狄仁杰又说服张易之、张昌宗兄弟，劝武则天立庐陵王为太子。至此，武则天才将庐陵王接回，立为太子。
桃李俱芬芳
狄仁杰为相，善于举贤任能，他先后荐举桓彦范、敬晖、窦怀贞、姚崇等数十人，有的后来当了宰相，如姚崇能够“独当重任，明于吏道”，是唐玄宗时有名的宰相。有一次，武则天要狄仁杰推荐人才。狄仁杰说：“必欲取具有卓越才能的人，那么有荆州长史张柬之，其人真宰相才。”于是武则天擢升张柬之为洛州司马。不过几日，武则天又问狄仁杰谁能当宰相。狄仁杰问，先前推荐的张柬之为什么还没有用。武则天说，不是已经用了吗？狄仁杰说，我推荐张柬之可做宰相，不是推荐他做司马。于是，武则天迁张柬之为秋官侍郎，不久又任命为宰相。
知人善任，用其所长，是狄仁杰的用人特点。契丹部落将领李楷固、骆务整归降唐朝后，有些大臣上表要求对他们处以极刑，诛灭九族。狄仁杰则上疏请求赦免李楷固、骆务整，武则天采纳了他的建议，不但赦免了他们，还任命李楷固为左玉钤卫将军、骆务整为右武威卫将军，派他们率军攻打契丹残余部落。得胜回朝，武则天非常高兴。她在庆祝平定契丹的庆功会上当着文武百官的面，祝贺狄仁杰说：“这都是你知人之明！”
狄仁杰举人，以德才为重，真正做到内举不避亲，外举不避仇。有一年，武则天要每位宰相各推举尚书郎一名。狄仁杰推荐其子狄光嗣。后拜为地官员外郎，很是称职。武则天称赞他有春秋祁奚举亲的遗风。
因为狄仁杰知人荐才，当时人赞誉他：“天下桃李，都在狄公的门下了。”狄仁杰说：“荐贤为国，非为私也。”