战国时期，晋国的国君晋献公立他的小儿子为太子，把他的另外两个儿子夷吾和重耳赶到国外去。
重耳在国外流亡了19年，到过许多国家，后来到了楚国。
楚成王一向敬重公子重耳，认为他迟早会回到晋国执政的。楚成王举行盛大宴会，热情招待了重耳。酒喝得正高兴，楚成王问重耳：“公子如果回到晋国执政，打算怎样来报答我呢？”机灵的重耳一听，知道他要的不是一般的礼物，是要为他向北扩张，称霸中原给予支持。重耳想了想说：“假如我能回到晋国执政，希望我们两国能友好共处。万一两国打起仗来，我一定指挥我的部队向后撤退三舍（古代行军，30里为一舍。向后撤退三舍，就是后撤90里），作为对大王恩惠的报答。如果我这样做了，还是不能得到您的谅解，我也只能竭尽全力，和您拼杀了。”
重耳的话，软中有硬。楚成王听了，认为重耳志向远大，心中很佩服他。第二年，重耳在秦王的帮助下回国，夺取了王位，当上国君。
过了几年，晋国与楚国为了争夺霸权，发生了一场战争。两国军队相遇时，重耳命令晋军后撤90里，报答楚成王的恩惠。由于楚军不肯罢休，继续挺进，晋军被迫反击，将楚军打败了。后来，人们就用“退避三舍”作成语。
出自《左传·僖公二十三年》：“晋楚治兵，遇于中原，其辟君三舍。”
舍：古时行军计程以30里为一舍。意思是主动退让90里。比喻退让和回避，避免冲突。