大历十四年（779年）五月，唐代宗病逝于长安宫中。皇太子李适即位，时年三十八岁，即唐德宗。德宗年富力强以强明自任，他有意消除唐朝中后期藩镇割据的混乱局面，即位之初就着手发动削藩战争，致使藩镇将领矛盾激化，举兵反叛，“二帝四王之乱”接连爆发。
建中二年（781年）平卢、淄青节度使李正己病死，其子李纳秘而不发封锁消息，自领军政。八月始发丧，请袭父位，唐德宗不许，李纳因此反叛朝廷。李纳派手下将领高彦昭守濮阳，十月，李纳攻打宋州（今河南商丘县），并遣其将领王温会同魏博节度使田悦手下将领信都承庆共攻徐州（治彭城，今江苏徐州市），徐州刺史李淆率兵抵抗，朝廷命时任宣武节度使的刘玄佐与神策军将领曲环增援李洧，大败叛军，同时打通东南漕运，史称“唐击李纳徐州之战”。
建中三年（782年），唐德宗命淮西节度使李希烈兼任平卢、淄青节度使，奉命征讨割据淄青谋反的李纳。但李希烈顾及自身利益考虑，不但按兵不动，反而与李纳通谋，并与叛乱的河北藩镇勾结。李纳欲谋反时，曾想结交拥有重兵的宣武节度使刘玄佐。每当李纳使者来此，玄佐皆“厚待之”，表面不露声色，但对李纳的不轨行为，早有察知，先有准备。后来李纳果然反叛，刘玄佐围李纳于濮州(今山东鄄城〉，击败李纳军队。李纳见失败已无可挽回，决定突围，退回郓州（今东平东北）。此前一直按兵不动的淮西节度使李希烈对朝廷假言讨伐，其实暗中与李纳私通，他心里明白自己就是下一个被讨伐的对象。眼见李纳已被刘玄佐击败，李希烈于是加紧了暗中准备，图谋叛乱。而此时，身为宣武节度使的刘玄佐虽然手握宣武军，对李希烈可能造反的意图也有所察觉，并及时将获取的情报上报朝廷。原本朝廷制订的战略是李希烈与刘玄佐合力进攻李纳叛军，但李希烈却找各种理由推诿，按兵不动观察形势，暗地支持叛军。明眼人都能看出来，李希烈已生异心，奈何李希烈身兼淮西、平卢和淄青三个地区的节度使，手握二十万精锐部队，实力非常强大。朝廷也是颇为忌惮，一面委派刘玄佐继续监视李希烈的动向，一面采取安抚政策，意图慢慢削弱李希烈的实力。
一年后，也就是建中四年（783年），大唐实力最强的节度使李希烈叛变，出军攻击汴州，自称楚帝。由于之前宣武节度使刘玄佐已经做了准备，加上战术得当，故拼死将李希烈击退，汴州没有落入叛军手里。本是形势好转之际，而此时却发生了一件谁也没有想到石破天惊的突发事件，大唐的都城长安发生兵变，这就是改变唐朝历史危害不下于安史之乱的“泾原兵变”事件。
泾原兵变发生之后，兵变叛军随即攻陷长安，唐德宗被迫离开长安仓皇而逃至奉天（今陕西乾县），并被兵变叛军包围一月馀，史称“奉天之难”。此时人心动摇，而李希烈趁机又不断攻击汴州，形势万分危急之际，豪爽忠君的宣武节度使刘玄佐率部殊死抗击，屡次获胜，拯救大唐于危难，受封为汴宋节度使。不久之后，泾原兵变得以平息，李希烈败走。唐德宗回到长安，加封刘玄佐为陈州诸军行营都统，特御赐姓名为刘玄佐，以示恩宠。同年，刘玄佐亲自入朝进贡，再次被加封为泾原四镇北庭等道兵马副元帅，检校司空，实封八百户。
唐贞元八年（792），刘玄佐死于任上，时年58岁，追赠太傅，谥号壮武。