代宗即位时，叛军再度攻陷了洛阳，大难未平。因此，他颁下诏书说：“国之大事，戎马为先，朝有旧章，亲贤是属。故求诸必当，用制于中权，存乎至公，岂惭于内举。特进、奉节郡王适可天下兵马元帅。”李辅国因有翊戴之功，由兵部尚书、判元帅行军司马、闲厩使进号为尚父、司空兼中书令，程元振进为右监门将军。 　　李辅国居功自傲，骄横狂妄。他对代宗说：“大家但居禁中，外事听老奴处分。”代宗愤然不平。六月，即解除了他的兵部尚书、元帅行军司马之职，并出居宫外。不久，又派人暗中将他杀死，消除了这一祸害。①十月，代宗将对叛军发起强大攻势，命雍王李适为天下兵马元帅，欲以郭子仪为副元帅，由于程元振、鱼朝恩从中作梗而止，只得以朔方节度使仆固怀恩同平章事兼绛州刺史，领诸军节度行营为雍王之副，会合回纥骑兵进击洛阳叛军，河南等道副元帅李光弼也率军参战。官军于洛阳北横水大破叛军，斩敌六万人，俘虏二万人，遂收复了东都。史朝义节节败退，官军乘胜追击。河北叛军各节度使见大势已去，纷纷向官军投降。广德元年（763）正月，史朝义见四面楚歌，遂逃至温泉栅（今河北卢龙境，走投无路，被迫在林中自缢而死。历时八年之久的安、史之乱，至此终于平定了。