刘裕，即日后的宋武帝，字德舆，小名寄奴，其先祖是彭城人，后来迁居京口。出身贫寒，年轻时干过力气活，做过小买卖以赚钱养家糊口。
但动**的时代给了他机遇。在战乱中，刘裕投身北府，因骁勇多智而被孙无终赏识。桓玄击败司马道子后，清理北府名将，因当时刘裕有才而又身份低微，遂未被杀害，成为桓玄剪除刘牢之旧部后所重用的对象，刘裕的命运也自此发生了巨大的改变。
桓玄称帝后，知道刘裕的军事才能，一直想用他平定中原。当时有人对桓玄说：“刘裕龙行虎步，视瞻不凡，恐不为人下，宜早为其所。”桓玄却回答：“我方欲平**中原，非刘裕莫可付以大事，关、陇平定，然后当别议之耳。”也就是说，桓玄并不是不想杀刘裕，只是他知道，自己已经杀了北府旧将，此时能平定中原的就只有刘裕一人。他不过是想在关、陇平定后再杀刘裕罢了。但就是桓玄这种心态，终于养虎遗患。
公元404年2月，刘裕以游猎为幌子，与何无忌等收集部众，联合了魏咏之、檀道济、周道民、田演等27人率众起兵，重建北府，在京口、广陵杀死了桓修和桓弘。自刘裕起兵后，桓玄知“刘裕为一世之雄”，故天天忧惧不安。不久，刘裕与吴甫之会战于江乘，吴甫之战败被杀。接着，刘裕进军至罗落桥，与桓玄部下皇甫敷激战，刘裕军愈战愈勇，所向披靡，最后皇甫敷兵败被斩。桓玄听得战报，派桓谦屯兵东陵口，卞范之屯覆舟山西，兵有两万。刘裕率其部饱食之后，将所有余粮全部扔掉，以作破釜沉舟之计，轻装上阵，进到覆舟山东，于山上遍插旗帜，作疑兵之计。双方交战后，刘裕镇定自若，冲杀于前阵，于是，士兵无不殊死奋战，以一当百，最终大破桓玄军。
桓玄见大势已去，留殷仲文守住石头城，自己率子弟沿长江南下。刘裕击败桓玄，从而掌握了朝廷。随后，刘裕追击苟延残喘的桓玄，在峥嵘州再次将其击败。桓玄不久在益州被杀，刘裕则又用了五到六年的时间剪除了桓氏的残余势力。公元411年，刘裕又平定了长达10年之久的孙恩和卢循领导的五斗米道暴动，长江以南由此得以平定。