永初元年(420年)，刘裕废晋恭帝，自立为帝，国号宋，定都建康，南朝开始。在执政期间，吸取前朝士族的专横教训，集中中中心，抑制强大并购，实施土壤破碎，整顿官员治理，重用贫困家庭，发展生产，轻赋薄赋，废除苛法，亲自听诉，振兴教育，策试诸州县秀才，举善景贤，多次遣使访民间疾苦，改善政治社会状况，结束阀门专政时代，恢复和发展南方农业生产。为元嘉之治奠定了坚实的基础，也为南朝的政治雏形奠定了基础。被明代大思想家李志誉为定乱代兴之君。他为江南经济的发展、汉文化的保护和发扬做出了重大贡献，创造了江左六朝最广阔的时期，被誉为南朝第一帝。
自偏安以来，东晋一直面临着北方的威胁。祖提、余亮、尹浩、桓温都先后北伐，但都没有成功。为了国家的实力，刘裕决定北上。
义熙五年(409)，南燕主慕容德去世，侄慕容超袭位置，纵兵肆虐淮北，俘虏晋两郡太守，驱掠百姓千余人。于是刘裕上表北伐。三月，他带领晋军向北前进。
南燕大将公孙五楼见晋师威猛，向慕容超建议大岘(今山东沂县)，坚壁清野，但被拒绝。刘裕看到时机越过大岘山，一举攻克。随后，晋军士兵在刘裕的亲自鼓励下迅速进攻，逼近燕都广固(今山东益都)。慕容超逃进城坚守不出。双方进入相持阶段。晋军一方面高垒重坑，包围广固团，用燕人的粮食丰富军用；一方面，招降纳降，采取分化瓦解的策略。南燕将军桓遵兄弟和徐州刺史段红相继归属，尤其是尚书郎张刚被俘，对刘裕非常有利。最后，他用自己设计的攻城器械赢得了燕都，活捉了慕容超。刘裕以广固久守不降为由，入城后杀王公以下三千人泄愤。
齐境克服了这一点。刘裕本想停下来，清理河洛，但孙恩的姐夫卢循收集了孙恩的残部，并在豫章（今江西南昌）击败了晋军。刘裕不得不回到朝鲜。回到北京后，督察镇压卢循，消灭刘毅和桥纵分离长江中上游的势力，迫使司马休之，使南方出现了百年来从未统一过的局面。
义熙十二年(公元416)一月，后秦主姚兴死，姚宏继位，内部叛乱迭起，政权不稳。刘裕认为这是灭亡后秦的好机会。刘裕图以晋室的名声安抚了北方人民，所以他想以司马德文的名义北伐。因此，司马德文出兵参观晋室山陵。最后，刘裕带领司马德文出发。八月，刘裕以刘穆之任尚书左仆射，内总朝政，外供军粮，率军分四路北伐。九月，刘裕抵达彭城。龙翔将军王镇恶、冠军将军檀道济领兵由淮、飞转许、洛，后秦诸屯守风降附，晋军进展迅速。十月，王镇恶军占领洛阳。
第二年正月，刘裕留的儿子刘义龙守卫彭城，率领大军北上。此时，北魏派出10万重兵驻守河北，游骑骚扰晋军。刘裕在行军中，虽然常设奇阵或用弩击败魏军，但进军速度缓慢。洛阳进入潼关后，王镇恶军为秦主力守险，檀道济军粮道也为秦将姚绍截断。晋军暂时处于危险之中。王、檀向刘裕求助，而刘裕则为北魏军牵制，自顾不暇。幸运的是，在当地人民的帮助下，潼关晋军转危为安。七月，刘裕摆脱魏军，进入陕城；前锋沈田子攻入武关，进屯青泥(今陕西蓝田)。八月，刘裕到潼关，与诸部会合。
秦主姚宏计划先消灭沈田子军，然后抵抗刘裕，以缓解双方敌人的危机，于是率先骑了数万辆急青泥。沈田子军原本是疑军，但有1000多人，但他们各自为战。他们非常勇敢。几次袭击使姚宏输给了长安。此时，王镇恶突破潼关防线，率领师资直进，一举攻占长安城。姚宏率领大臣投降.