东晋成立后，中原已沦落为胡人之手。虽然皇室和大多数家庭只想偏安江南，但爱国者往往把北伐中原、规复失土作为自己的责任。因此，东晋自始至终都有北伐行动，祖蒂、余亮、尹浩、桓温、刘裕等多次行动。 最重要的是祖提、桓温、刘裕先后北伐。
东晋名将祖提首先北伐。祖逖(266─321)，字士稚，范阳浔县(今河北来水)人。西晋末年，北方大族曾与刘坤同为司州主簿，两人同床共眠，闻鸡起舞，志向远大。永嘉之乱后，祖提率亲数百家渡江，居京口(江苏镇江)。。在东晋建国之前，他向司马瑞要求北伐，并被任命为豫州刺史。祖提率部曲百家渡江，建兴元年(313年)，中流击船，发誓要收复中原。当时中原县系统已经崩溃，到处都是码头墙。祖提采取了灵活的策略，招抚码头墙，反复打破石勒，使黄河南部成为晋土。当祖提练兵积谷，为河北进取做准备时，晋元帝司马瑞担心祖提的发展对他不利，于是任戴渊为征西将军，都督北方六州军事，控制祖提。眼见北伐无成，祖提忧愤成病，死于军中。祖提死后，王敦和苏军在东晋连续发生混乱。朝廷忙于混乱，没有时间北顾。石勒抓住机会占领了河南。晋军被迫退到淮南，祖提北伐的结果也消失了。
永和元年，东晋王朝任命桓温为荆州刺史，持有长江上游兵权。次年(346年)，桓温乘成汉政权腐败，内部不稳时，率军沿江直上，率军入蜀。桓温三年(347年)摧毁了地人李氏的汉国，平定了蜀地，声势磅礴。桓温(312-373)，字元子，东晋将军，龙亢(今安徽怀远)人。娶晋明帝女南康公主为妻，拜徐都尉，曾率军三次北伐，想收复中原。五年来，北方再次混乱，桓温多次要求北伐。六年来，朝廷以扬州刺史殷浩为中军将军，都督五州军事，并委以北伐重任，试图对抗桓温。不幸的是，殷浩大败而回，后来更被免为普通人，由内外大权遂集桓温一身。
桓温第一次北伐前秦，在永和十年(354年)，率先骑了4万多人，甚至打破了彝族傅健军，直接抵达霸权(今陕西长安东)。当地居民「持牛酒迎温于路人十八九，老人感慨地说：『今天不想复见官军！』」桓温因军粮不继，未能征服长安，返回襄阳。桓温第二次北伐，永和十二年，击败羌族贵族姚襄，收复洛阳。在隆和元年(362年)，桓温建议晋穆帝返回洛阳；还建议西晋末年南迁的土妾全部返乡。但从皇帝到达官贵人，都安于江南一角，不愿北还，纷纷反对。桓温的建议没有被采纳。前燕利用东晋大臣的相互猜疑和约束，占领了洛阳。第三次北伐是在太和四年(369年)，桓温率步骑5万人大败前燕军，进入方头(今河南省军县)。但前燕得到前秦的支持，截断了晋军的粮道，桓温不得不退兵。在退役的路上，晋军被前燕骑兵追击，伤亡3万人。 太和六年(371年)，桓温废帝奕为东海王(即海西公)，改立简文帝，自己以大司马镇姑姑为政，不久病死。东晋末年，北府将领刘裕控制朝政。占据山东鲜卑慕容氏南燕政权的时候，在东晋衰乱的时候多次入侵东晋边境。五年(409年)二月，慕容大掠淮北，刘裕兴兵北伐。
4月，率水军从建康北上，沿淮河，越大县(今山东沂水北穆陵关)，次年突破南燕都城广固(今山东益都西北)，收复青兖州，追捕慕容超，斩首建康。镇压卢循起事军七年(411年)。八年(412年)，刘毅被淘汰，诸葛长民、晋朝宗室司马休等可能构成威胁，异身势力被淘汰，后方得到巩固。九年(413年)，西攻桥纵，收复巴蜀。秦主姚兴病卒十二年(416年)后，子姚红继立，兄弟相杀，关中扰乱。刘裕乘机率大军分兵四路北伐后秦，进攻关洛。经过黄河，击败北魏军。第二年进入克洛阳，到潼关，命大将王镇恶直向长安，姚红投降，后秦亡。晋军收复长安，在少数民族统治下达百年的汉族人纷纷响应。这时，留在朝廷的尚书左仆射杀了刘穆之病。刘裕担心政权会落在别人手里，于是留下次子刘义真镇长安。王秀、王镇恶率兵1万余人协助，匆匆返回建康。长安留守军内讧，夏主赫连勃勃乘机夺取关中。虽然刘义珍被迫退出长安，但从潼关以东、黄河以南到青州，江淮流域得到了保障，这是祖提、桓温、谢安百年来从未实现过的。刘裕在朝廷中的声誉也达到了极点，从而实现了禅宗。
纵观东晋王朝，北伐之军虽然多次兴师北伐，但往往功败垂成，从未恢复中原，完成统一。原因是多方面的，首先是朝廷的多方约束。东晋王室怕北伐将军功高难制，所以对他们多方限制、监督，拒绝充分信任和支持。曾受晋元帝约束的祖提之北伐。桓温反对「永远根于南垂，废神州在龙漠」苟安的态度，要求也都是洛阳，「一切北徙」，但上表至十次均不得批准。其次，东晋世族多苟且偷安。当时，南方的皇室和北方世族都把江南当作人间的天堂，醉生梦死，贪图苟安，胸无大志。假如有些大臣认为「田宅不能复售，舟车得不到」，还都洛阳系「舍安乐之国，适应乱之乡」。江南当地的望族被朝廷重用，不希望皇室北回。南北世族多方排斥和遏制出身寒族的将领。
北伐失败的另一个原因是内乱频繁。东晋偏安江南，大权多握重臣悍将之手，导致内乱频发，如王敦之乱、苏峻之乱、桓玄篡立等，影响了北伐的根本计划。此外，北伐将军总是别有用心。在北伐将领中，有很多忠诚的人，比如祖提，但也有一些人，比如刘裕，有政治野心，权衡个人利益的得失，未能坚持北伐到底。除上述西晋因素外，北伐失败的重要原因是当时北方胡人武功颇丰。虽然五胡政权处于分裂争端状态，但整个北方都占据了它，势力巨大。胡人多勇敢，一时难以制服。