公元316年，在内乱外患的多重打击下，腐朽的西晋王朝灭亡了。随之而来的，是出现南北大分裂的历史局面。在南方，公元317年晋琅玡王司马睿在建康（今江苏南京）称帝，建立起东晋王朝。其占有现汉水、淮河以南大部地区。在北方，匈奴、鲜卑、羯、氐、羌等少数民族首领也纷纷先后称王称帝，整个北方地区陷入了割据混战的状态。在这个动乱过程中，占据陕西关中一带的氏族统治者以长安为都城，建立了前秦政权。公元357年，苻坚自立为前秦天王。他即位后，重用汉族知识分子王猛治理朝政，推行一系列改革政治、发展经济和文化、加强军力的积极措施。在吏治整顿、人才擢用、学校建设、农桑种植、水利兴修、军队强化、族际关系调和方面均收到显著的成效，在一定程度上使前秦国实现了“兵强国富”的局面。
在这基础上，苻坚积极向外扩张势力。他先后灭掉前燕、代、前凉等割据政权，初步统一了北方地区。黄河流域的统一，使苻坚本人的雄心越发增大。他开始向南进行扩张，在公元373年攻占了东晋的梁（今陕西南部、四川北部的部分地区）、益（今四川的大部分地区）两州，这样长江、汉水上游就纳入了前秦的版图。接着，前秦雄师又先后占领了襄阳、彭城两座重镇，并且一度包围三阿（今江苏高邮附近）、进袭堂邑（今江苏六合）。由是，秦晋矛盾日趋尖锐，终于导致了淝水大战。
苻坚让军事上的胜利冲昏了自己的头脑：孜孜于大起军旅攻打江南，统一南北。东晋太元七年（382年）四月，苻坚任命其弟为征南大将军。八月又委任谏议大夫裴元略为巴西、梓潼二郡太守，积极经营舟师，企图从水路顺流东下会攻建康。到了十月，苻坚认为攻晋的战略准备业已基本就绪，打算亲自挥师南下，一举攻灭东晋。
在兴师之前，苻坚将群臣召集到太极殿，计议发兵灭晋这一事宜。在这次殿前决策会议上，苻坚本人趾高气扬，声称四方基本平定，只剩下东南一隅的东晋犹在抗拒王命，现在他要亲自统率97万大军出征，一举荡平江南地区。群臣中少部分人附和苻坚的意见，秘书监朱彤奉迎说：陛下亲征，东晋如不投降只有彻底灭亡，现在正是灭晋千载难逢的良机。冠军将军慕容垂（鲜卑族）等人心怀复国的异志，也在会后鼓励苻坚出兵，推波助澜。
但是前秦的多数大臣对此却持有反对的意见。尚书左仆射权翼认为，东晋虽然弱小，但是君臣和睦、上下团结，这时尚不是进攻它的时机。太子左卫率石越也认为，晋拥有长江天险，又得到民众的拥护支持，进攻不易取胜。他们都希望苻坚能够暂时按兵不动，发展生产，整训部队，等待东晋方面出现间隙后，再乘机攻伐。但苻坚却骄狂地声称：“以我百万大军，把马鞭扔在长江中，也完全可以阻断长江水流，东晋方面还有什么天险可以凭恃的呢？”
苻坚见群臣反对他的攻晋决策，便结束朝议，退而与其弟阳平公苻融决断大计。苻融此人智勇双全，深得苻坚的信任。但这时他也不同意出兵，认为攻晋有三大困难：人心不顺；东晋内部团结，无隙可乘；前秦连年征战，军队疲惫，百姓厌战。建议苻坚放弃马上攻晋的计划。同时苻融也清醒地看到前秦表面强盛的背后，是民族矛盾、阶级矛盾的激烈尖锐。他向苻坚指出：如今鲜卑、羌、羯等族的人，对氐有灭国之深仇，他们正遍布于京郊地区，大军南下之后，一旦变乱发生于心腹地区，那时就追悔莫及了。为了说服苻坚，苻融还把苻坚所最为信任的已故丞相王猛反对攻晋的临终嘱咐抬了出来，可是苻坚都听不进去，固执地认为，以强击弱，犹“疾风之扫秋叶”，垂危的东晋政权可以迅速消灭。
为了劝阻苻坚南下攻晋，前秦的众多大臣进行了最后的努力。他们针对苻坚信佛的特点，通过释道安进行劝说。道安规劝苻坚不要攻晋；如一定坚持攻晋，您苻坚也不必亲自出征，而宜坐镇洛阳，居中调度，进攻和诱降双管齐下，以争取胜利。苻坚的爱妃张夫人和太子宏、幼子诜也都一再相劝，但是苻坚对这些依然置若罔闻，决意南下。
太元八年（383年）七月，苻坚下令平民每10人出兵1人，富豪人家20岁以下的从军子弟，凡强健勇敢的，都任命为禁卫军军官。并扬言说：“我们胜利了，可以用俘虏来的司马昌明（即晋孝武帝）做尚书左仆射，谢安做吏部尚书，桓冲做侍中。看情况，得胜还师指日可待，可提前替他们建好官邸。”志骄意满之态，溢于言表。
八月，苻坚亲率步兵60万，骑兵27万、羽林郎（禁卫军）3万，计90万大军，在东西长达几千公里的战线上，水陆并进，南下攻晋。东晋王朝在强敌压境、面临生死存亡的紧急关头，决意奋起抵抗。他们一方面缓解内部矛盾，另一方面积极部署兵力，制定正确的战略战术方针，以抗击前秦军队的进犯。
晋孝武帝司马曜在谢安等人的强有力辅弼下任命桓冲为江州（今湖北东部和江西西部）刺史，控制长江中游，阻扼秦军由襄阳南下。任命谢石为征讨大都督，谢玄为前锋都督，统率经过7年训练，有较强战斗力的“北府兵”8万沿淮河西上，遏制秦军主力的进攻。又派遣胡彬率领水军5000增援战略要地寿阳（今安徽寿县），摆开了与前秦大军决战的态势。
同年10月18日，苻融率领前秦军前锋攻占寿阳，生擒晋平虏将军徐元喜等人。与此同时，慕容垂部攻占了郧城（今湖北安陆县境）。晋军胡彬所部在增援的半道上得悉寿阳失陷的消息，便退守硖石（今安徽凤台县西南）。苻融又率军尾随而来，攻打硖石。苻融部将梁成率兵五万进抵洛涧（今安徽怀远县境内），并在洛口设置木栅，阻断淮河交通，遏制从东西增援的晋军。
胡彬的水军被围困，粮食供应接不上，就派士兵偷偷地去给谢石送信。不料这个去送信的士兵在穿越秦军阵地的时候，被秦军抓住了。这封信就落到苻融的手里。苻融赶紧派人把信送到在项城的苻坚手里。苻坚高兴极了，心想，果然不出所料，晋军怎么敌得过强大的秦军呢！他把大军留在项城，自己带了8000名骑兵，赶向寿阳。到了寿阳，他跟苻融一商量，觉得晋军肯定害怕了，不如逼迫他们投降，不战而胜不是更好吗？于是就派一个使者到晋军的营地去。
派谁去呢？苻坚认为派出的人一定要能说服晋军投降。于是，他们派几年前在襄阳坚决抵抗秦军后来被俘虏的朱序为使者。其实朱序虽然人在秦军，可心还是向着晋军的。他见了谢石、谢玄就像见到亲人一样亲热。他不仅没有为秦军劝降，反而向晋军提供情报、出主意：“苻坚他们百万大军还没有全赶到前线。趁这个机会你们必须赶快发起进攻，把他们的锐气打下去，还有希望取胜，否则就来不及了！”
经过再三考虑，谢石、谢玄采纳了朱序的建议，谢石、谢玄作出了派北府军袭击洛涧的决定。北府军名将刘牢之没有辜负大家的希望，5000精兵打了个秦军措手不及，四散溃逃。接着刘牢之带人马直奔硖石去救胡彬水军。谢石、谢玄指挥士气大振的晋军趁胜前进，一直到淝水（今淝河，在安徽寿县北）东岸，把人马驻扎在八公山边，对岸就是驻扎在寿阳的秦军。
洛涧大败对苻坚就像当头一棒，他还没有回过神来，晋军又到了对岸，他开始摸不着头脑了。他由苻融陪着登上寿阳城头向对岸望去，只见晋军营帐密密麻麻，人马往来，尘埃腾起，八公山上到处都是军旗，不知道有多少晋军。苻坚越看越眼花，把八公山上的草木都看作是晋军了。从此，历史上就留下了“草木皆兵”这句成语。
苻坚对苻融说：“晋军的确很强大，谁说他们弱的。”本来不可一世的苻坚一下子全变了。他命令秦军加强防守，不许轻举妄动。
晋军等了几天，看秦军没有动静，怕一直拖下去，秦军兵马来齐了，对自己不利。于是谢玄就派人给苻坚送去一封信，信上说：“你们的大军深入我们的阵地，在淝水边上摆开阵势，现在却按兵不动，这像在打仗吗？如果你们还准备打的话，不如稍稍往后撤一点，留出一块地方，让我们渡过淝水，双方好好较量一下，比比高低，行不行？有没有这个胆量？”
苻坚看完信，想了又想，就对将领们说：“要是我们不答应后撤，他们会以为我们胆小。要是撤的话，又让他们得逞了。我看不如将计就计，先腾出一点地方，然后趁晋军在渡河还没有站稳脚跟的时候，让我们的骑兵冲杀上去，肯定能把他们消灭。”于是就派人给晋军送信表示同意。
约定的日期到了。晋军严阵以待，准备渡河；对岸的秦军也作好了准备。苻坚一声令下，苻融就指挥秦军后撤。秦军向后移动了，撤出的地方渐渐大了，可是苻坚怎么也没想到秦军收不住脚，一直朝后撤。不对，这哪里是撤退，秦军越跑越快，分明是逃跑。原来这些秦军本来就不想打仗，这一阵子他们已被晋军吓怕了，担心晋军一上岸就把他们打个落花流水。
谢玄带领八千骑兵，趁势迅速渡过淝水，直接向秦军进攻。秦军吃过北府军的苦头，见这阵势已经怕了。再加上朱序趁秦军退的时候，大声叫喊：“秦军被打败了！秦军被打败了！”后面的士兵，看到前面的士兵在跑，也就加紧跑；前面的士兵回头看，后面的士兵在跑，也真以为已经打了败仗，于是更加拼命地逃跑。
苻融见形势不对，手握着剑想把队伍稳住。可是秦军仍然像潮水一般往后退来，真是兵败如山倒，怎么阻挡得了？他们把苻融的战马冲倒了。苻融想挣扎着起来，后面的晋军赶上来，一刀把他给杀了。这下秦军更乱了，像没头苍蝇一样四处乱逃。队伍后面的苻坚一看不好，骑上马拼命地逃。一支飞箭射来，正中他的肩上。他哪里顾得上疼痛，只顾催马狂奔，一直逃到淮北才停了下来。
秦军仍然在不顾一切地逃跑，被挤死、踩死的不计其数。他们听到风声和野鹤的叫声，也以为追兵来了，更吓得没命地狂奔。成语“风声鹤唳”就是这样来的。
晋军大胜、收复寿阳的捷报送到建康，谢安正在下棋。他看完捷报，随手往边上一放，仍然跟客人下棋。客人急着问是什么事，谢安好像不在意地说：“还不是几个孩子把苻坚打败了。”客人兴奋极了，跑着去把好消息告诉大家。
其实谢安也很激动。客人走后，他走进房里，迈过门槛的时候，把脚上木屐底下的齿也碰断了。
淝水大战，大大地削弱了前秦的力量。苻坚逃回到洛阳，剩下的军队只有十几万。正像王猛所预料的那样，鲜卑族的慕容垂和羌族的姚苌见到前秦势力衰落，都背叛了前秦，分别成立了自己的国家，就是后燕和后秦。苻坚最终还是被姚苌杀了。