由于中原战乱频仍，到处都是屠杀，百姓四处奔逃，寻找没有战乱的地方。蒲洪的部队驻扎在今天河南省黄河北部的部分地区，大约相当于今天的鹤壁市和安阳市。这个地方是离战乱最近，却最安全的地方。于是百姓纷纷投奔，蒲洪趁机征召军队，很快拥有三十万士兵。蒲洪觉得自己已经有足够的势力与其他军阀抗衡了，便自称三秦王，宣布独立。在称王之前，蒲洪算了一卦，卦象说要改姓为“苻”，才能做王做得长久。于是蒲洪便改做了苻洪，蒲姓这一宗族的全族也都改称苻姓。
这时候赵国的王朗和麻秋在洛阳发生火拼，两个人本来是战友，但冉闵颁布“杀胡令”后，王朗为胡，麻秋为汉。麻秋支持冉闵，把王朗的军队痛打了一顿，杀了八千羯胡士兵。王朗带着残部逃到襄国，投奔了石祗。麻秋则去投奔冉闵。但兵过枋头的时候遭到苻洪的伏击，麻秋不敌，只得投降。苻洪欣赏麻秋的军事才干，任命他为军师，并且时常对麻秋提到他一统天下的大志。麻秋本来心在冉魏，并不是真心降秦，表面上奉承苻洪，暗地里却利用一次请苻洪吃饭的机会，下毒毒死了苻洪。
苻洪死后，他的第三个儿子苻健秘不举哀，亲率五千精兵去袭麻秋。麻秋已经准备好起义，就等苻洪的死讯了，左等右等都没有苻洪是死是活的消息，突然苻健杀到，直入中军，麻秋不防，束手被擒。苻健在苻洪灵前杀麻秋为父祭灵，为父发丧。因为符洪临死前留下遗言说，谋取中原的英雄太多，秦国要平定中原不太可能，应当向西入关到陕西发展根据地。所以丧事之后，大家都请求向西入关。苻健却道：“从今不得再言入关之事，有再言者斩！”人们都很惊讶，不知道苻健打的是什么主意。苻健又把三秦王的王号去掉，只自称将军，并在枋头修起宫室，招集老百姓种田发展生产，大有在豫北长住下去的意思。
雍州刺史杜洪早就知道苻洪有入关之心，派重兵把守潼关及黄河各处渡口和险要。苻健继位后，杜洪仍是十分紧张，但听说苻健在豫北有扎根之势，也觉得有些奇怪，便派使者去试探苻健说：“你们的老家本来就在陕甘，我愿意把三秦之地让给你。”苻健说，我不去，那里太穷了。又领着使者到处逛了一圈说，你看我这里多富饶，吃得好穿得好，我干吗要去关中受苦。虽然我们苻家的老家在关西，可是离开那里很久了，我已经习惯这里的生活了。这样吧，咱们结个互不侵犯条约，和平共处，岂不更好？
使者回去后，说苻健在豫北玩得很开心，吃好的喝好的，每天跳舞唱歌玩游戏，还要和咱们签互不侵犯条约，看来没打算回关中。杜洪很高兴，对苻健也就不提防了。
到了来年八月，苻健收了粮食，立刻派弟弟苻雄和大哥的儿子苻菁分别带兵，迅速从潼关和轵关入秦。因为速度太快，苻菁渡过蒲阪津，直插到潼关的后方，杜洪竟然也没有发觉，只是发现了苻雄的军队，并派司马张琚在潼关迎敌。张琚与苻雄交战，却不防被苻菁抄了后路，大败而归。二军合兵一处，向长安进发。苻健也亲率一支部队赶来。
三军共有部队十余万，来到长安城下。杜洪也亲率十万大军出城迎敌，双方互攻了三天，苻健大胜，乘势杀入长安。杜洪与张琚率败兵逃奔司竹（今西安市周至县司竹镇）。
苻健进入长安后，立刻废除后赵的一切乱七八糟的刑法，免去一切重税和徭役，重新制定法令，并且搜罗人才，提倡节俭，三秦风气为之一变，百姓的负担比以前也大大减少，国力渐渐得到恢复。苻健遂于晋永和七年（351）正月丙辰称天王，国号为大秦，史称前秦。第二年，张琚杀杜洪自立。苻健又令苻雄攻破司竹，斩杀张琚。
中原这边，仍是赵、魏、燕、晋四国攻来攻去，打成一团。
公元350年十一月，冉闵派十万大军进攻襄国。石祗和石琨坚守城池。魏军猛攻四个多月不能破城，冉闵干脆绕着襄国城筑了一圈石墙，然后在石墙外开垦农田，盖起房子，准备长期住下去了。
石祗一看魏军这么干，害了怕，毕竟城里面种粮不像城外那么方便，一困三年五载的还不都饿死？于是把自己的皇帝号去掉，改称赵王，派太尉张举去蓟城向燕国请求援兵，并且答应事成之后送传国玉玺，尊燕王为帝；又命令中军将军张春去滠头，请姚弋仲来援。
两边的求援都很顺利。姚弋仲念石虎旧情，派世子姚襄率三万铁骑来救。燕王慕容俊听说只要和后赵联兵灭了冉魏，后赵就向自己称藩做臣，也派御难将军悦绾，率精兵五万去救襄国。
冉闵听说两路援军向自己杀过来，知道硬打的话恐怕胜负难料，于是也实行外交策略，派从事中郎常炜去燕国求和。
常炜求和的理由是燕赵两国是世仇，打了几十年仗了，如今冉魏替燕国灭赵国，燕国何必要救这个昔日的仇人。
燕王直接打开天窗说亮话：“人家赵国去帝号献玉玺，尊我为帝，愿为臣藩；你冉魏已经自称皇帝，摆明了是打算一统天下。我将来还得向你称臣，你说我能帮谁？”
常炜说：“你想想邺城才是赵国首都，玉玺明明是在我们邺城呢，怎么会在襄城？再说了，商汤可以放逐夏桀，武王可以讨伐商纣，曹孟德可以代汉自立，建立曹魏。我们主公当皇上惹着谁了？为什么不能当皇帝？”说得燕王哑口无言。
常炜虽然给魏国长了面子，但并没达到使燕国罢兵的目的。燕军和姚军一齐去攻魏军，赵国的军队也出城里应外合，魏军大败，十万人只剩下一两万，狼狈逃回邺城。
姚襄完成了任务带兵回到滠头，悦绾则还有一个任务没完成，就是向石祗要传国玉玺。石祗装糊涂道：“我说过给你们燕国玉玺么？应当没有吧。玉玺又不在我们这里，在邺城呢，我如何给你？这么办吧，你们自己去邺城取吧。”
悦绾回报燕王，燕王才知受骗，那个赵国使臣张举还在燕国当人质呢，当然立刻就被砍了祭旗，然后把常炜放了。
石祗打了大胜仗，又派大将刘显率八万大军反过来攻打邺城。冉闵刚刚打了败仗，手里头也没多少兵了，遂把城中所有的将士两万余人集合起来，冉闵登高悲壮地说道：“我们刚打了败仗，羯兵又来紧逼。生死存亡，在此一战。如若不胜，我汉人将在中原亡种。”
众将军群情激奋，振臂高呼：“愿死战！愿死战！”声音直达九霄。
冉闵遂带所有军队出城，派大将军董闰率三千弓弩手埋伏于左翼，车骑将军张温率三千弓弩手伏于右翼，自率三千骑兵为敢死队，其余军队布于阵后。
刘显带八万军来到后，见魏军并不守城，而是出城列阵，又没有多少兵，笑冉闵自己出来找死，带八万大军鼓噪而进。魏军既不退也不进，一直等到赵军攻到百步的时候，突然梆子响成一片，董闰、张温各率弓弩手奔出来齐射，箭如飞蝗骤雨一般，登时射倒刘显前军数千人，刘显的前军便往后退，后军却往前拥，人挤人，人撞人，乱成一锅粥。冉闵立刻率三千敢死骑兵冲入敌阵，左杀右砍，以一当十。刘显的军队被杀得哭爹喊娘，如潮水一般向北退去。魏军两万兵马一路追杀，刘显一败再败，被冉闵逼得实在没有办法了，只好投降。冉闵命刘显继续带着残兵，假装败回襄国，然后发动兵变。
刘显依计回襄国，兵变杀死石祗及太宰赵庶等大臣。石琨则带着全家逃走。东晋永和七年四月，后赵灭亡。后赵虽亡，各州郡的将帅还都统率着军马，这些人大多为羯族，当然不能投降见胡人就杀的冉闵，所以北边的就投奔燕国，西边的就投降大秦，南边的则归附东晋。其中姚弋仲投降东晋，于第二年病亡，其子带着父亲的棺椁弃山东之地来到东晋。石琨也携妻儿家小投奔了东晋，可他忘了石家和晋国有着天大的仇恨，石勒和石虎就是灭亡西晋的元凶祸首。东晋如何能容得下他，遂把石琨全家杀死。石虎通过自己坚持不懈的努力，真正做到了断子绝孙。
本来冉魏可以有迅速壮大的机会，却由于他的民族政策，失去了大批本来可以依附于他的人，自己打得头破血流，损失殆尽，最终的结果却是壮大了周围的割据势力。同时冉魏的称帝政策也很不得人心，东晋讨厌他，前燕防备他，前秦也没有把他当朋友。冉魏虽然几乎总是在打胜仗，但无论从内部实力上，还是外交手段上，他都是失败者，结果是越打越少，越胜越弱。
刘显杀了石祗，却不肯再降冉闵，自己搞起割据。冉闵亲自率兵攻打刘显，刘显手下大将军曹伏驹投降献城。冉闵攻入城中，杀刘显及百官，暂时平定了中原。但中原攘乱已久，很多地方百里无人烟，没人种粮，到处饥荒。冉闵于是带兵去常山（今河北省石家庄市北三十里处，太行山脚下王定县）和中山（今河北省西部太行山脚下平山县）一带筹粮。
燕王见冉闵只带一万步兵弃险外出筹粮，便以慕容恪为帅，慕容评、慕容军、慕舆根、鲜于亮、高开等为将，选精兵十万南下，意图包围冉闵军队，一战而得中原。
冉闵手下人都劝他回去守城。但冉闵坚持出战，准备趁慕容恪的大部队未到，前锋立足未稳的时候，打慕容恪一个措手不及。董闰、张温、刘茂、刘群等人再三劝阻，冉闵不听。刘茂着急了，大骂道：“你算是英雄么？简直是匹夫！连当前形势都看不清，别说是争天下了，此战你就将有去无回。”说完就自杀了。
冉闵被刘茂这一招给镇住了，再加上底下人苦劝不止，他决定不去迎击而是调转军队回去守城。冉闵先退到安喜（今河北定州市），慕容恪随后追到；冉闵弃城再退向常山，慕容恪又追到；冉闵再退到魏昌（今河北无极县），慕容恪也丝毫没有停步的意思，继续攻城略地一直杀到魏昌。
冉闵本来就憋了一肚子气，终于忍不住了，回军去战。冉闵打仗是这样：派盾牌手在最前面，后面埋伏弓弩手，再后是骑兵。对方冲过来时，盾牌手护住己方不受对方弓箭的袭击，等对方杀到一定距离时，用急弩猛射。弩虽然不如箭射得远，但比箭频率高，速度快，准确度高。对方往往被弩射得乱了阵脚。然后盾牌手和弩箭手往两边一闪，骑兵从阵中杀出，直入对方中军。如果对方有生力军来援，再回阵固守，然后等对方再进攻时，重复刚才的打法。所以燕军和魏军打了几仗，并没有讨到什么便宜，反而伤损了不少士兵。
这种战法让慕容恪很苦恼，后来他也想出一个办法。就是从军中选出五千大力射手，人马都披上重铠甲，每五十骑一排，每排用铁锁连环。第一排是弓弩，第二排是长枪，以此类推，一共是一百排，列成方阵，号称“连环马”。连环马阵杀向魏军，魏军的弩便不起作用了。远处时双方用箭互攻，倒是魏军先吃了亏，等到了近前，那使长枪的士兵直挺挺地把枪撞来。魏军根本抵挡不住，被刺死踩死。后边的骑兵看厉害也赶紧让开。
但魏军训练有素，等这排连环马过去，又重新回到原地，继续列阵。后面冲来的燕军又遇到了以前的打法，先被狂射一阵，然后又被骑兵冲破。燕军因为刚才见到自己的连环马厉害，以为没事了，所以冲得更前，反被射死射伤得更多。而那些连环马因为笨重，又锁在一起，冲过去后就转不过弯来了，结果燕军又一次大败。燕将高开战死，慕舆根败退。冉闵在燕兵中左冲右杀，正杀到慕容恪的中军，于是直奔慕容恪杀去。慕容恪急忙走避，并放号炮召众将士来攻。毕竟燕军是魏军的五倍，虽然败了却不溃散，整军回来把魏军团团围住。魏军寡不敌众，整整杀了一天，直杀到半夜，几乎全部战死，无一人投降。刘群、董闰、张温和冉闵都被生擒。
慕容恪把冉闵送到蓟城，燕王见了他骂道：“你不过是石虎的一个奴仆，你也敢妄自称帝？”
冉闵昂然道：“如今天下大乱，像你们这些夷狄丑物、人面兽心之辈，都想称王称帝，我是中原英雄，大汉后人，为何不能称帝？”
这句话把燕王给气坏了，让人先抽冉闵三百鞭子，押往龙城，送到遏陉山（今辽宁省朝阳县境内）斩首。冉闵死后，遏陉山及周围恰好遇到旱灾，而且一旱就是三年，并且出现大面积蝗灾。燕王以为是冉闵的在天之灵作祟，便追谥他为武悼天王，并派专人长期为他祭祀。
慕容恪回蓟城辅政，命慕容评率精骑一万，去攻邺城。这时冉魏太子冉智还没来得及为父亲举行丧礼和自己登基继位，听说燕国来攻急忙集合了所有兵力约一万余人派大将蒋干领兵去战。蒋干出城和慕容评打了一仗，打不过慕容评败回城中，闭城坚守。慕容评围城猛攻，冉智眼看支持不住，问蒋干怎么办。蒋干道：“事到如今，只好向晋朝投降，请晋兵来援了。”于是派侍中缪嵩和詹事刘猗去江东献降表，同时向谢尚求救。
谢尚是东晋豫州刺史。前文说过，中原大乱，四国相争，东晋也是其中一个。东晋任命谢尚为安西将军，派兵北进，一直攻到黄河北岸，占了枋头，就是苻洪和苻健原来待过的地方。缪嵩、刘猗来到枋头向谢请兵，谢尚问：“既然是投降，那玉玺带来没有？”
两个人说，这世道，兵荒马乱的，那么重要的东西怕路上被抢了，所以没带。
“噢，没带呀。那你们两个留下，我派人去拿玉玺。”
缪嵩、刘猗面面相觑，但也没有办法。谢尚遂派部将戴施带了五百人赶到邺城。蒋干一看晋军只带了五百人来援，心想：“晋军不会是开玩笑吧。五百人也算是援兵？”却听戴施道：“其实我是来取玉玺的，我把玉玺交给皇上，皇上肯定会派重兵来救。”
蒋干道：“你别不会是蒙我吧。你要是把玉玺拿走了，也不发兵，然后留我在这里空等，岂不是我什么都没有了？”
戴施说：“那这样吧，你把玉玺交给我保管，就算是献给晋国了。我呢，并不出城，和你待在一块儿。然后派人回报晋朝说拿到玉玺了，皇上也能派兵。”
蒋干说这个主意还行，于是把玉玺小心交给戴施，千叮咛万嘱咐，别碰坏了，别弄脏了。戴施一口答应，到了晚上，找了块石头放到原来放玉玺的匣子里，另把玉玺交给副将何融，让他化装成百姓悄悄离开邺城，混出城回到枋头，把玉玺交给谢尚。谢尚得了玉玺，立刻派一千精骑，日夜兼程，护玉玺到建康。
这个玉玺，就是鼎鼎有名的和氏璧。春秋时，卞和三次献宝，失去两足方把此宝献给楚王。后为秦国所得，成为历代封建王朝统治天下的象征。后来王莽篡位时，王寻、苏献逼着汉孝元皇太后交出玉玺，皇太后拿玉玺砸二人，玉玺落在地上砸坏了一角，王莽后用黄金镶补。此玺方圆四寸，上镌五龙交纽；正面刻有八字篆文：受命于天，既寿永昌。东晋诸臣看了都忍不住落泪，皆叹玉玺重归晋朝，是晋朝将要复兴的好兆头。
这边东晋君臣弹冠相庆，那边慕容评已经兵临邺城之下，很快攻破了邺城，太子冉智被擒。戴施则带着蒋干出城逃奔仓垣（今河南开封西北处），回了东晋。时东晋永和八年（352）八月庾午，冉魏立国三年后灭亡。
慕容评率军凯旋。燕王听说玉玺已归了东晋，不由遗憾，但又心有不甘，悄悄派人告诉冉智的母亲原魏后董氏，让她献了一块假玉玺，然后声称玉玺到手，封董氏为“奉玺君”，遂于永和八年十一月戊辰称帝，国号“大燕”。
这时，不去救魏，眼睁睁看着魏国被燕国吞并的东晋派使臣去蓟城封赏燕王。慕容俊对晋使道：“你去告诉你们主子，朕现在是皇帝不是燕王。如果还想跟朕好好交往的话，以后不要再拿什么命诏来烦朕。”
东晋使者仓皇而归。