桓温退兵之后却给朝廷留下了一个两难选择：北伐还是不北伐？如果不北伐的话，难免桓温还会继续搞事，况且现在北方形势一片混乱，似乎到处都是馅饼，作为一个主政者，无论他的能力多么有限，在他的心中总是有一个建功立业的美好梦想，眼看着唾手可得的机会，除非是蔡谟这种曾经被吓破了胆的老顽固，谁不会觉得眼前一亮呢？因此，执政的司马昱和殷浩还是觉得要北伐的。
在决定要北伐后，问题又来了：是让桓温来参与北伐还是完全由自己来主导北伐？如果让桓温参与北伐的话，以他的能力以及过去的表现来看，他很有可能就能够在北伐的过程当中喧宾夺主，变成一个主导者，一旦让他再立新功，就会越发变得难以控制了。经过全面权衡利害得失之后，司马昱和殷浩最后觉得还得完全依靠自己才是上策。
在北伐问题上屡屡进行博弈的双方的主角殷浩和桓温本是一对一起长大的发小。当年的殷浩是长干里的学霸，是每个父母眼中的学业成功的楷模，是每个追求上进的学生心目中的学习榜样，而桓温则是长干里有名的调皮捣蛋的熊孩子兼学渣。偏偏这个熊孩子兼学渣对这位年长好几岁的品学兼优的学霸一点也不买账，他对于成为学霸的接班人一点兴趣也没有，他只是愿意按照自己的兴趣随意发展，反而是这位学霸对这位学渣发生了很大的兴趣，他原先以为世界上没有什么比研究学问更快乐的事情，但是他在注意到了桓温这个玩起来会很疯的熊孩子之后，他对自己原来的想法竟然发生了些微的动摇，他根本无法理解一个小屁孩坐在一张破竹凳上玩打仗的游戏为什么能够达到如此嗨的程度。当桓温玩累玩够了并离开竹马之后，颇有哲学思维的殷浩竟然坐在桓温刚坐过的那张竹凳上，象发了呆似的在探究这个问题，没想到他还没来得及从跨骑着的竹马上下来，就已经被在外面晃悠回来的桓温同学撞到了，桓温当时就觉得别看殷浩这家伙平时牛气哄哄的，这次居然来玩我玩剩的东西，从此就有点瞧不起殷浩了。其实桓温这是误会殷浩了，他以为殷浩只不过是学他那样玩骑马打仗的游戏，实际上殷浩的意思是要探究一下这小屁孩为何会对这样一个弱智的游戏如此的乐此不疲呢，所以他就学桓温那样跨座在竹凳上呆想，想来想去之后最后还是觉得：“这有什么好玩嘛？桓温这小屁孩之所以能够玩得如此的开心，只不过是因为他目前的层次太低而已，他现在根本就不可能知道这世上还有更高层次的快乐，否则他绝对会以我为师。”想明白了这个问题，殷浩自己也就释然了。
不过，殷浩的心理也很奇怪，就是因为感觉桓温有点瞧不起自己，他就偏要让桓温瞧得起自己，因此他地打自桓温小时候起，一有机会就想方设法的戏弄他，这已经不是一个学长应有的风范了。直到桓温爱上赌博之后，还处心积虑地设了一个局，利用樗蒲的游戏让桓温亏得一塌糊涂，若不是袁耽仗义搭救，恐怕桓温这一辈子都翻不过身来。
同样与桓温相爱相杀，殷浩与刘惔显得颇为不同。刘惔是一直都很欣赏桓温的能力的，他们之间表面上还是有讲有笑的，不过，刘惔却在暗地里对桓温施以重拳。而殷浩与桓温则是无论是在明里还是在暗里都互不服气，从小斗到大，但是双方都觉得过把瘾就够了，都能够做到点到为止，很少把对方往死里整。尽管桓温越到后来越不把殷浩当做对手，但是殷浩对桓温却是一直有着瑜亮情结，他觉得压制桓温的野心是自己人生当中最有意义的事情，他隐居啃老多年之后才答应出山，也许这种瑜亮情结也在他的内心当中起了一定的作用，他甚至觉得要抑制桓温的政治野心，防止刘惔谶言成真，这普天之下除了我殷浩之外还有谁能够挑起这千斤重担？
桓温回师之后一晃间又过了一年，这年已经是永和八年（公元352年）了。自永和五年（公元349年）石虎去世，虽然北方的大乱已经持续两年多了，但是仍然不见有一点消停的迹象。因此，殷浩在桓温逼宫事件的刺激下，正式上书北伐，请求兵出许昌和洛阳。
永和八年（公元352年）年初，殷浩誓师北伐，就在大军将要出发之时，主帅殷浩竟然在众目睽睽的情况下从战马上坠了下来。殷浩在这个重要场合当众出丑，未免会给人以不妙的联想。
殷浩以淮南太守陈逵、兖州刺史蔡裔为先锋，以安西将军谢尚、北中郎将荀羡为督统，并且之前已经开发出江西的良田千顷作为北伐的军粮储备。
殷浩的北伐宣言是要收复许昌与洛阳。这也是殷浩鸡贼的地方，因为当时两这地至少在名义上已经在东晋手里了。永和七年八月，冉闵的徐州刺史周成、兖州刺史魏统、荆州刺史乐弘、豫州牧张遇以廪丘、许昌等城池投降，受降者是东晋的豫州刺史谢尚，九月，谢尚又受降了洛阳。
但是，就在殷浩出师后没几天，张遇忽然又叛变东晋，占据了许昌、洛阳，改而投靠前秦，被前秦封为征东大将军、豫州牧。张遇之前投降东晋只是权宜之计，他只是想挂一面东晋帝国的大旗，让周边的势力不敢随便欺负他，绝不是想让东晋帝国来接管他自己的地盘，而东晋朝廷居然就大大咧咧地真的派谢尚率军去接管许昌、洛阳，这也难怪张遇要翻脸了。
殷浩本是要进驻洛阳的，因前途受阻，陈、蔡二人于是率领大军进驻寿春。可见，打铁还需自身硬，如果你不能以强大的军队做后盾，则神马都是浮云。既然司马昱和殷浩已经决定要派军深入中原，那他们就该意识到东晋朝廷与中原实力派之间的矛盾在本质上是不可调和的，如果没有硬的一手做准备，遇到张遇这种降而复叛的行为时就会变得无可奈何。
此时，正值冉闵刚刚击败刘显，率兵在常山、中山一带游食，而处于襄国东北部滠头的羌族大头领姚弋仲也已经病的不行了。姚弋**有四十二个儿子，临终之时，他将儿子们叫到床前，嘱托他们道：“我本来的想法是，晋室大乱，而石氏对我很优厚，因此，想通过讨伐他的叛臣以报答他的恩德。如今，石氏已经灭亡，中原无主，自古以来，从来没有夷狄之人在中原做天子的。我死之后，你们就应立即归顺晋室，要竭尽臣节，不能做不义之事！”永和八年（公元352年）年初，姚弋仲病死，终年七十三岁。面对日益复杂的北方局势，世子姚襄听从了亡父的临终嘱托，秘不发丧，率领全部部众共计六万余户一路南下。
姚襄，字景国，时年二十二岁，是姚弋仲的第五子。他十七岁的时候就已经身高八尺五寸，双臂过膝，雄武多才艺。众人请姚弋仲立其为嗣子，姚弋仲不同意，而每天来请求的人却络绎不绝，有次竟多达上千人，在这种情况下，姚弋仲只好同意了大家的请求。投降晋室之后，晋朝封其为持节、平北将军、并州刺史、即丘县公。
姚襄的大军相继攻占了阳平（山东省馆陶县）、元城（河北省大名县）、发干（原山东省堂邑县，现在山东省聊城、冠县一带），杀掠三千多户，屯兵于古黄河上的一个交通要道碻磝津（山东省莊平县）。姚襄在碻磝津短暂停留了数日之后，转兵西向，来到了荥阳，在这里为父发丧穿孝服。
虽然有亡父的临终遗言，但是，姚襄考虑到羌族大部分人的主流意见是西入关中，回归故土，因此，姚襄的想法一致在动摇。不过，回归故土也没那么容易，此时张遇因谢尚的安抚不力，怒而叛变了东晋朝廷，又以许昌改投了才立国不久的前秦，被前秦的皇帝苻健任命为征东大将军、豫州牧，因此，原本在名义上属于东晋的豫州大片土地，又在名义上归属了前秦。此时，谢尚先头部队戴施的部队就驻扎在仓垣（河南省开封市东北）。张遇叛变之后，他派遣其将上官恩占据了洛阳，另外派遣乐弘（原石赵荆州刺史）进攻驻扎在仓垣的谢尚的先头部队戴施。
在这种情况下，原本可以顺利越过豫州、西入潼关的姚襄，在洛阳即遭到了前秦军队的阻击。姚襄在荥阳发丧之后，继续率众西进。他的部队在洛阳东部与原石赵帝国将领高昌、李历部队遭遇，双方在麻田展开激战，姚襄遭到了惨败，他的司马尹赤率众投奔了前秦，被前秦皇帝苻健任命为并州刺史，镇守在蒲坂（山西省永济县）。
西返受阻，姚襄不得已只好遵从父亲的遗命率众南下，投身于东晋朝廷，他将其五弟送给东晋朝廷作为人质。东晋皇帝下诏，将羌族部众安置在谯城（安徽省亳州市）一带。《晋书，姚襄载记》称，“弘农杨亮归襄，襄待以客礼。后奔桓温，温问襄于亮，亮曰：‘神明器宇，孙策之俦，而雄武过之。’”
在谯城安顿下来后，姚襄单人匹马渡过淮河，前去寿春会见安西将军、豫州刺史谢尚。谢尚命令除去仪仗卫士，自己也脱下甲胄，穿上平民服装接见姚襄。姚襄这人博学多才，擅长清谈，两人一见如故，成为了一对好基友。
就在东晋朝廷安顿下姚襄、并准备对反叛的张遇进行打击的时候，在常山地区的冉闵正与前燕王国慕容恪进行了廉台之战。冉闵被俘后，冉闵中山太守苏亥命令部将金光偷袭慕容恪之军，但遭到失败，苏亥也弃中山逃往并州的新兴，前燕军队南下邺城的门户洞开。与此同时，前燕平狄将军慕容霸也率领东路军，南下进攻至绎幕（山东省平原县境），在此自称赵帝的鲜卑段勤与弟弟段思聪举城投降，前燕王国的势力已经抵达黄河南岸，威胁着青州。
廉台之战后的永和八年（公元352年）的四月二十四日，前燕一万铁骑在辅弼将军慕容评和冉魏降将中尉侯龛的带领下，开始朝邺城进发。冉魏太子冉智与大将军蒋干无力再战，只得闭城固守，而城外的冉魏部队和民众全部都投降了前燕，刘显的旧部清河王刘宁和弟弟刘崇率领胡骑三千西去并州，投靠了割据并州的石赵并州刺史张平。
五月一日，慕容儁另外派遣广威将军慕容军、殿中将军慕舆根、右司马皇甫真等人率领步骑两万，增援慕容评的围城军队。在重重包围之下的邺城发生了严重的饥馑，城内出现人吃人的惨剧，冉魏大将军蒋干无计可施，只好派遣侍中缪嵩、詹事刘猗向东晋送上降表，请求谢尚出兵相救。
得到蒋干求救的消息之后，驻屯在仓垣的东晋都护戴施率军继续北上，进抵古黄河的棘津（河南省滑县古黄河渡口）。戴施将冉魏的使者拦截下来，提出要他们先交出传国玉玺、晋军才予以支援的要求。刘猗让缪嵩不得已又折返回邺城，给蒋干汇报，蒋干怀疑谢尚到底能不能提供支援，一直犹豫不决。
此时，正好前秦皇帝苻健在接到张遇投降的消息之后，派遣丞相东海王苻雄、卫大将军平昌王苻菁东出函谷关抢占土地，二人得知谢尚、姚襄进击许昌之后，立即率领两万步骑火速前往救援。秦军与晋军在颖水之上的诫桥（在河南省许昌市东南）发生了遭遇战，强悍的前秦军队狂殴晋军，一直把他们狂追到晋军营门之前。谢尚、姚襄等人大败，人马损失大半，仅被斩杀的东晋士兵就有一万五千多人。此战让谢尚所率领的北伐军几乎全军覆没，姚襄也丢弃辎重，将谢尚送到寿春以南的芍陂。
谢尚将豫州地区的善后事宜全权委托给姚襄处理，而自己则回建康负荆请罪。不过，由于皇太后褚蒜子是谢尚的外甥女，因此，东晋主政者顺势网开一面，仅仅将其降号为建威将军，未做任何实质性的处罚。而殷浩的大军也由于张遇的阻断，无法继续北进，滞留在了寿春，至此，殷浩的第一次北伐行动就这样惨淡地结束了。东晋诫桥惨败的消息传来后，冉魏的蒋干可就不太想跟东晋干了。
然而，北方的戴施却还在为能够得到玉玺而努力。在谢尚诫桥惨败前后，戴施率领一百多敢死勇士北上，进入了邺城，帮助冉魏政权协防三台。戴施进入邺城之后忽悠蒋干说：“如今请将玉玺交付给我保管。敌人就在城外，道路阻隔，即使将玉玺给我，我也不敢长途送往江南，玉玺存放在我处之后，我将派人快马飞报皇帝。天子听说玉玺已在我手，就明白了大人的诚心，肯定会派遣大军前来救援，并会运送大批粮草接济。”
蒋干觉得戴施说得合情合理，就将传国玉玺交给戴施保管。得到玉玺之后，戴施对蒋干说将派何融南下迎接粮草，却秘密将玉玺交给何融带出了邺城。何融飞马逃回枋头，派人向谢尚报告这一消息，谢尚派遣振武将军胡彬率领三百骑兵前往枋头迎接，最终将玉玺送回了建康，据《晋书，穆帝本纪》记载，玉玺的铭文为：“受天之命，皇帝寿昌。”这枚秦始皇所刻的传国玉玺自西晋末年遗失之后，至此又重新回归到东晋朝廷的手中。由于在东晋成立后的五十年间里，东晋朝廷屡屡被北方统治者刻意质疑其政权的正统性，因此，玉玺的回归，在当时来说，是一件非常值得朝廷上下欢欣鼓舞的重大事情。
在拼命坚持了两个月后，到了永和八年的八月十三日，因为冉魏帝国长水校尉马愿、龙骧将军田香等人开邺城城门投降，蒋干、戴施等人不得已从城上悬下绳索，坠城而下，步行逃往仓垣。进入邺城的慕容评将冉闵的妻子董氏、太子冉智、太尉申钟、司空条攸、中书监聂熊、司隶校尉籍罴、中书令李垣及诸王公卿士均送往蓟城；冉闵的尚书令王简、左仆射张乾、右仆射郎肃自杀殉国。
慕容儁为了迷惑世人，对外宣称冉闵的妻子董氏带来了传国玉玺，因此，封其为“奉玺君”，赐冉智为海宾侯，以申钟为大将军右长史。
原石赵帝国崩溃后，各地的军阀大多是先投降了东晋，然后又纷纷的投靠了前燕。例如，秦州的屠各王擢先是投降了东晋，被拜为秦州刺史，后又转投前燕，被任命为益州刺史；夔逸被前燕任命为秦州刺史；并州的张平原本已投降前秦，后又归顺前燕，被任命为并州刺史。甚至也有一些既投降东晋，又投降前燕，最后还投降前秦的，也有如驻守鲁口的前石赵幽州刺史王午般自立为王的。
与前燕王国政令统一，诸军合作不同，东晋朝廷内部由于门阀势力之间的勾心斗角，内部的各种势力之间一直无法联合起来以达成协同作战。桓温手握数万精兵，在永和八年（公元352年）中却一直没有被派上用场。假如此时朝廷让桓温的荆州军团北上与谢尚的军队配合作战，以张遇的能力当挡不住桓温的大军，豫州地区也不难落入东晋朝廷之手，殷浩的第一次北伐也就能够成功了。
然而，由于朝廷方面对桓温的疑虑远大于对敌人的恐惧，因此并不希望桓温染指北伐，以免让他再捡到一个大馅饼，结果却是再次的遭遇了大败，如果不是谢尚的手下又哄又骗地计取回传国玉玺，简直把自己的颜面都尽丢了。不过，作为一个肩负着全体人民希望的执政者，个人颜面的丢失是小事，把大好的战略机遇白白浪费掉，就如同是在犯罪。
许昌诫桥大捷之后，前秦丞相苻雄趁机在军中将张遇劫持，兼并了张遇的军队，并将陈留、颍川（河南省禹州市）、许昌、洛阳等地的五万户居民全部迁到关中地区，命令右卫将军杨群为豫州刺史，镇守许昌。由此看来，要招降纳叛，还是拳头硬的说了才算数，殷浩和谢尚那种投机取巧的做法如果不能以强大的军事实力做后盾，根本上就是寸步难行。
张遇被迁移到关中之后，被任命为司空，剥夺了军权，随后，秦王苻健将张遇的后母纳为昭仪，经常在大庭广众中指着张遇对大家说：“你，就是我的儿子！”张遇又羞又恨，于是，开始秘密联络关中诸将，企图寻找机会灭掉苻氏，并以关中之地再度投降东晋。
此时的关中之地，屯驻在秦州的前石赵西中郎将王擢以及仇池公杨初尚拥众不服从前秦。对于前秦政权而言，要确保长安的安全，势必要攻下秦州，占据陇上。于是，在取得诫桥大捷之后，苻健即命令丞相苻雄率领部队，西出陇上，进攻王擢，并顺利地将王擢赶出了陇西，王擢战败逃往凉州。此时，前秦的兵力还十分有限，丞相苻雄在取得陇西之战的胜利之后，不敢长期滞留在陇西地区，而是率军还屯陇东（陕西省陇县，胡三省注：陇东，汉汧县地），扼守陇西东下的要道，兼顾东西两线。