桓温离开金城后，率领主力沿长江继续东进，先抵达了兖州的治所的京口（江苏省镇江市），他要在这里接管郗愔的闻名天下的京口劲旅。当桓温到达京口之前，郗超就以帮助接收为名先行抵达了京口，他跟自己的父亲郗愔交代自己修改复信的内幕，他跟郗愔点明了其中的厉害关系。总而言之，郗超认为桓温这次北伐最终能够取胜的机会是不大的，而且其北伐对象前燕的旁边还有一个前秦在虎视眈眈，随时可能在侧翼插桓温一刀，最可怕的还在于北伐军的背后还有众多与桓温勾心斗角的高门贵族，他们大多不希望桓温的北伐能够成功，因此随时可能给桓温下绊，在这种情形下，桓温靠什么来打败燕国呢？郗超的态度是，既然自己的老板想玩这个北伐的游戏，就算是想拦也拦不住的，既然是这样，我自己可以陪你尽情地玩一场，但是我自己家族的利益和声望可不能因此而搭进去。听完郗超的一番述说后，原先还郁闷不已的郗愔为自己有着这样一个心思缜密的儿子而暗自庆幸。等到桓温前来接管兵马的时候，郗愔显得特别的从容大度，待把自己手里的这个烫手山芋交给桓温后，郗愔就美滋滋乐呵呵地前往富得流油的会稽郡赴任，继续去圆他的财富梦了。作为扬州刺史的桓温这样做可对得起其辖下的会稽一郡的百姓吗？
桓温这次北伐的方案是：从京口沿长江淮河之间的河道湖泊，进入淮河下游的泗口，再由泗口沿泗水北上，直达黄河南岸；而豫州刺史袁真则率领一支偏师从寿阳沿着淮河上游的颖水和涡水一线北上，配合主力占领谯郡（安徽省亳州市）和梁国（河南省商丘市），以保护大军的侧翼安全，同时，再沿着汴水往西进抵石门（河南省荥阳市北），在石门开挖河道，引黄河水入睢水，将江南的粮草沿着睢水运入黄河，以接济桓温的主力大军。
这个北伐的进军方案涉及到淮河中下游的多条支流。桓温所率领的主力主要利用的是泗水，它出自山东省泗水县的陪尾山，由于有四个源头而得名，《水经注》称：“泗水南迳下邳县故城西，东南注沂水注焉，泗水又东迳角城北而注于淮。”《禹贡班义述》“角城在今清河县东南，”清河，即今淮阴，是泗河入淮处，在今淮阴、涟水之间；在两晋时期，泗水在彭城（江苏省徐州市）附近注入汴水。汴水，又被称作汴渠，上游就是古代的“荥渎”，又叫南济，在荥阳被称作“蒗荡渠”，在河南省郑州市附近，东流开封、商丘北境，经彭城合泗入淮，元代时期为黄河所夺。在泗水以北，又有汶水和清水。汶水正源，被称为大汶河，发源于山东省莱芜县东北原山，西南流经泰安县东，在此，石汶水、牟汶水、北汶水等诸水来会，流至东平县，又与入黄河的大清河小清河合流相会，又西至汶上县，西南入运河。而清水，也称作北清河，即古济水，自山东东平县分汶河之水北出，流迳历城县，称作大清河，又合小清河，东北至利当县，入于海。
豫州刺史袁真所率领的偏师主要利用的就是睢水，睢水自河南省杞县流经睢县北，又往东经河南省的宁陵县、商丘市、夏邑县、永城市以及江苏省萧县，再经安徽省宿县、灵璧进入江苏省境，经睢宁至宿迁县南入泗水，在睢水注入泗水的地方，被称为清睢口。至于那个至关重要的军事目标——石门，《水经注》则记载“荥渎受河水，有石门，谓之为荥口，石门地形殊卑，盖故荥波所道，自此始也，又汉灵变于敖城西北垒石为门，遏浚仪渠口，谓之石门，故世亦谓之石门水，门广十余丈，西去河三里，水北有石门亭。”浚仪渠，即蒗荡渠。
于战争而言，最重要的事情说三遍，那就是：“粮草!粮草!粮草!”《孙子兵法》的《作战篇》教导我们：“善用兵者，役不再籍，粮不三载，取用于国，因粮于敌，故军食可足也。国之贫于师者远输，远输则百姓贫；近师者贵卖，贵卖则百姓财竭，财竭则急于丘役。力屈、财殚，中原、内虚于家，百姓之费，十去其七；公家之费，破军罢马，甲胄矢弓，戟盾矛橹，丘牛大车，十去其六。故智将务食于敌，食敌一钟，当吾二十钟；萁秆一石，当吾二十石。”根据桓温所拟定的整个北伐作战方案的关键就在于粮运，在饱受了几十年战火摧残的中原土地上，当时甚至已经可以用赤地千里来形容了，要想按照孙子的理想方案搞些务食于敌和就地筹措粮草的行动并不符合现实，而漫长的后勤补给线，足以使桓温的北伐行动暴露出众多的弱点。因此，郗超在大军出动之前早就告诫过桓温说：“这次北伐路途遥远，而汴水又久未浚治，恐怕漕运会难以为继。”但桓温主意已定，决心不容更改。
桓温大军从京口，顺着泗水经广陵（今扬州）、山阳（今淮阴）和徐州，跨越千里，深入燕境，一路上都没有遇到对方象样的抵抗。到了六月，大军顺利抵达了金乡（今属山东济宁）。可惜，这一年天公不作美，需要借助漕运补给物质的北伐大军偏偏赶上了这次大旱，到了金乡后，水路断绝，无法继续前进。无奈之下，桓温启动了备选方案，他命令毛宝之子、冠军将军毛穆之率军前进到巨野（山东省巨野县）凿渠。据《水经注济水》记载：“巨野湖泽广大，南通洙泗，北连清济，旧县故城，正在泽中。”在桓温的严令之下，毛穆之使尽了洪荒之力，向西北“凿巨野（其北部即后来的梁山泊）三百余里，以通舟运，自清水入河”，这条达全长一百五十余公里的运河，是自方舆（今山东鱼台北）往北开渠，至任城（今山东济宁）西四十里萌山下，会泗、汶二水，在今嘉祥县附近入巨野泽，东北合于济水。因泗、汶、济、三水都叫清水，所以说“自清水入河”。此即后世所称的桓公渎（一称桓公沟，又名洪水）。当时桓温即通过此渎由济水入黄河，再进至枋头（今汲县东北）的。
黄河下游的水势平稳而和缓，桓温与几个幕僚站在平乘舫的顶层，看着自己麾下的舰队逆流往西缓缓前进，绵延数百里，蔚为壮观，桓温不由得豪情万丈、意气高昂，他憧憬着这次北伐能够也象十三年前一举击溃姚襄那样获得满朝的赞誉，甚至希望能够达成自少年时起就一直萦绕在心中挥之而不去的英雄梦想。当看见自己的主公正在逸兴遄飞的兴头上，桓温手下的幕僚们顿时诗兴大发，大献赞词。然而，平时最知桓温心意的大司马参军郗超却再次看到了眼前顺遂当中所蕴藏的巨大危机，他这时没有在桓温身边凑趣，而是站在凭栏边一直凝望着首尾相接、无边无际的船队，似乎若有所思。
桓温兴奋的情绪平复下来后，他注意到了郗超的举动，于是他便要求幕僚们下船舱开一个军事形势分析会。在会议上，桓温看到郗超仍然在敛眉沉思，就故意让郗超发表意见。郗超有些话本来要单独跟桓温说的，但既然现在桓温直接问到他，他就只好如实相告：“明公，我不想扫您的兴。不过，依卑职看来，自我们从清水进入黄河以来，因为逆水行舟，而且河的水量小，粮草的运输十分缓慢，我们这条补给线看起来并不十分可靠。如果敌人拒不交战，而我们的运输线一旦断绝，因粮于敌那一套的办法又难以成功，这就十分危险了。”
桓温在听完郗超的良心提醒后，他沉默了一段时间。他也是个老司机了，他永不会忘却十五年前第一次北伐的时候，因为被苻秦抢割了未成熟的麦子而不得不遗憾退兵的往事。桓温清楚地知道眼前的这条漕运并不十分可靠，如果完全把赌注压在它身上，要是遇上一个精明的对手，难免会因此而输得倾家荡产。不过，他对自己的这位心腹谋士充满信心：“既然他能够提出这个问题，他心中就一定会有相应的答案！”沉默完之后，桓温语气和缓地问郗超：“嘉宾提醒得好哇，那你觉得我们下一步应该怎样做呢？”
郗超思索了一会儿，然后毅然道：“依在下之愚见，可以有两个方案可以选择。第一个方案就是：干脆放弃水道，全军只带必要的干粮，尽快渡过黄河，在北岸登陆，沿陆路轻装疾进，避开要塞，不管其他地方，直捣燕都邺城。由于敌人畏惧大人的威名，必然会望风而逃，北归辽、碣。如果这样，我军即可兵不血刃而得邺城；如果他们铤而走险，妄图与我军决一死战，那他们定然不是我们的对手；如果敌军固守邺城，在此盛夏季节，我们攻城也较为困难，然而因为我们进军神速，对方也还来不及坚壁清野，邺城周围的百姓，也将成为我方所有，那么，易水之南的郡县必定会纷纷投向我们。
熟读《孙子兵法》的桓温何尝不知道“兵贵胜，不贵久。”的道理。郗超的这条建议虽然非常冒险，但却是符合兵法上的原理的。桓温是个樗蒲高手，他之所以能够在赌桌上屡屡获胜，就是因为他能够象现代的桥牌高手那样，能够对各种牌型的成功概率了解得一清二楚，成功概率不高就不下注，这样经过多局不断的博弈下来，他就能够成为最终的赢家。可是，在赌桌上的成功却反过来影响了他的军事成就。如果说赌博高手通常走的是概率为王的正道，那么军事高手通常行的就是出奇制胜的诡道。“兵者，诡道也。故能而示之不能，用而示之不用，近而示之远，远而示之近。……攻其无备，出其不意。此兵家之胜，不可先传也。”在《孙子兵法》里，诡道是一切战略的核心与基础。简单地说，诡道就是要不断地制造玄虚，让敌人始终摸不透我方的实力和真实意图，从而打乱敌人的战略思想、兵力部署和运行节奏。凡是能够成为一流名将的军事天才，为了达到出奇制胜的目的，有时又不得不兵行险着。
桓温作为一个完美主义者，他强于练兵，却弱于用兵；长于谋划，却短于诡道；能打硬仗，却拙于应变。因为南方的马匹很少，这对于南方军队的机动作战能力制约很大，也因此使得在南方成长起来的将领普遍缺乏在运动中寻找机会的能力和素养，加上桓温早年不得不花了很多时间在清谈上打嘴炮，由于实战的锤练不足够，既缺乏在混沌局面当中以一针见血的妙招扭转形势的天才构想，也严重缺乏乱中取胜的自信。他这样的性格特点如果专注在防守上，自然是万无一失，但是若务于远征，则力有不逮，也就是说他的军事风格更象是后世的曾国藩而不是左宗棠。由于太过持重，他在第一次北伐的时候，在取得蓝田大捷后没有乘势趁乱越过灞水攻击长安城，这也是他最终没有成为第一流的军事家的最致命的因素，当然，当时还没有三十六计，“趁火打劫”的这一招未被人总结出来。而第一流的军事家凭借自己的能力、意志和决心，在面对着就算是获胜概率只有一半的战斗的时候，都是敢于亮剑的。郗超的第一条计策无疑是符合兵贵神速和出奇制胜的基本军事原则的，但是却违背了桓温的“风险大的仗避免打的”心理惯性。不过，同样是兵行险着的建议，当年袁乔西灭成汉的建议其实更为凶险，但是这样的建议经过朝气蓬勃、热情洋溢的袁乔以信心十足、大气磅礴的辞藻表达出来，并且配以他亲自请缨以作先锋的高调姿态，除非是心如死灰或者畏敌如虎的人，否则都难免会被他那精彩的表演煽动得热血沸腾。然而，“髯参军”郗超尽管现在的年纪还不大，却从来都是以一副不带倾向性的高深莫测的旁观者的高冷形象出现，他基本上只负责出谋献策，至于决策嘛，那时你自己的事情，反正我不折不扣地执行就是了！这可叫人如何决断呢？
当听完了郗超的第一条计策后，桓温心想：“嘉宾的这条计策固然大有道理，可惜太冒险了。我们现在的侧翼甚至后方还有不少地盘仍然控制在燕军的手里，如果不先拔除这些钉子，只带少量干粮迫近邺城，万一被对方抄了后路可怎么办呢？那时别说想退回来，就是饿也会把自己饿死！眼下的水道虽然不是很理想，但毕竟还能够暂时维系着我们的生命线，弃之难舍啊！”不过，桓温在如此重要的会议上是不会随便表达自己的态度的，只见他思索了一番后望着郗超缓缓道：“那嘉宾你的第二条计策呢？”
看到桓温那鼓励的目光后，郗超习惯性地捻了一下自己的长须，继续说出自己的第二条策略：“如果桓公觉得我刚才的计策有点冒进轻速，难以确保胜利的话，那么想要稳扎稳打的最好的办法就是我们不妨先停止进军，将部队驻扎在黄河和济水一带，修筑要塞，花上个一年左右的时间在这一带屯积粮食和辎重，等到明年夏天粮秣充足的情况下再发起总攻，这样做虽然行动有点迟缓，但能够确保立于不败之地。要是丢掉这两条计策，现在就挥兵北上，如果不能速战速决，撤退的时候必定会狼狈不堪。敌人如果再实行拖延战术，一旦等到秋冬季节，河水的流量将更小，并且北方气候寒冷，我们三军将士的棉衣准备得很少，恐怕到那时，让人担忧的将不仅仅是粮食的问题了。”
对于郗超的这两条建议，桓温的幕僚们交头接耳、议论纷纷，却又莫衷一是、难判优劣。看到这样的情形，桓温又是怀念起袁乔提建议时的那种决然毅然、坚定不渝的神态。等大家的议论渐渐地平息后，桓温表态道：“郗参军的这两条计策都很好，实在令人难以取舍，我个人是倾向于第二条计策。不过如果采取第二条计策的话，我们本来可以只派一、两万人作为先锋先驻守在这里，其余的可以呆在后方作为策应，根本无需把五万大军都摆在前面。既然我们的大军都已经前进到这里，每日所耗粮秣数以万计，要是拖上一年而一仗不打的话，这笔费用是非常浩大的，那我们背后的朝中大臣们又会如何看待我们呢，况且，如果我们旷日持久不进军的话，敌方也就可以趁机从容布防，那到明年我们再发起进攻的时候也难有胜算。因此，我决定大军还是要按照原先的计划继续进军。至于粮秣物资的问题，我们因为有了袁真袁刺史在西路作为策应，要是他们能够顺利拿下石门并打通石门水道，粮秣就可以源源不断地顺黄河而下，那么我们就不用担心后勤物资接济不上了。我怕袁刺史力有不逮，我到时还要选派一支得力的部队前去他那边策应呢。”
看到自己的老板已经一锤定音了，桓温手下的众幕僚纷纷点赞这个方案，郗超也就不再说些什么了。
为了保证漕运粮道的安全，太和四年（公元369年）六月下旬，桓温命令建威将军檀玄进攻与自己的前进据点金乡只有咫尺之遥的胡陆（即湖陵县，在今山东省鱼台县东南六十里）。檀玄不辱使命地攻下了胡陆，还活捉了对方镇守在湖陆的宁东将军慕容忠。
前燕朝廷在得到桓温大军开始发动攻击的情报后开始紧张起来了。七月，前燕皇帝慕容暐任命抚军将军、下邳王慕容厉为征讨大都督，率领步骑二万，在黄墟（在河南省开封、兰考一带）迎战东晋军队。三年前慕容厉曾统兵南征，一出手就异常轻松地攻取了东晋的山东诸郡，所以他一直对晋军心存鄙视。他认为河南平原利于铁骑突击，一交战就让前燕的重型骑兵奔腾突阵，却没想到阵法纯熟桓温以一个凹字形战阵避其锋芒，击其惰归，把嚣张不已的前燕军队给包了饺子。黄墟之战，是桓温平生第一次与前燕的大军作正面交锋，已经憋了很久的桓温经过精心的筹划和奋力的督战，令手下的晋军信心百倍。这一战打下来，晋军取得了完全压倒性的胜利，一口气就把慕容厉的二万军队全部吞掉。激战之后，慕容厉只得单人匹马逃回了邺城。
其后，桓温派遣部将邓遐、朱序分兵往西挺进，准备与袁真的西路军会合后再合力拿下石门，自己则继续往西北的荥阳挺进。前燕帝国这回终于发狠了，慕容暐派遣傅末波领兵八万人前去迎击。傅末波是慕容恪生前的亲信猛将，曾平定前燕太师慕舆根之乱，还曾北伐漠北的敕勒部落，史载“大获而还”。他率大军渡过黄河后继续南下，九月，在林渚（河南省新郑县北）碰上了正在西进的晋军邓遐、朱序所部。所谓狭路相逢勇者胜，这是一场没有什么奇谋妙计的遭遇战，拼的就是双方的勇气、意志和实力。邓遐和朱序都是桓温亲手提拔的名将，所带领的也是他们多年来精心训练出来的荆州兵，他们趁对方立足未稳，主动地发起了突击，一口气就拦腰冲散了敌军的阵形，再次大破燕军。邓遐和朱序合力击败燕军后，邓遐的部队留下来配合袁真攻打石门，朱序则继续北上与桓温的军队会合。
前燕皇帝慕容暐剩下的办法已经不多了，他只能象飞蛾扑火一样继续派遣哥哥乐安王慕容臧率领剩下的军队前往抵挡东晋大军。然而，遇上气势正盛的东晋军队，皇兄慕容臧根本无法抵挡，只得又一次像上一拨的将领那样大败而逃。在东晋大军节节胜利下，前燕的高平（山东省巨野县）太守徐翻率郡来降。接着，前燕的兖州刺史孙元也率领宗族部曲在北面起兵响应桓温。
九月戊子日，也就是在林渚之战后的第十天，桓温抵达了枋头（河南省淇县淇门渡口）。
而负责西路的豫州刺史袁真在接到桓温命令之后，也誓师北伐，他率军渡过了淮河，相继攻克了谯郡和梁国等地，桓温给他的任务很简单，就是要不惜一切地拿下石门，这时，袁真的军队也已经逼近石门了。
桓温的第三次北伐就这样有了一个不错的开局。