孙权在鲁肃和吕蒙等人的劝说下，调头向寿春而去，与蒋钦汇合后，据守寿春。
刘馥却率领寿春的守军在夏侯渊骑兵的接应下，来到合肥。经过蒋济的设计，曹军实现了以寿春换合肥的战略目标。
现在就看曹操率大军来得快慢了，如果曹操来得快，趁江东军后勤还没跟上来，还有机会夺回寿春。如果让江东军在寿春做足了准备，只要能守上一个月，曹军后勤压力就大了。
周瑜在回来的路上知道合肥失守，黄盖战死的消息，尽管悲痛万分，但事已至此，既不能去埋怨自己的主公，也不能意气用事再去攻打合肥。
经过这么长时间的耽搁，合肥城内肯定是做好了防守准备，而曹操派来的援军也应该快到淮河北岸了。淮河虽然也是大河，但上游也有不少河面较窄的地方，江东水军在淮河之上的数量也不多，万一曹军找机会过了河，寿春也不好守。
周瑜与潘璋汇合后，对合肥发动了一次试探性进攻，发现城上防守严密，调度有方，城外还有一支骑兵部队虎视眈眈，只好撤了回来。那支骑兵部队虽然人数不多，但机动性强，给江东军带来不小的压力。如果趁江东军攻城的时候，找薄弱地方冲上一阵，说不定能把江东军冲垮了。
合肥横在中间，周瑜也无法去跟孙权汇合，此时孙权手中加上收拢的溃军，也就不到三万人。寿春离江东太远了，万一发生点意外，不容易撤回来。
周瑜觉得夏侯渊那几百骑兵是最碍事的，只要能把这几百骑兵解决掉，整个淮南之地就没有曹军骑兵了，周瑜就可以带兵绕过合肥去跟孙权汇合。
这一日，周瑜指挥江东军佯装攻城，将夏侯渊吸引过来后，又佯装撤退。夏侯渊一看有机会，便打算率骑兵冲上一阵，砍几个江东军就跑。
结果江东军阵中推出一排从战船上卸下来的重弩，直接将冲在最前面的几十个骑兵射穿，然后用重弩组成一道墙，后面站满了长矛兵。
夏侯渊一看上当了，连忙下令撤退，但骑兵冲锋过程中无法直接调头，要么将前面的敌军击穿，让马速慢慢降下来，要么就划个弧线从一旁绕过去。
再向前冲那就是找死了，夏侯渊只好率领骑兵一头扎向旁边的江东军阵中，打算突出包围。这次江东军奋勇狙击，死死拦住这几百名骑兵。
城墙上的刘馥见状，便要下令雷绪率军出城将夏侯渊救出来，但被蒋济给阻止了。
蒋济也知道夏侯渊在曹操集团中的地位，但他看到了周瑜的旗帜，他知道周瑜肯定还有其他埋伏，只要敢打开城门去就夏侯渊，那这合肥城就有可能再一次被周瑜夺去。
刘馥也不敢冒着合肥城再一次丢失的风险，所以只能寄希望于夏侯渊能杀出重围了。
最终，夏侯渊还是杀了出去，但身边只剩下十几个骑兵，再也无法威胁到江东军了。
虽然没有除掉夏侯渊，但目的也已经达到，周瑜便让潘璋率五千水军继续留在巢湖之上，他率一万士兵绕过合肥，直接向寿春而去。
周瑜走后，夏侯渊率残余的十几个虎豹骑骑兵进入合肥。
蒋济说道：“属下未同意刘刺史出城相救，请将军降罪！”
夏侯渊则说道：“你做的对，周瑜就是想拿我当诱饵，引你们出城，只要你们一打开城门，他们就会大举进攻，合肥若再失去，则整个淮南不复为朝廷所有。”
于是，刘馥与蒋济继续守合肥，夏侯渊休息之后，率十几个骑兵赶往淮河上游处，等待并接应曹操到来。
曹操自从宛城率五万精锐部队出发后，一路疾行来到汝南，又令汝南太守李通率五千汝南兵随军出征。
来到淮河北岸后，张郃向曹操请罪。
曹操说道：“江东水军封锁河面，骑兵无法过河，罪不在你。只是如何渡过这淮河，诸位有何办法？”
荀攸建议道：“丞相，江东水军人数不多，我们又占据上游，可以用铁锁连船来对付他们。”
曹操大喜，说道：“公达此言正合我意，传令李通搜集船只，李典、乐进督造铁锁连船，张郃继续吸引江东水军注意。”
程普也发现曹操大军前来，但他毫不在意，只要控制好淮河，你军队再多也过不了河。
但半月后，曹军忽然从上游隐蔽处推出三个大铁锁连船，以剩余的一万余名水军驾船，搭载了许多弓箭手。
曹军在上游，程普不能抵挡，也无法用火攻，只好迅速撤退回寿春报信。曹操大军陆续渡过淮河，与等在河南岸的夏侯渊汇合，知道了详细情况后，分兵两路，一路由夏侯渊带领，率张辽、李典、乐进去合肥。另一路由曹操亲自率领向寿春进军，毛玠率水军驾驶铁锁连船在淮河上顺水而下。
周瑜刚率军与孙权汇合，正在思考如何守住寿春，并以寿春为据点逐渐收服东面九江、临淮等地，却收到程普派快船送来的消息。
曹军使出铁锁连船，抵住江东水军的进攻，大军已经渡过淮河。
“又是铁锁连船，可恶！”周瑜怒道，没办法，处在下游就是不如上游有优势。
曹军这一大举过江，还有那么多骑兵，使得周瑜的一切打算都作废了。寿春离江东太远了，不管是援兵还是粮草物资都不方便运过来，万一曹军再设法封锁住淮河，自己这伙人连跑都跑不了了。
于是，周瑜只好建议孙权撤兵回江东，孙权虽然舍不得放弃寿春，但寿春再好也不如自己的命重要，只好趁曹军还未来到之前，从淮河之上坐船又绕洪泽湖回到江东。临走前将寿春城洗劫一空，回来后又派人给潘璋传令，让潘璋也率军退了回来。
至此，江东军第一次攻打合肥之战便结束了，双方都损失较大。
江东这边损失了两万多士兵，老将黄盖战死，尸首都没抢回来。而曹操这边则损失了一千虎豹骑，寿春被洗劫破坏，没有三五年是恢复不过来了。
在这次合肥争夺战中，蒋济谋划有功，被曹操调到丞相府任主簿，夏侯渊伏击孙权、突袭黄盖并将黄盖斩杀，升为行护军将军。原寿春守将雷绪作战有功，升为庐江太守。
孙权回去后，派阚泽为使者，讨回了黄盖的尸体，以厚礼下葬，程普等人皆悲痛万分。