张辽率兵赶至，见到孙权站在桥下，便要纵马向前，李典说道：“刚才有兵来禀告，吴军早有准备，小师桥并没有被攻破。孙权为何不能登上此桥，反而站在桥首？”张辽再向左右草丛中隐隐有黑影闪现，说道：“这是个圈套。我的军队可以退入城内，等候相爷的军队。”当下下令撤退。
周泰见张辽军后撤，急忙领兵冲出；但张辽率领的全是铁骑，根本无法追赶。刘瑞走到孙权面前，说道：“张辽的实力，还真是让人低估了。”孙权这时对他的看法已大为改观，说道：“倘若孤听大人说得有理，便不会着了他的道。他吩咐周泰引兵去救吕蒙等人。
没过多久，所有将领都到了。这一仗虽然输了，但伤亡并不大，却是士气大伤，再也不能强占，孙权下令在城外几里安下营寨。翌日，他命甘宁引兵入城，张辽则挂上了请战的牌子。张辽固守了几天，孙权只得下令大军进攻。合肥虽然兵力较少，但防御力强，张辽等将领也是精锐，一时半会也攻不下，反而伤亡惨重。刘瑞在军队中看到吴军迟迟不能取胜，便向孙权提出了一个建议。
何况合肥城中的张辽，日日亲自与吴军对峙。晚上巡逻到三更，就下了城墙，回到自己的住处。这一夜，他刚到了城下，忽听得城外的战鼓轰鸣，知道大事不妙：吴军在白天进攻无果，要趁夜袭。他刚要间乐进，李典二将听得动静，已上了城墙，三人连忙下令，严密戒备。