此时江苏范围内能作为据点的，仅上海、镇江两个城市。镇江守将是江南大营时期的绿营将领冯子材，冯部一直处于孤城被困的境地。指挥江北清军的都兴阿曾派兵救援，但没有能够取得成功。朝廷认为镇江乃南北枢纽，务必确保，所以谕令曾国藩速催李鸿章率水陆军前往应援。

以前胡林翼也觉得镇江比上海更重要，他和曾国藩商量，准备一旦进兵江苏，即留驻镇江，并保举李鸿章、李瀚章兄弟中的一人为两淮盐运使，以便用征收的盐税为湘军提供军饷。

根据朝廷的谕令及与胡林翼商量的结果，曾国藩初步计划以黄翼升指挥的淮扬水师搭配淮军，组成水陆万余人的东援大军，其中淮军由陆路进兵，经巢湖、含山一带前往镇江。

陆路行军路线长达千里，首先遇到的困难是粮饷难以接济，李鸿章就叫苦说：“江北遍地疮痍，人烟寥落，办米、办夫、饷运维艰。”其次，从安庆到上海，沿途多半是太平天国控制区，淮军要穿越其防线，艰难程度可想而知，很有可能部队还没到镇江，就遭到太平军的截击甚至被其消灭。

退一步说，即便淮军能够顺利到达镇江，由于上海正处于太平军的包围之中，由镇江开往上海也不容易。上海会防局正是看到了这一点，所以连忙筹措十八万两运费，雇佣英商的七艘轮船，用来将淮军分三批运往上海。

李鸿章与曾国藩经过商议，决定顺应上海绅民之请，“由水路东下，直赴上海”。