依据向长江以南进军的既定方针，中央军委于2月3日至3月20日先后决定：以第二、第三野战军的7个兵团24个军及地方部队共100万人，准备于4月间发起渡江作战，歼灭汤恩伯集团，夺取国民党政治、经济中心——京沪杭地区，为尔后向华东南、中南、西南地区进军创造条件，并随时准备粉碎帝国主义可能的武装干涉；为了作好渡江准备，开辟渡江道路，可提早攻占敌长江北岸据点。以第四野战军第十二兵团部率第四十、第四十三军约十余万人组成先遣兵团迅速南下，攻取信阳，威胁武汉，会同中原军区部队钳制白崇禧集团，策应第二、第三野战军渡江作战。为了加强渡江作战的统一领导，2月11日，中央军委决定：由刘伯承、陈毅、邓小平、粟裕、谭震林五同志在淮海战役期间组成的总前委，在渡江作战中“照旧行使领导军事及作战的职权，华东局和总前委均直属中央。”
总前委根据中央军委意图和敌人的江防部署，对我军实施渡江作战的有利条件和各种困难进行了全面分析，认为：渡江作战是我军的一个新课题，广大指战员多属北方籍，不习水性，存在种种顾虑；领导干部缺乏组织指挥大兵团强渡江河的经验，在无现代化渡河器材的条件下，要突破敌陆海空军组成的长江防线，将会遇到很大困难。但是，在我军渡江正面担任防御的汤恩伯集团战斗力差，缺少骨干力量；长江在5月桃汛之前水流比较平稳，利于我军航渡；南京以西江面较窄，敌防御薄弱，更利于我军组织渡江；芜湖至江阴段，江身逐步向北突出，沪宁芜铁路与江平行，利于我军对敌实施钳形突击和渡江后迅速控制铁路，限制敌机动，并达成对宁、芜、镇地区之敌的合围和分割。这些都是我军夺取渡江作战胜利的有利条件。
1949年3月31日，总前委制订了《京沪杭战役实施纲要》（以下简称《纲要》），决定以第二、第三两野战军组成东、中、西三个突击集团，采取宽正面、有重点的多路突击的战法，于4月15日18时在江苏靖江至安徽望江段实施渡江作战，首先歼灭沿江防御之敌，然后向南发展，占领苏南、皖南及浙江全省，夺取南京、上海、杭州等城，彻底摧毁国民党反动政府的政治、经济中心。《纲要》预定将战役区分为三个作战阶段：第一阶段达成渡江任务，实行战役展开；第二阶段割裂和包围敌人，确实控制浙赣路一段，断敌退路；第三阶段分别歼灭被包围之敌，完成全战役。
《纲要》规定的第一阶段作战计划和第二、第三野战军的具体部署是：以第三野战军第八兵团指挥第二十、第二十六、第三十四、第三十五军，第十兵团指挥第二十三、第二十八、第二十九、第三十一军及苏北军区3个独立旅共35万人，由第三野战军代司令员粟裕、参谋长张震指挥，组成东突击集团，其中第八兵团指挥之第三十五、第三十四两个军以积极佯攻的手段，吸引和钳制浦口、仪征地区之敌；其余6个军由三江营至张黄港段渡江，成功后，以一部兵力歼灭沿江当面之敌，巩固滩头阵地，主力迅速向宁沪铁路挺进，控制该路一段，阻击南京、镇江之敌东逃和上海之敌西援，然后扩张战果，派部队向西发展，切断宁杭公路，封闭南京、镇江地区之敌的南逃通路，尔后会同中突击集团歼灭被围之敌。
以第三野战军第七兵团指挥第二十一、第二十二、第二十四军，第九兵团指挥第二十五、第二十七、第三十、第三十三军共30万人，组成中突击集团，由第三野战军副政治委员谭震林指挥，在裕溪口至棕阳镇段渡江，成功后，以一部兵力歼灭沿江守敌，并监视芜湖之敌，主力迅速东进，与东集团会合，完成对宁、沪、杭地区之敌的割裂包围，尔后会同东集团各个歼灭宁、镇地区之敌。为求得中、东两集团行动上的协调，迅速合围宁、镇之敌，中集团渡江后统归栗裕、张震指挥。
以第二野战军第三兵团之第十、第十一、第十二军，第四兵团之第十三、第十四、第十五军，第五兵团之第十六、第十七、第十八军及地方部队共35万人，组成西突击集团，由第二野战军司令员刘伯承、副政治委员张际春、参谋长李达指挥，在棕阳镇至望江段渡江。渡江成功后，以一个兵团用最快速度挺进至浙赣线衢州及其以西、以北地区，确实控制浙赣路一段及屯溪南北公路，切断汤恩伯集团的退路及其与白崇禧集团的联系；主力沿江东进，接替第九兵团监视并歼灭芜湖敌军的任务，尔后准备参加夺取南京的作战（为便于部队就粮和避免过于拥挤，4月17日总前委又决定西集团以第三、第五两兵团直出浙赣路，第四兵团执行东进任务）。
以第四野战军先遣兵团所属第四十、第四十三军和中原军区部队共20万人，归刘伯承指挥，占领武汉以北及其以东地区，以积极行动钳制白崇禧集团，配合第二、第三野战军之渡江作战。
《纲要》对我军渡江成功后敌可能采取的行动作了如下几种估计：（一）收缩兵力于芜湖、南京、无锡、上海、杭州等城市，阻绝我东、中集团会合，尔后利用浙赣铁路机动兵力，或在南京、上海间，或在宁沪杭三角地区，或在浙赣路沿线与我决战。（二）放弃沿江一线阵地，退守浙赣路和上海、杭州沿海地带进行顽抗，或作有秩序的撤退。（三）在退路被我切断，无法撤退时，分别固守南京、上海、杭州等要点。《纲要》指出：“只要我军渡江成功，无论敌人采取何种处置，战局的发展均将发生于我有利之变化，并有可能演成敌人全部混乱的局面。”同时强调，战役成功的关键，是中、东两集团的迅速会合，“此着成功，既可使东线兵团不致孤立，使东线主力作战有必胜之把握，又可做到打乱敌人作战体系，达成割裂包围敌人之目的。”但估计东集团在渡江后可能遇到严重的战斗，因此随后又决定中集团较东、西两集团提前一天渡江，以便能有力地支援东集团作战。
4月3日，中央军委批准了《京沪杭战役实施纲要》。18日，中央军委指出：“此次我百万大军渡江南进，关系全局胜利极大。希望我二野、三野全军将士，同心同德，在总前委及二野、三野两前委领导下完成伟大任务。”担任渡江任务的各部队于3月初至4月初，先后进抵长江北岸，全面紧张地展齐了战役的各项准备工作，进行了形势任务和新区城市政策纪律教育，使广大指战员明确树立了将革命进行到底的思想；在沿江地方党组织和江南游击队的配合下，对敌军的防御部署、工事情况和地形、水情进行了全面的侦察，并据此展开了强渡江河和水网稻田地作战的战术、技术训练；在地方党和政府的大力协助下，积极筹集和修理船只，并自制了部分机帆船，到渡江前，共筹集各型木船9400余只，动员了万余名船工随军参战，同时培训了数千名部队选调的水手，以切实保证航渡的需要；在中原局和华东局的统一部署下，地方各级党政机关竭尽全力，动员组织广大人民进行规模巨大的支前工作，仅筹集与运送到前线的粮食即达数亿斤，动用的临时民工达300余万人，做到了“要粮有粮，要人有人，要船有船。”此外，山东、苏北还组建了16个民工团随军服务，军队打到哪里，他们就支援到哪里。
在抓紧进行渡江准备工作的同时，各兵团还以一部兵力先后拔除了棕阳、仪征、三江营等长江北岸敌据点十余处，从北岸控制了长江航道，开辟了我军渡江通路。江汉军区部队为了掩护第四野战军先遣兵团南下，发起了荆门战役，歼敌第七十九军等部8000余人，解放了荆门、当阳。
