济南战役后，国民党军统帅部判断华东、中原两野战军下一步将在陇海路以南发动大规模攻势，因此决定以华中“剿总”白崇禧所属的第三、第十二两个兵团由确山、遂平线向唐河、赊（社）旗镇地区发动攻势，破坏豫西解放区，抑留中原野战军于平汉路以西；将驻郑州的第十六兵团东调徐州地区，郑州防务交给第十二绥靖区担任。以徐州“剿总”刘峙指挥第十六、第二、第十三、第七共4个兵团与第四、第三、第九、第一等4个绥靖区的部队，加强以徐州为中心的陇海路东西两侧防御，阻止华东野战军由鲁西南或鲁南地区南下。当发觉华东野战军有出苏北，中原野战军有攻郑州的企图时，敌统帅部又决定放弃郑州、开封等地，并于10月24日命令刘峙加强陇海路商丘至海州段，津浦路临城至蚌埠段的防御，以及徐州、蚌埠、淮阴等据点的防御工事，企图以“攻势防御”。“巩固徐州而确保之”。同时，根据8月南京军事检讨会议的决议，决定以白崇禧统一指挥徐州、华中两“剿匪”总司令部所辖的部队。但白崇禧为求自保，并支持李宗仁伺机与蒋介石争权，拒绝接受这个烂摊子。同时，刘峙等人也不愿交出指挥权，因而这一决定未能实现。
11月初，敌统帅部为避免徐州刘峙集团重蹈卫立煌集团的覆辙，决定以白崇禧部两个兵团、4个绥靖区的部队共23万人，防御平汉路南段及长江中游地区，钳制中原野战军主力，将刘峙集团的4个兵团、4个绥靖区的部队，以及位于平汉路南段的第十二兵团等部共29个军、70个师，连同其他部队共约70万人分别置于津浦路徐州至蚌埠段及其两侧地区，以攻势防御，确保该段交通，拱卫南京、上海；并准备在必要时放弃徐州，依托淮河抗击我军进攻。据此，敌参谋总长顾祝同于11月4日亲赴徐州，与刘峙研究确定了如下的部署：
第十六兵团孙元良部（辖第四十一、第四十七、第九十九军），由商丘转移至蒙城地区，保障津浦路徐、蚌段西侧的安全，第二兵团邱清泉部（辖第五、第十二、第七十、第七十四军），仍在砀山、永城地区集结待机；第四绥区刘汝明部（辖第五十五、第六十八军），由商丘移驻临淮关，合肥之第八绥区撤销，其辖区划归第四绥区；第十三兵团李弥部（辖第八、第九军），由碾庄圩、炮车段向灵壁、泗县地区转移，担任机动任务；第七兵团黄百韬部（辖第二十五、第六十三、第六十四、第一○○军），由新安镇移至运河以西集结，以一部控制窑湾、滩上段运河；第三绥区冯治安部（辖第五十九、第七十七军），放弃临城、枣庄，退守韩庄、台儿庄段运河及其以南地区；第一绥区周碞部（辖第四、第二十一、第五十一军），驻守淮阴、扬州线，海州第九绥区撤销，所属第四十四军由海上南撤上海（后因缺少海运工具，6日又临时决定该军沿陇海路西撤，改归黄百韬指挥，第七兵团待第四十四军到达后再开始由新安镇西撤）；由徐州“剿匪”总司令部直接指挥的第七十二、第一○七、第六十六、第九十六军，分别防守徐州、睢宁、五河、盱眙与蚌埠。原属华中“剿匪”总司令部指挥的第十二兵团黄维部（辖第十、第十四、第十八、第八十五军），由确山地区开阜阳、太和集结，改归国防部直接指挥，准备参加徐蚌间作战。
为支援刘峙集团作战，敌在徐州、南京驻有空军第一、第三、第五、第八、第十、第二十等各大队的全部或一部，计有歼击机、轰炸机126架，运输机32架。
济南战役后，华东野战军大部集结在徐州、济南间津浦路两侧休整，一部位于苏北宿迁地区。中原野战军大部集结在禹县、襄城、叶县、鲁山地区休整，一部活动在豫南、鄂北地区，钳制白崇禧集团。
为了实现中央军委7月间提出的于“冬春夺取徐州”的计划和党中央九月会议提出的第三年的作战任务，华东野战军代司令员兼代政治委员粟裕在济南战役临近结束时，就下一步作战计划向中央军委提出了举行淮海战役，攻歼淮阴、淮安和连云港地区之敌，为夺取徐州创造条件的建议。9月25日，中央军委、毛泽东主席复电指出：“举行淮海战役，甚为必要”，你们第一步作战应以歼灭即将自徐州调返新安镇地区的黄百韬兵团为目标，然后再歼两淮和海州、连云港之敌。歼其十几个旅，打通山东与苏北的联系，以利下一步进行徐州、浦口线上的作战。10月11日，中央军委、毛泽东主席发出了《关于淮海战役的作战方针》的指示，明确规定：“本战役第一阶段的重心，是集中兵力歼灭黄伯（百）韬兵团，完成中间突破，占领新安镇、运河车站、曹八集、峄县、枣庄、临城、韩庄、沭阳、邳县、郯城、临沂等地。”第二阶段“攻歼海州、新浦、连云港、灌云地区之敌，并占领各城。”第三阶段准备在淮阴、淮安方向作战。针对刘峙集团主力集结于徐州周围地区，随时可能增援的情况，军委着重指出：为达成战役第一阶段的任务，应采取“攻济打援”的兵力部署原则，即以一半以上的兵力担任牵制，阻击和歼援敌一部的任务，并从东面和北面威逼徐州，“使邱清泉、李弥两兵团不敢以全力东援”。14日，又强调指出：担任打援任务的部队，应放在援敌的侧面，即位于徐州的北面、西北面、南面，造成围攻徐州的态势，使徐州之敌“第一个感觉是我军似乎有意夺取徐州，而不能确切断定我军并非夺取徐州，而是歼灭黄兵团。等到我军对黄兵团攻歼紧急而决定增援时，又发现如不解除南北两侧威胁，则很难赴援。这样就给我军以必要的时间歼灭黄兵团。”同时，中央军委还决定中原野战军主力在淮海战役发起前攻克郑州，然后攻开封或直出津浦路徐州、蚌埠间，钳制敌孙元良、邱清泉、李弥兵团和第四绥区部队，配合华东野战军作战。第二、第六纵队首先协同江汉、桐柏军区部队，努力将黄维兵团牵制在平汉路以西，并彻底破坏平汉路南段，当黄维兵团东援徐州时，则对其进行尾击和侧击，迟滞其前进速度。
10月22日，中原野战军主力占领郑州，守敌万余人北逃，被我迫歼于郑州以北老鸦陈地区。24日，开封守敌东撤，中原野战军主力4个纵队，在政治委员邓小平、副司令员兼华东野战军司令员、政治委员陈毅率领下，乘势继续东进。11月1日，中央军委根据粟裕的建议，决定整个战役由邓小平、陈毅统一指挥。7日，中央军委、毛泽东主席依据辽沈战役胜利后出现的全国军事形势的巨大变化，决定扩大淮海战役的原定规模，指示华东野战军主力按原部署直出新安镇两侧及台儿庄、贾汪、邳县（今邳城）、炮车，中原野战军主力及华东野战军一部，继续在徐州以西地区求歼第四绥区刘汝明部，尔后两大野战军即可直逼徐蚌线。并指出：第一仗应力争歼灭敌第七兵团全部、第十三兵团一部和第三、第四两个绥区的部队等共21个至22个师，尔后如徐州之敌仍未撤退，即可打第二仗，求歼第十二、第十六兵团，使徐州之敌完全孤立起来。
我军参加淮海战役的兵力计有：华东野战军15个步兵纵队、1个特种兵纵队，约36万人，中原野战军7个步兵纵队，约15万人，以及能够就近参战的华东军区、中原军区、华北军区所属冀鲁豫军区的地方部队，总兵力约60万人。与敌军总兵力相比，敌军虽仍占优势，但已相差无几，而且我军连战皆捷，士气旺盛，辽沈战役的伟大胜利，极大地增强了战胜徐州之敌的信心；经过开展反对无组织、无纪律倾向的斗争，加强了组织性、纪律性，全军思想统一，指挥统一；华东、华北两解放区己完全连成一片，中原解放区已日臻巩固，两大野战军联合作战所需的人力、物力、财力、运输力，基本上有了保障。因此，华东、中原我军已具有歼灭敌刘峙集团的必要条件。
