1948年8月，敌徐州“剿总”和华中“剿总”依据南京军事会议决定的战略方针，进一步加强了各战略要点的防御工事和兵力，将原来的整编军改为兵团，连同原有的兵团共辖7个兵团，并进一步加强了几个主力兵团的兵力，分别配置在以徐州、信阳为中心的地区，以加强中原的防御。其中，徐州“剿总”共辖6个绥靖区、4个兵团，连同特种兵及保安团队共70万余人，其部署是：第一、第二、第三、第四、第九、第十一绥靖区共15个整编师42个旅分别防守淮阴、济南、台儿庄、菏泽、海州、青岛等地；第七兵团3个整编师6个旅位于徐州以东新安镇地区，第二兵团4个整编师13个旅位于商丘、砀山地区，第十三兵团2个整编师6个旅位于固镇、蚌埠地区，第十六兵团3个整编师6个旅位于郑州地区。另“剿总”直辖2个整编师位于徐州。
中原、华东两野战军在战争第二年，经过内外线配合作战，歼灭了大量敌人，解放了许多重要城镇和广大乡村，打通了中原、华东两解放区的联系。在山东境内，除青岛、烟台、临沂、济南等孤立据点尚为敌盘踞外，其余已全获解放。此时，华东野战军外线兵团的第一、第四、第八纵队位于毫县、涡阳地区，第三、第六、第十、两广纵队及中原野战军第十一纵队位于济宁、嘉祥、金乡地区，苏北兵团第二、第十一、第十二纵队位于沭阳、涟水地区，山东兵团第七、第九、第十三纵队及渤海、鲁中南纵队位于莱芜、泰安地区休整；中原野战军主力位于宝丰等地区休整，准备雨季后对敌开展更大规模的攻势作战。
依据敌我双方的基本情况，豫东战役和津浦路中段战役胜利结束后，中央军委、毛泽东主席于1948年7月14日指示华东野战军准备攻取济南，相机歼灭部分援敌，并指出：“如能在八、九两月攻克济南，则许谭全军可于十月间南下配合粟陈、韦吉打几个大仗，争取于冬春夺取徐州。”要求华野首长据此考虑下步作战方案。
华东野战军首长依据中央军委的指示和华东地区敌情，于8月10日提出了下步作战的3个方案：（一）集中华野全力进入豫皖苏及苏北地区，切断徐蚌铁路，孤立徐州，着重求歼徐州出援的敌人；（二）集中主力首先攻占济南，以必要兵力阻击徐州可能北援的敌人；（三）攻占济南与打援同时实施，但有重点地使用兵力，第一阶段先以一部夺取济南机场，主力求歼徐州援敌一部。第二阶段以一部兵力阻击援敌，主力转攻济南。通过比较，认为以执行第三方案为有利。鉴于徐州至济南间有公路与津浦路相平行，地形较开阔，膝县、邹县间及泰安以北各有一片山区，商丘北至济宁、汶上间全为平原，自徐州以北的利国驿向西北经济宁直达东平，有运河及微山、蜀山、东平等一连串湖泊，加上徐州敌军的部署，华东野战军首长判断徐州之敌可能分两路沿津浦路及经鲁西南北援，因而准备将打援战场选择在汶河以北、泰安以西、肥城以南地区或邹县、膝县间地区，阻援战场选择在鲁西南金乡、巨野、嘉祥地区。8月12日，中央军委复电同意实行攻济打援的作战方针，并指出作战结果预计有三种可能：第一，打一个极大的歼灭战，即既攻克济南，又歼灭大部分援敌；第二，打一个大的歼灭战，即既攻克济南，又歼灭一部分援敌；第三，济南既未攻克，援敌又不好打，形成僵局，只好另寻战机。同时又指出，依中原作战经验，要估计到一种可能出现的情况，即我不真攻济南，徐州援敌必缓缓推进，并不真援，使我无战机可寻。因此，“我们目前倾向于攻城打援分工协作，以达既攻克济南，又歼灭一部援敌之目的。”在阻援、打援部署方面，军委指出：应将兵力全部置于嘉祥、巨野、兖州、济宁及其以南地区，“夹运（河）而阵”，以便随时转移兵力用于阻击或歼灭援敌。随后，华东野战军首长依据军委指示，对战役的实施和兵力使用问题，作了初步部署。26日中央军委复电指出：此次战役必须预先估计三种结果：（一）在援敌距离尚远之时攻克济南，（二）在援敌距离已近之时攻克济南；（三）在援敌距离已近之时尚未攻克济南。我军应争取第一、第二种可能，在第三种情况下，即应临时改变作战计划，由以攻城为主，改变为以打援为主，待打胜援敌后再攻城。因此，攻城应留出必要的预备兵力，阻援、打援集团更应留出强大的预备兵力，以便在第三种情况下能够消灭援敌。同时，应构筑多道坚固阻援阵地。28日军委又强调指出：此役关系甚大，战役计划应以能应付最坏的情况为出发点，准备用20天到2个月的时间完成战役任务；鉴于济南能否攻克，取决于时间，而取得时间则决定于是否能阻住援敌并歼灭其一部，因此在兵力使用上，应以一部兵力真攻济南，集中最大兵力于阻援与打援方向。整个攻济打援战役由华野代司令员、代政委粟裕统一指挥，攻城部队统由山东兵团司令员许世友、兼政委谭震林指挥。为策应华东野战军的攻济作战，中央军委确定中原野战军继续集结于豫西地区休整，待敌人在济南、徐州吃紧，第三、第十六兵团被迫增援时，歼击其一部，使其不能东进参战。
遵照中央军委的指示，华东野战军前委经过认真讨论，最后定下了以攻占济南为唯一目的，并求歼援敌之一部的战役决心。
