中国人民解放军第28军的前身是华东野战军第10纵队。该队是由抗日战争时期山东军区所属渤海军区部分部队发展而来的。抗日战争胜利后，山东军区所属渤海军区的主力部队大部分挺进东北，渤海军区将留下的部队组成6个团，即渤海军区特务第1第2团警备第6旅第11团、警备第7旅第13、第14团、警备第8旅第17团。1946年6月，内战全面爆发。7月，为适应解放战争形势需要渤海军区以特务第l、第2团和警7旅第13团，组成山东解放军第7师，在胶济路参加自卫反击作战，取得济阳、邹平、齐东等战斗的胜利。10月，华东军区成立渤海军区前线指挥部。l1月，渤海军区以警备6旅第11团、警7旅第14团、警8旅第17团组成山东解放军第11师。第7、第11师均隶属渤海军区前方指挥部指挥。
1947年1月下旬，中央军委决定将山东野战军和华中野战军统一整编为华东野战军。2月，渤海军区第7、第ll师合编为华东野战军第10纵队。宋时轮任司令员，景晓村任政治委员，刘培善任副政治委员，赵俊生任参谋长，萧望东任政治部主任。第7、第11师依次改称第28、第29师，同时组成纵队特务团，共1．6万余人。纵队编成后，即参加莱芜战役，在锦阳关及其以北阻援，保证主力歼灭国民党军李仙洲集团。4月下旬，配合兄弟部队发起泰安战役，歼灭国民党军整编第72师主力，俘师长杨文泉以下1．1万人。5月，参加孟良崮战役，于莱芜以北地区阻援，保证主力全歼国民党军整编第74师。
进入1947年下半年后，我军转入战略反攻。第10纵队编入华东野战军外线兵团参加外线出击，攻克津浦线之大万德、界首，接着在鲁西南地区进行了梁山阻击战，和华东野战军外线兵团各部一起，掩护晋冀鲁豫野战军主力进军大别山。9月至11月，参加沙土集战役和陇海路破击作战。
1948年1月，在成武、曹县地区进行新式整军运动，2月，改归晋冀鲁豫野战军指挥，越过陇海路，挺进豫皖苏边区作战。3月，攻占安微省太和、涡阳等地，4月，进至平汉路南段作战，解放河南省汝南、驻马店、确山等城镇。5月，参加宛西战役，先后攻占邓县和老河口。随后又参加宛东战役，歼国民党军4200余人。6月，华东野战军主力发起开封战役，该纵奉命归建华东野战军，由平汉路东进至上蔡地区，参加阻击国民党军胡琏兵团，为开封战役的胜利作出了贡献。6月下旬起，参加睢杞战役，于杞县东南桃林岗，顽强阻击5昼夜，予国民党军第5军以重创，保证野战军主力歼灭区寿年兵团。9月，参加济南战役，和兄弟部队一起经8昼夜激战，解放济南，该纵歼国民党军1．7万余人；第85团第5连战后被授予“济南连”荣誉称号。同年冬，参加淮海战役，先在徐州以东阻援，保证主力围歼黄伯韬兵团，继又参加合围和聚歼杜聿明集团。
1949年1月，以第28、第29师各一部组建第30师。2月，根据中央军委关于统一全军编制和部队番号的命令，第10纵队改称中国人民解放军第28军(军长朱绍清，政治委员陈美藻，副军长萧锋，参谋长吴肃，政治部主任吴嘉民)，隶属第三野战军第10兵团。所属第28、第29、第30师依次改称为第82、第83、第84师。全军共3．4万余人。
1949年4月，参加渡江战役，于江阴以西登陆后，解放戚墅堰，切断宁(南京)沪路，连克宜兴、长兴、吴兴，歼国民党军1．1万余人。5月，参加上海战役，攻克太仓、嘉定、罗店等城镇，协同兄弟部队解放吴淞，歼国民党军8700余人。7月进军福建，至10月．参加福州等战役，解放闽清、福州和平潭、大小嶝岛等岛屿。该军一部参加攻占金门岛战斗，因渡海作战准备不足而失利。同年底，驻防福建前线，执行剿匪等任务。1952年5月，第28军归福建军区领导。
整个解放战争时期，第28军在作战中，涌现出英模单位2个营、7个连和特级战斗英雄2人，一级人民英雄15人，一级战斗英雄4个，其他英雄模范500余人。
