中国人民解放军第20军的前身是华东野战军第1纵队。
1945年11月10日，从苏浙皖边区北撤的新四军苏浙军区第2、第4纵队和苏中军区教导旅，在江苏省涟水组成新四军第1纵队(司令员叶飞，政治委员赖传珠，副政治委员兼政治部主任谭启龙，参谋长贺敏学)，下辖第1、第2、第3旅(分别由苏浙军区第4纵队、苏中军区教导旅和苏浙军区第2纵队改编)，共2．2万余人。
第1纵队成立后，为迎击国民党军对山东解放区的进攻，随即开赴山东作战，属津浦前线指挥部领导。在津浦路阻击战中，第1纵队在兖州、泰安、大汶口等地，歼灭伪军和国民党军各一部。1946年1月7日，改称为山东野战军第1纵队。6月，收复泰安、大汶口。7月，和鲁中军区部队一起，在胶济路反击国民党军进攻的作战中，取得文祖战斗的胜利。不久第1纵队奉命移师鲁南、淮北。12月，参加宿北战役，协同兄弟部队歼灭国民党军2个整编师和1个快速纵队。
1947年2月，山东野战军与华中野战军合并为华东野战军，原山东野战军第l纵队改编为华东野战军第1纵队(司令员兼政治委员叶飞，副司令员何克希，副政治委员谭启龙，参谋长张翼翔，政治部主任汤光恢)。其第1、第2、第3旅依次改称为第1、第2、第鳓师，同时辖由中原突围至华东的中原军区第1纵队第1旅改编的独立师，共2．3万余人。在当月的莱芜战役中，与兄弟部队密切协同，歼灭了国民党军李仙洲集团。．
1947年5月，第1纵队在孟良崮战役中担任穿插分割任务，为最终全歼国民党军整编第74师作出了贡献。6月底后，出击鲁南，连克费县、峄县、枣庄，后转战鲁西南。9月下旬，进军豫皖苏边区，攻克尉氏、鄢陵、逍遥镇等城镇。10月，北上定陶地区休整。11月，参加陇海路破击战，破击砀山至黄口段铁路，在砀山城歼国民党军1个旅。12月，挥师西向，解放永城、涡阳、毫县、柘城等地。12月底，独立师改归晋冀鲁豫军区建制。
1948年2月，在豫北濮阳进行新式整军运动，并抽调部分领导干部参加先遣支队，准备进军江南。6月，参加豫东战役，先担任阻援，后加入突击集团，为全歼国民党军区寿年兵团作出了贡献。9月，参加济南战役，和兄弟部队一起在鲁西南地区担任阻击，保证了济南战役的胜利进行。同年冬，参加淮海战役，先在新沂窑湾全歼国民党军第63军1．3万人，继而担任阻援任务，保障了兄弟部队围歼国民党军黄维兵团的作战。随后又参加了围歼杜聿明集团的作战。
1949年2月，根据中央军委关于统一全军编制及部队番号的命令，华东野战军第1纵队改称中国人民解放军第20军(军长刘飞，政治委员陈时夫，副军长张翼翔，副政治委员兼政治部主任汤光恢，参谋长廖政国)，属第三野战军第9兵团建制。其第1、第2、第3师分别改称第58师、第59师、第60师。全军共3．2万余人。
4月，第20军渡江南下，进占丹阳，截断宁沪铁路，后沿金坛、漂阳向广德追歼逃敌，一部参加郎(溪)广(德)围歼战。5月，参加上海战役，攻占平湖、金山卫，从龙华攻入上海市区。尔后，担任上海警卫任务。1950年2月，第30军第89师调归该军建制。解放战争期间，第20军参加大小战役战斗100余次。
1951年11月，第20军入朝参加抗美援朝战争，在第二次战役中，第20军对长津湖地区之敌实行分割包围，重创美陆军第11师。在第五次战役中，歼灭南朝鲜军第5师和第7师5个营；继而又在华川地区进行防御作战。在抗美援朝战争中，第20军涌现出志愿军特级战斗英雄杨根思、卜广法、于潘宫、车树琴(女)、孙振禄、任玉祥等英模个人及“杨根思连”等英模单位。1952年10月，第20军从朝鲜回国。
