红军时期

该军的主力112师前身红军第5军，1930年以红5军为主的红三军团一举攻克湖南省省会长沙市，这也是十年内战时期红军攻下的最大城市。

抗日战争时期

红三军团后编为八路军115师343旅686团，参加了著名的平型关战斗。1939年编为山东军区第1师随罗荣桓进军山东，创建敌后根据地。第113师的前身是徐海东大将领导的红二十五军一部，在长征中孤军奋战，率先到达陕北。抗日战争中编为八路军第115师344旅，开赴华北抗日前线。其中一部进入山东，抗战大反攻时编为山东军区第2师。第114师的前身是张学良的东北军第53军111师，抗日战争中在地下党员万毅将军指挥下在山东举行起义。

解放战争时期

在东北解放战争中，东北野战军第1纵队以“三下江南”，“四战四平”名扬天下。辽沈战役结束后， 1纵改称为中国人民解放军第38军，在平津战役中担任天津主攻，率先突破天津城防，歼灭国民党军2.7万，活捉天津警备司令陈长捷，主攻天津成为38军的第二个成名仗。在整个解放战争中，38军从祖国最北的松花江畔一路过山海关，打到滇越边境，纵横5000公里，转战11个省市，歼敌16余万，攻占大小城市100余座，打遍了半个中国。

抗美援朝时期

抗美援朝时期,38军入朝作战。在第二次战役中，38军在梁兴初将军指挥下，担负关键的穿插重任。此役，38军共歼敌1.1万余人，缴获坦克14辆，大炮200余门，汽车300余辆。一举扭转了整个朝鲜战局。第二次战役是38军的第三次成名战，也是使该军名扬天下的战役。志愿军司令彭德怀在嘉奖电的最后亲笔写下“第38军万岁！”几个字。从此，“万岁军”的美名名扬天下。