1944年8月20日，在延安的中共中央军委高级干部会议上，与会者正为战后军队的名称进行讨论，期盼着抗战的胜利即将到来。刘少奇率先发言，提出将八路军和游击队合并，统一称之为“解放军”，或称“国民革命军解放军”。这一名称在史料中首次被提及，刘少奇在后续会议中多次强调，认为“八路军”和“新四军”不再适用，应尽早改名为解放军。并获得了罗荣桓等其他将领的支持。

这个建议在当时看来是合乎逻辑的，眼看抗战胜利在即，国共关系也注定会发生变化，换个名称似乎毫无不妥。然而，毛泽东并没有立即赞成，反而提出两个问题，使得会议陷入沉默。第一个问题是：“‘解放军’这个名称早在1944年就被有人提到了。”虽然很多人认为这一称谓是在抗战胜利后才出现的，其实早在1944年的战场上，随着国际反法西斯战斗的胜利曙光，延安的领导层就开始考虑战后军队的身份问题。刘少奇在军委高层会议上提到过：“我们已经拥有50万正规军和200万游击队，完全可以称之为解放军。”

随后在同年的9月、10月，他又提出在不同地区成立解放军的建议，部分地区甚至已经开始小规模地使用这一名称。不同的部队如南路人民抗日解放军和广东人民抗日解放军在1945年相继成立。8月15日，山东军区司令员罗荣桓也建议将部队的番号更改为“人民解放军”，并在得到中央军委的同意后实施了改编。

然而，全军并未广泛推广这个名称，其原因是毛泽东的顾虑。刘少奇认为，此时改名有助于在即将到来的政治变局中与国民党划清界限，防止蒋介石的背叛。然而，毛泽东则从另一个角度考虑问题，提出两个关键问题：“如果现在就拆开，我们的抗日斗争怎么办？”以及“大家还记得皖南事变吗？”这些问题使会议现场一片寂静，简单明了的道理使得大家意识到改名的风险。