年以前，各地红军的编制及番号没有统一，而是各行其是。当时甚至有些人认为：只有朱、毛、彭的部队可以称为红军，其余如贺龙等都不能叫做红军，只能算作游击队。
后来中央认识到，军队编制散乱，显然对革命不利，必须统一起来。年5月，党中央召开了全国苏维埃区域代表会议和全国红军代表会议，决定将各根据地红军，分别整编为第1、2、3、4军团，以后再在四个军团的基础上，扩编为四个方面军。
年6月19日，红四军、红三军、红十二军在长汀南寨广场正式整编为红一军团，朱德任总指挥，毛泽东任政委，朱云卿任参谋长，杨岳彬任政治部主任，共2万余人。不久，在赣西南地区成立的红军第20、第22军也划归红1军团建制。
7月7日，红二军、红六军在湖北江陵县普济观合编为红二军团，贺龙任总指挥，周逸群任政委，孙德清任参谋长，柳克明（柳直荀）任政治部主任，共1万余人。
6月中旬，红五军、红八军在湖北大冶组成红三军团，彭德怀任总指挥，滕代远任政治委员，邓萍任参谋长，袁国平（袁裕）任政治部主任。
鄂豫皖地区的红一军、红九军组合成红四军团，徐向前任总指挥，陈昌浩任政治委员。
这四个军团，基本上对应了后面的方面军，红一军团发展为红一方面军，红二军团发展为红二方面军，红四军团发展为红四方面军，只有红三军团，没有发展为红三方面军，这是为何？
主要原因是红三军团总指挥彭德怀的意愿，他觉得得红三军团还达不到称为方面军的条件。
年7月22日，彭德怀、滕代远等在湖南省平江县举行了“平江起义”，起义部队改编为中国工农红军第五军。后来红五军撤出平江，主力于12月到达宁冈，与红四军会师。
红五军自组建到年，人员一直不是很多，最多时只有8千多人，相当于一个师的规模，却顶着一个军的番号。红五军、红八军组成红三军团时，彭德怀就有点不愿意，他认为应当再壮大一些，得有5万人了，再成立军团才合适。军团都不够格，方面军就更不行了。组织架构上去了，就需要安排更多的干部，而我们的干部本来就稀缺，这是浪费资源。他征求了一下滕代远的意见，滕代远和他是老搭档，自然支持他的想法。
于是，彭德怀向中央表达了自己的想法，把红三军团和红一军团合编为红一方面军，这样中央红军的实力才更强，斗争形势也更有利。中央经过研究，肯定了他的想法。
年8月，红一军团与红三军团在湖南省浏阳县永和市（现湖南省浏阳市永和镇）李家大屋会师，并整编成立中国工农红军第一方面军。朱德任总司令，彭德怀任副总司令，毛泽东、周恩来先后任总政委。这就是后来所称的“中央红军”。
既然中央有把红三军团发展成红三方面军的计划，彭德怀如果从个人发展的角度考虑，完全可以接受下来。这样一来，他就是一个方面军的统帅，官职和地位也就会更高。但是，他为革命胜利着想，甘居朱德之下，成为副职。这就是老一辈革命家的无私胸怀，令人赞叹！