实际军衔与编制军衔严重脱节，实际军衔普遍低于编制军衔。中央军委认为军衔制度存在许多不利因素，建议取消。全军首次实行军衔制，给我们后人留下了许多可供探讨、分析、研究的话题。中国人民解放军1955年陆海空三军大授衔，是我军正规化建设的一座丰碑，在我军军制史上具有划时代的重要意义。
中国人民解放军自1955年首次实行军衔制以后，经历了一个曲折的过程。
由于首次授衔时，评衔条件掌握较严，又盲目听取苏联顾问建议，根据苏联的经验，在首次授衔时，军衔应尽量压低。所以，1955年4月1日总干部部在《关于评定军衔工作中若干具体问题的补充规定》中规定评定军衔“授予军官军衔时，一般不得高于编制军衔，但可低于编制军衔一级至两级”，“一般以不低至其编制军衔三级为原则”。
共和国十大元帅
1955年授衔后，就存在实际军衔与编制军衔严重脱节、实际军衔普遍低于编制军衔一到两级的现象，如军长、师长的编制军衔应该分别为中将、少将，而当时66名在职的军长、军政委，被授予中将军衔以上的只有8人，仅占12％；73名在职的师长、师政委，被授予少将军衔的只有3人，仅占4％。而副师、正团、副团、正营职军官绝大多数分别被授予上校、中校、少校、大尉军衔，可以说，实际军衔与编制军衔基本不相匹配。
共和国十大元帅
1956年11月，也就是军衔制实行一年以后，国防部又发出《关于严格控制提拔干部的通知》。随即干部军衔的晋升基本停止，使实际军衔与编制军衔严重脱节的情况进一步加剧。1957年至1959年，少将以上军衔除了零星补授几个以外，没有一名晋升者；全军师长、师政委中，只有2.5％的少将，大校占37％，上校占57％，还有％的中校，％低于编制军衔；团级以下的情况更是如此。这样，军衔制实行了四年之后，由于军衔晋升制度执行得不严格，多数军官的军衔不能正常晋升，实际军衔低于编制军衔的现象有增无减。
不过，中央军委已经意识到实际军衔与编制军衔严重脱节的情况。为了扭转这种现象，1959年11月，经中共中央、中央军委批准，总政治部发出《关于调整干部军衔及别的指示》，规定符合下列条件者可晋升军衔：少尉至上尉，军衔明显低于所任职务者；大尉至上校，1955年授衔后未调整者，或虽调整过，但在同级干部中明显偏低者；政治进步、德才优秀，有突出成绩者；因历史错误降低授衔，现已改正，并经考验者；因历史问题降低授衔，现已查明的或属于一般问题者。
1960年，校、尉军官晋升军衔的工作进行完毕。1961年，由大校晋升少将的工作也开始大规模进行，约45％的军官晋升了军衔。但少将以上将帅的晋升工作仍然没有启动。
共和国十大元帅
1961年由大校晋升少将军衔的人员共218名。
1962年和1963年授予与晋升少将军衔的人员共15名。
1964年2月，总政治部提出：今后，除上校以上军官晋级由总政治部统一安排外，少尉至中校，凡军衔晋级期满，其军衔低于所任职务的最高编制军衔，德才较好的，均可按时晋升军衔。符合提前晋升军衔的，可提前晋升军衔。据此，1964年又晋升了一批少将。
共和国十大元帅
4月13日，国务院总理周恩来签署命令：授予国防工业办公室副主任李如洪少将军衔。李如洪是我军“五五式军衔”时期授衔的最后一名将军。
10月30日，国务院总理周恩来签署命令：旅大警备区炮兵司令员巫金锋，由大校晋升为少将军衔。巫金锋是我军“五五式军衔”时期晋升的最后一名将军。
1964年授予与晋升少将军衔的人员共320名。
至此，五五式军衔期间的少将授衔、补授、晋升工作全部完毕，共授予、补授、晋升少将1360名。此时，晋升的少将工资级别一般为行政九级。
虽然军官晋升的更加合理的规定出台了，但是这个合理的规定显然有一种“迟到了”的感觉。因为，它提出不久，“五五式军衔”制就已走向了自己的归宿。
从60年代初开始，林彪大搞“突出政治”，军衔制被视为资产阶级的建军原则和法规，与大的政治背景相冲突，而遭到非议。
在客观上，由于受苏军“一长制”影响，我军制定编制军衔时，过分强调主官军衔，有过一些不合理的规定。一是副职编制军衔同于或低于下一级正职。如1955年编制军衔规定：副军长与师长编制军衔相同；军副参谋长军衔低于师长；师副参谋长军衔低于团长等等。二是机关干部编制军衔低于同级部队干部。例如，同是正师级的总部下属处长、军兵种二级部长和军分区司令员、政委的编制军衔低于师长。还有一些基层技术军官的编制军衔定得过低过死，如司药、护士长、化验员等，编制军衔少尉，条件再好也不能晋升中尉。这些规定显然不符合解放军实际。
1958年军委扩大会议上，许多将领认为军衔制是教条主义的东西，不符合我军的实际，尤其对编制军衔提出了质疑。余立金中将等6位空军将领在联名小字报上写道：“从颁布编制军衔以来，事实上没有实现。原因是，不完全符合我军的实际情况。因而，根据目前情况，我们建议取消编制军衔。”北京军区副政委张南生中将说：“削足适履的编制军衔应改变。”总后勤部副部长饶正锡中将说：“请考虑可否取消编制军衔的规定。”
林彪
另外，军衔的种类和称谓比较繁杂，不好记忆。根据规定，海军海上军官及技术、军需、军医、兽医、军法、行政军官的军衔名称前，均冠以军种或专业勤务名称，构成这些军官的军衔称谓，如“海军少尉”、“技术上尉”、“军需中校”、“军法上将”等。其他军兵种军官，除步兵军官外，规定只是在将官军衔前冠以军兵种名称，如“炮兵少将”、“装甲兵中将”、“公安军上将”、“空军大将”等；校官以下人员，无军兵种衔称，直接称谓其军衔，如“中校”、“大尉”、“中尉”等。步兵军官将、校、尉各级军官均无军种衔称，直接称谓其军衔，如“上校”、“少将”等。防空军军官按其所包括的兵种，分别授予该兵种的军衔。如“探照灯兵上尉”、“雷达兵中校”等。
从实施情况看，以上这些分类，一是过于机械，有些也莫名其妙。例如，同是并列的军种，防空军军官军衔前就不能冠以军种；而同是海军军官，海军岸防兵和航空兵等兵种则不能冠以“海军”。1958年军委扩大会议上，某海军基地副司令员对军衔称谓提出了看法：“在军衔的称呼上也在客观上对政工干部有不同的看待，如军事行政干部可以称呼‘海军上校’、‘海军少将’。而政工干部，哪怕是主管的政治委员也只能称呼‘上校’、‘少将’，而不能享受‘海军’二字。”二是这些规定过于繁琐，甚至连干部部门都记不住，实际上在实施时也没有完全按规定来称谓军衔。
由于实际军衔普遍偏低，1955年颁发的编制军衔表已无法执行。1960年，根据当时的实际军衔情况，国防部重新修订颁发了《军官职务编制军衔》。由于1955年编制军衔表中部分军官职务一职设一衔不宜实行，新的编制军衔取消一职一衔的规定，改设一职多衔。如正军职到正团职多为一职三衔。
元帅晚年
1960年修订的编制军衔，将多数军官职务编制军衔的下限压低了一两级，如军长的编制军衔，1955年为中将，1960年为中将、少将、大校三级；师长的编制军衔，1955年为少将，1960年为少将、大校、上校三级；团长的编制军衔，1955年为上校，1960年为上校、中校、少校三级。由于新的编制军衔一职多衔，虽然解决了实际军衔与编制军衔脱节的问题，但因为是降低了原编制军衔的下限，实际上是使军衔偏低的现象“合法化”。这样，到1965年取消军衔制，解放军实际军衔明显偏低的现象仍很严重。
由于军衔制是50年代中苏关系“蜜月”时期从苏联学来的，中苏关系恶化后，军衔制又被扣上一顶“修正主义”军事制度的帽子。于是，在当时“限制资产阶级法权”的“左”的思想影响下，军队开始酝酿取消军衔制。
据《罗瑞卿传》披露：1964年8月间，毛泽东吩咐贺龙、罗瑞卿一道到北戴河，向他汇报军队高级干部减薪问题，作为防止修正主义的一项措施。讨论中，贺龙建议：“是不是连军衔一齐取消算了？”毛泽东立即回答：“取消，搞掉那块牌牌！我早就想搞掉它。”回京后，罗瑞卿打电话给林彪的秘书，请他报告此事并请林彪指示。经几次催问，秘书均说：“已报告了，林总未说什么。”罗瑞卿仍硬着头皮请秘书去请示，并对秘书说：“如果林总没有表示，我们不好执行。”两天后，秘书回电话说：“林总同意。”从而，启动了取消军衔制度的程序。