1956年9月，中共第八次全国代表大会决定，把军政费用占国家财政开支的比重，由第一个五年计划的32％降低到第二个五年计划的20％左右，把国防费用降低到占国家财政总支出的15％左右。

据此，中央军委于1957年1月召开扩大会议，讨论了加强国民经济建设同加强国防建设的关系。会议通过了《关于裁减军队数量加强质量的决定》，确定全军总人数再裁减1/3。

1957年7月16日，彭德怀在第三次国防委员会全体会议上，谈到为什么要进一步裁减军队人员，如何裁减，以及建军方针等问题时说：“从军费开支来看，1956年我国军费的开支是61.16亿元，占国家总支出的20％。在这里边，用于吃、穿、训练、装备修理、办公杂支、工程建筑、动员复员的费用，占去大部分，而用于装备购置费用的，只占一小部分。在这种情况下，显然想迅速提高军队的装备质量，是很困难的……因此，我们针对这种情况，从今年开始，准备进一步裁减军队的数量。准备裁减的，主要是各种平时没有迫切需要的勤务部队，是些可办可不办的过多的学校，是些工作任务重叠或者可以合并的机关部门，并且在保持足够战斗单位骨干的原则下，把战斗部门的战时编制转为平时编制。”

这次精减工作从1957年开始到1958年底结束，共转业和复员了100余万人。全军成建制地集体转业或移交地方的有1个军部、16个师、30余所医院和30余所院校。精简最多的是步兵部队和各级机关，步兵部队精简51.2％，各级机关精简27.2％，全军总人数降为237万。在步兵减少的同时，海、空军和特种兵得到了加强，占到全军总人数的32％，成为合成军队中重要的战斗力量。

被精简出去的部队官兵很多投入到了农垦事业中去。

20世纪50年代，经过连续4次大规模精简，解放军的军费开支由占国家财政支出比例的43％，下降到8.9％，减轻了国家的负担，支援了国家的经济建设，军队的合成化建设和质量建设也得到了提高。

同时，在四次精简整编过程中，完成了人民解放军由战时体制向国防军体制的过渡，初步建立了和平时期人民解放军的体制编制，建立健全了全军的领导机构，重新划分了战区，建立了军区领导机构，完善了战略战役指挥体系，最终形成了具有中国特色的武装力量体制。