1958年,毛主席对全军干部提出:“凡是所有带‘长’的,无论师长还是军长,都要下到连队当一个月的兵,要服从班、排长的命令,一年你管别人十一个月,别人管你一个月怎么了,我看头一年最好在连队待上两个月”。
1958年10月,杨成武和北京军区十几位将军一起下到连队当兵,杨成武被分配到了北京军区某部二连当兵。