洪武初年,由大都督府的大都督节制中外诸军。1380年,改大都督府为中、左、右、前、后五军都督府,分领在京各卫所和在外各都司。都督府所管仅是兵籍和军政,不能直接统率军队。军官的选授权在兵部,而军队的调遣和最高指挥权则在皇帝。打仗时,兵部奉旨调兵,并秉承皇帝意旨,任命总兵将官,发给印信。战后,统兵官交还印信,士兵回归原来卫所。
定陵在军队编制方面,自京都至府县,皆立卫所。每卫5600人,置卫指挥使统领;每卫下辖五个千户所,每千户所有兵1120人,指挥官称千户;千户所下辖十个百户所,每百户所有兵120人,指挥官称百户;百户所下辖二总旗,每总旗下又辖五小旗,一小旗10名兵士。府县各卫归各省都指挥使司管辖,各都指挥使司又分别归统于中央的五军都督府。京都的卫军分两种,一是五军都督府分统的四十八卫军。明成祖时,定名“五军”,增到七十二卫,并添设三千营和神机营,与五军合称“京军三大营”。三大营是全国卫军的精锐。据估计,洪武后期全国兵额约180万以上,永乐时增至280万左右。