唐朝建立之初，天下尚未完全平定，军政体系百废待兴，唐高祖李渊以隋朝成熟的军事制度为根基，结合唐初统治需求，着手全面恢复、重建府兵制体系。他先是牵头组建府兵制最高领导机构，逐级完善从中央到地方的各级军事组织架构，同时针对性制定府兵简选、兵员征集、日常训练、衣粮自备等一系列规章制度，牢牢保留府兵制兵农合一、寓兵于农的核心属性，让府兵平时耕作务农、战时应征入伍，既保障了农业生产，又节省了国家养兵军费，快速稳定了唐初的军事统治秩序。
等到李世民登基即位，唐王朝虽已站稳脚跟，但边防形势却日趋严峻：北方突厥屡屡南下侵扰，西北吐谷浑、高昌等部族割据作乱，东北边疆也战事频发，加之地方豪强势力尚存，中央集权亟需