三代之制，天子六军，其将皆命卿，故《夏书》曰：“大战于甘，乃召六卿。”盖古之天子寄军政於六卿，居则以田，警则以战，所谓入使治之，出使长之之义。其职在国则以比长、闾胥、族师、党正、州长、乡大夫为称，在军则以卒伍、司马、将军为号，所以异军国之名。诸侯之制，大国三军，次国二军，小国一军，其将亦命卿也。晋献公初作二军，公将上军，未有其号，魏献子、卫文子始有将军之称（《左传》曰：“晋阎没、女宽谓魏子曰：‘岂将军食之而有不足。’”注曰：“献子为中军率，故谓之将军。”又《礼记》曰：“将军文子之丧。”）。自战国置大将军，周末又置前、後、左、右将军。秦因之，位上卿，金印紫绶。汉兴，置大将军、骠骑将军，位次丞相，车骑将军、卫将军、左右前後将军，皆金印紫绶，位次上卿（《後汉志》曰：“汉将军比公者四，谓大将军、骠骑、车骑、卫将军。”）。掌京师兵卫、四夷屯警。孝武征闽越、东瓯，又有伏波、楼船；及伐朝鲜、大宛，复置横海、度辽、贰师。宣帝增以蒲类、破羌。权时之制，若此非一，亦不常设。光武中兴，诸将军皆称大；及天下已定，武官悉省。四征兴於汉代，四安、四平起於魏初。後汉有三镇之称，魏有镇北之号。晋武帝重兵官，故军校多选朝廷清重之士居之，置中军将军以统宿卫七军。及五王作难，东海王越以顷兴事皆由殿省，乃奏宿卫有侯爵者皆罢之。时殿中武官并封侯，由是出者略尽，皆涕泣而去。乃以东海国官领左右卫，以国兵宿卫。晋、宋以来，以领军、护军、左右二卫、骁骑、游击将军，谓之六军（《宋舆服志》曰：“骠骑、车骑，卫将军及诸将军加大者，皆金章紫绶，武冠，佩水苍玉。诸军司马，银章青绶，朝服武冠。”）。其四安、四平、左、右、前、後、征虏等将军及四中郎将，晋代荀羡、王胡之并居此官。宋、齐以来，唯处诸王素族无为者。齐以二卫、四军、五校，骁骑、游击、积射、强弩、殿中员外、殿中武卫七将军，殿中司马左右及虎贲中郎将，冗从仆射，羽林监，武骑常侍谓之西省，而散骑为东省。梁武帝以将军之名高下舛杂，命更加釐定，於是有司奏置一百二十五号将军，以镇卫、骠骑、车骑为二十四班，四征、四中为二十三班，八镇为二十二班，八安为二十一班，四平、四翊为二十班，凡三十六号，为重号将军。又有五德将军（忠勇、军师、武臣、爪牙、龙骑、雲麾、镇兵、翊师、宣惠、果毅、智威、仁威、勇威、信威、严威、智武、仁武、勇武、信武、严武是为五德将军也），以班多者为贵。凡十品、二十四班。品取其盈数，班法气候之数。制簿悉以大号居後，以为选法，自小迁大也。前史所记，以位得从公，故将军之名次於台槐之下。至是备其班品，叙於百官之外，凡一百二十五将军。後魏将军之名多矣，谓骠骑、军骑、卫为三将军；未年有八柱国大将军，其中六人各督二大将军，凡十二大将军（元赞、元育、元廓、侯莫陈顺、宇文导、达奚武、李远、豆卢宁、字文贵、贺兰祥、杨忠、王雄等是也）。又各分统开府二人，一开府领一军兵，是为二十四军，分掌禁旅，当爪牙御侮之寄。自大统十六年以後，功臣位至柱国及大将军者众矣，咸是散秩，无复统御（後周武帝三年，改诸军军士并为侍官）。隋炀帝以左右翊卫、左右屯卫、左右御卫、左右候卫，凡十二卫，各置大将军一人、将军二人，以总府事（每卫各置长史、录事参军、司仓、兵、骑、铠等参军员。军人总名卫士），盖魏、周十二大将军之遗制。唐武德初，秦王既平王世充及窦建德，高祖以秦王功殊今古，自昔位号不足以为称，乃特置天策上将军以拜焉，位在王公上。及升储宫，遂废天策府。二年七月，高祖以天下未定，事资武力，将举关中之众以临四方，乃置十二军，分关中诸府以隶焉（以万年道为参旗军，长安道为鼓旗军，富平道为元戈军，醴泉道为丹钺军，同州道为羽林军，华州道为骑官军，宁州道为折威军，岐州道为平道军，豳州道为招摇军，麟州道为苑游军，泾州道为天纪军，宜州道为天节军）。每军将一人，副一人，取威名素重者为之（杨恭仁、刘弘基、长孙顺德等为其将），督耕战之备。自是士马强劲，无敌於天下。五年省。七年，以突厥寇掠，复置十二军，後又省之。其後定制，有左右卫、左右骁、左右武、左右威、左右领军、左右金吾、左右监门、左右千牛、凡十六卫，大将军各一人（左右卫及左右金吾总谓之四卫，其馀谓之杂卫），将军总三十人（左、右千牛卫将军各一人，馀卫各二人）。左右羽林、左右龙武、左右神武六军，大将军各一人，将军各三人，皆有卫署。其骠骑、辅国、镇军、冠军四大将军，雲麾、勇武、壮武、宣威、明威、定远、宁远、游骑、游击等九将军，并为五品以上武散官。先天二年正月十日诏：“往者卫士计户取充使，二十一八幕，六十出军，既惮劬劳，咸欲避匿。今改取二十五以上充，十五年即放出。频经征镇者，十年放出。自今已後，羽林、飞骑先於卫士中简择。”开元六年，始诏折冲府兵每六岁一简。自高宗、武后时，天下久不用兵，府兵之法浸坏，番役更代多不以时，卫士稍稍去匿，至是益耗散，宿卫不能给，宰相张说乃请一切募士宿卫。十一年，取京兆、蒲、同、岐、华府兵及白丁，而益以潞州长从兵，共二十万，号长从宿卫，岁一番，命左丞萧嵩与州刺史共选之。明年更号曰纩骑也。肃宗以後，有左、右神策军，各置大将军一人，统军各二人，将军各四人。後唐长兴三年，敕：“卫军神威、雄威及魏府广捷以下指挥，宜改为左右羽林，置四十指挥；每十指挥立为一军，每一军置都指挥使一人，兼分为左右厢。”应顺元年，改左右羽林四十指挥为严卫左右军，龙武、神武四十指挥为捧圣左右军。清泰元年，改捧圣马军为彰圣左右军，严卫步军为宁卫左右军。
宋朝承前代之制，有左右金吾卫、左右卫上将军，左右骁卫、屯卫、领军卫、监门卫、千牛卫上将军，诸卫大将军，诸卫将军，并为环卫官，无定员，皆命宗室为之，亦为武臣之赠典。大将军以下，又为武臣责降散官。政和中，改武臣官制，而环卫如故，盖虽有四十八阶，别无所领故也。至於禁旅，则有殿前司都副指挥使、侍卫步军马军都副指挥总之。孝宗时，始令节度使领左、右金吾卫上将军，承宣使领左、右卫上将军，在内则兼带，在外不带。“)