“将军”一词，是对古代高级武官的称呼，这种称呼有时是官衔，有时则只是尊称。

将军并非自古就有。商周等早期王朝都有负责军队管理的官职，但是不叫将军。比如按照《周礼》记载，周代负责国防事务的最高官职是大司马，而没有将军之说。

一直到春秋时期，在古代国家的制度体系下，文官和武官还没有完全分开。司马只是负责日常的军政管理，并不具有指挥全国军队的权力。当时实行国人当兵的制度，所有的贵族都有参军的义务，相应的高级贵族就成为作战时的指挥官。最高级的“卿”一级的贵族，就是高级将领。平日里，卿士们负责处理国政。一旦发生战争，卿士就要带兵出征。

这种高级贵族出将入相的现象，在春秋诸侯国中是较为普遍的，比如晋国有鸾氏、荀氏、赵氏、韩氏等世家大族，这些大族世代承袭卿士爵位，轮流担任执政。当时军队的最大编制是军，一军的统帅有主将和佐将，都由卿士担任。晋国在春秋时期大部分时间有三个军的编制，主将和佐将共六人，都是卿士(最多时有六个军，十二名卿士)。而中军的主将则同时是三军主帅，也是一国的最高执政长官。

在春秋时期，“将”这个字主要当作动词使用，即“统帅”的意思，所以某卿士统帅某支部队，一般称“将某军”。后来“将”发展成名词，遂有“军将”的说法。

到了春秋末年“军将”就演化成了“将军”。但是终春秋之世，“将军”只是对卿士的另一个称呼，而非官职名称。很多古籍记载，春秋后期，晋国的智氏、中行氏、范氏、赵氏、魏氏、韩氏六大世袭卿族把持政权，称“六卿”，也叫“大将军”。此时的将军等同于卿士。

​

战国时期，文臣武将不分的局面发生改变，专业武官出现，将军就成为了正式的官职，但是这个官职的地位、权力依然不固定。直到西汉前期，将军这个官职的设置仍然带有一定的随意性。西汉中后期到东汉，将军的设置才固定化，并且区分了等级。将军成为高级将领担任的固定官职，从地位最高的大将军到随处可见的杂号将军，中间有好几个层级。

有些朝代，比如宋朝，将军不是官职名，而只是一种称号。而清朝的将军则更多地成了一种军衔或者爵位，即使作为官职，也未必是指武将。在现代军衔制度中，军衔为将官的军官，也可称为将军。