为了区分军队中军人的职务和上下级关系，在建国之后我国就逐步设立和完善了军衔制度，虽然期间有段时间军衔制度取消，但是到了上世纪八十年代后基本稳定。通过修改和删减，中央军委决定有一个军衔必须保留，而且其级别还要是“正师职”，那就是大校军衔。
大校军衔最早由朝鲜设立，后来我国也将其借鉴过来，该军衔设立之初就相当于“正师职”级别，可以说是校级军官的最高等。但是为什么大校军衔会成为一个特殊的军衔而必须被保留呢？其实全球大多数国家都是没有这一军衔的，一般只有少校、中校再到上校三个校级军衔，再往上就是准将。
在上校上面再加个大校，那不就是上上校了，其实西方国家就是这样看待中国的大校的，在他们眼里，大校就是“老上校”，想想是不是就觉得很奇怪？众所周知，一般军官升到大校再往上升就很难了，上一级的少将级别相当于“省部级”，这是一个槛，很多人都卡在了上面，无法成为一名将军。
其实我国的大校就相当于西方国家的准将，但是在中外军事交流时，外军却不会以将军的礼仪对待我军的大校，他们就是觉得大校就是老上校。但是之所以保留这一军衔，主要还是结合中国国情，要不然会造成将军太多的局面，使将军不再变得珍贵。