第一、春秋时期：郡县开始零星出现
根据《春秋》、《左传》的相关记载，在春秋早期就已经出现了许多诸侯国置县的记录。比如：楚国先后将陈、蔡、邓、庸等小国灭掉之后，就地置县，而且派官吏去那里担任长官。
但这个时候的县跟后世所谓的郡县有所不同，比如：这个时候的县并不是国君的直属地，并且具有非常明显的封建采邑的性质，缺少内部的基层组织。
直到公元前514年，才出现了真正意义上的县。当时晋国的韩、赵、魏、知、范、中行氏等六家大夫，联手灭掉了祁氏与羊舌氏，然后将这两家的地盘分成十个县，任命十个人为县大夫。
这些县大夫，都要有真才实学，要到县里去亲自办公，并且将公务往上级上报，这就跟后世的县比较相似了。
而这个时候关于郡的记载是非常有限的，只有在《左传》中略有提到：公元前493年，晋国为了激励将士们，许诺“克敌者，下大夫受郡”。
起初，郡与县只是名称上的不同，两者之间并没有统属关系，郡通常是设在诸侯国的边地，而县则通常设立在较为繁华地区。
第二、战国时期：诸侯国大面积设县，郡统辖县的关系开始出现。
战国时期，各个诸侯国纷纷拓展疆域，但这些诸侯国的国君又担心自己辛苦征服来的土地会变成别人的，便不愿意在这些新疆域上采用分封制，这种局面无疑大大促进了郡县制的改革。
公元前350年，秦孝公任命商鞅进行变法，把小乡聚为县，在秦国公设了四十一个县，每一个县的最高长官都是由秦王来直接任命。
除了秦国以外，各国置县一般遵循如下原则：
1.在农耕发达的地方置县；2.在都城的周边置县；3.在战略要地置县。
可以这么说，在战国时期，各国置县的情况已经相当普遍了，郡下辖县的情况也已经开始出现。
像这种情况，一般情况下就多出现各诸侯国的边地里。有的是先在边地设了一个郡，后来随着经济的逐步繁荣，便在郡下多设了几县。有的则是因为军事上的需要，便在几个边地县上设置一个郡来进行统辖管理。
第三、秦朝时期：郡县制得到全面的推广
考虑到春秋战国时期，诸侯国之间的乱战局面正是由于分封制缘故，秦始皇最终决定采取李斯的建议，将郡县制推行至天下，他把全国上下分成三十六个郡，每个郡都设置郡守、郡尉、监察史等官职。
为了与小农经济相吻合，秦朝郡的划分，通常情况下是以山川为界，其辖区与自然地理辖区十分吻合。
后来秦朝虽然短命而亡，但其郡县制却被历朝历代所继承下来，沿用至今。