作為我國最為基本的行政區劃，“縣”這一個單位，實際上在春秋戰國已經出現，最早有文字記載的，應該屬於古代的晉國，事實上，“縣”在過去，和“懸掛”的“懸”屬於同樣的一個字，本意為“聯繫”，西周期間，周王的土地叫做王畿或國畿，和周天子緊緊“聯繫”在一起，因此《説文》“縣”字解，曰：“天子畿內，縣也。”
那麼我們最常見到過去的兩個縣級長官，就是知縣和縣令了，這也讓人感到好奇，在兩者之間究竟有什麼差別呢？實際上一字之差，卻是天差地別。
縣長的名字，在戰國的時候就已經出現，秦國商鞅變法，設置合併諸小鄉為縣，置令及職責。而到了戰國末期，郡縣兩級的制度形成，縣屬於郡，因此縣令也就成為了郡守的下屬。秦朝和漢朝對此都做出了規定，只有人口萬户以上的縣，縣官才能稱之為縣令，食祿六百石至千石，而萬户之下，稱之為長，秩三百石至五百石。
有意思的是，此時的縣令，權力是十分大的，屬於正五品官，掌管一縣行政，同時還能監管軍事，有人員編制的委任權，比如《水滸傳》中，武松僅僅是打了一頭老虎，清河縣的縣令就可以自作主張，將這個曾經有前科，來歷不明的男子收下作為都頭，因此過去有一個成語叫做“破家縣令”，形容的就是地方長官手中的權力，足以使人破家滅門。而除此之外，漢朝時期，還有“長安縣令”一個職務，是首都長安的行政官，雖然只有六品，但是其作用不亞於開封府尹。
那麼知縣又是一個什麼樣的存在呢？中國古代的歷史，本來就是中央集權封建制不斷加強的歷史，而縣令的權力，很顯然對於王朝統治者一個潛在的隱患，因此到了唐宋期間，中央朝廷會下派朝官代理縣令的職務，稱之為“佐官”或者是“知縣事”，這也就是知縣職務的由來。一個地方設置“知縣事”而沒有縣令的情況，也有很多種。比如這塊地方，剛剛發生過農民起義，或者是自然災害，急需平穩民心，又或者是在戰爭期間，位於緊要之處。
因此“知縣事”一般都是由朝廷委派下來的大臣，或者是當地的軍事長官，比如兵馬都監兼任。而一些被貶的官員，也會來到地方擔任知縣，歐陽修30歲的時候因為范仲淹辯護，來到夷陵當了三年的知縣。“知”的意思是主持，意思也就是知（主持）某縣事”，但是知縣比起縣令，並算不上一個正式的職務，秦漢的時候後，縣令有一定的軍事指揮權，除去日常的行政管理，同樣還要負責國家的税收和徵兵活動，而知縣後來都失去了這些職能，並且有着縣丞的牽制。
到了明朝的時候，因為朱元璋改制，推行行政簡化，因此縣令和知縣也就徹底合併下來，統一稱之為知縣，為七品官，明代的薪資很低，知縣一年俸祿90石糧食，根本不夠補貼家用，不少知縣都有着自己的“副業”，而清官海瑞就只拿着他那一點死工資，結果導致自己的女兒竟然被活活餓死，待遇可想而知。
到了清朝期間，沿襲了明朝的體制，知縣的待遇雖然提上去了不少，但是權力的範圍，依然是進行壓縮的。
總而言之，縣令是一個正式的編制官職，知縣在明代以前，並非一個正式的官職，而是對於縣長官的統稱，到了明代以後才有一套詳細的制度，從權力上來看，縣令的職責比起知縣更大，作為朝廷和民間最為基本的橋樑，古代王朝對於這個官職，可是下了不小的功夫.