唐宋時代，人們常將主簿與縣尉並稱，通呼作“簿尉”，但順序上還是排出了前後：一個縣衙門中，主簿是老三，縣尉是老四。明朝開始，縣尉這個職稱沒有了，另以典史敷充其職，老百姓在習慣上叫作“四老典”或“四爺”。此外，縣令稱“正堂”的話，縣丞便叫“左堂”，縣尉或典史便叫“右堂”，不過這又是紳士們的叫法了。
從頭講起的話，縣尉是秦漢時就已確立下來的官職。緊隨東漢其後，魏、蜀、吳三國的締造者，都是縣署丞尉出身。《三國志·吳書·孫堅傳》記，孫堅先是受朝廷除授任鹽瀆縣丞，幾年後調任盱眙縣丞，又轉任下邳縣丞。曹操的起家是“舉孝廉，為郎，除洛陽北部尉”(《三國志·魏書·武帝紀》)，洛陽是京縣，這種縣尉有四個，曹操是分管北部治安的。據《三國志》裴注引《曹瞞傳》説，曹操“初入尉廨，繕治四門。造五色棒，懸門左右各十餘枚，有犯禁者，不避豪強，皆棒殺之”。甚至連權宦蹇碩的叔父亦不能倖免，只因犯了不許夜行的禁令，便被活活打死。皇帝周圍的人看着他討厭，又抓不到把柄中傷他，於是故意説他好話，給提升一下，攆到頓丘去當縣令。劉備是因鎮壓黃巾起義有功而被委派到安喜當縣尉的。《三國志·蜀書·先主傳》記“督郵以公事到縣，先主求謁不通。直入縛督郵，杖二百，解綬系其頸著馬柳，棄官亡命”。《三國演義》把這段情節移到張飛身上，未免辱沒劉備本色。“解綬”的描寫，説明當時的縣尉就有印綬;“初入尉廨”，又説明縣尉也有獨自的衙署;至於杖殺權宦叔父的行跡，就更説明兩漢時小小縣尉的威風了。
隋唐時代，縣尉的職掌依然承襲漢晉，還是主管一縣治安。長安有四尉，大縣有二尉，其他縣則一縣一尉。可是曹操的那等威風，這會兒全沒了，品秩則每況愈下，京縣尉是從八品下，下縣尉是從九品下，比主簿更卑微，擠到了九品十八級的最低層。
前已有述，簿尉品秩雖微，然科第出身之士人初入仕途，仍須由此而進。有唐一代，幾多名人，都有當縣尉的經歷。比如白居易登第後，曾有“慈恩塔下題名處，十七人中最少年”的詩句，多少得意，可是他曾經去當縣尉;此外像柳宗元當藍田縣尉，賈島當長江縣尉，温庭筠當隨州縣尉等，皆屬此類。現在想想，那麼多大文豪都一個個坐在小縣城的“警察局長”位置上，成天忙着去執行捕盜抓匪的事，未免有些滑稽，可這在古代卻是極正常的現象。宋朝的制度，也因襲唐朝，宗澤的仕途便以館陶縣尉起家，專門帶着人抓逃兵;還有那位權相蔡京，亦是從錢塘縣尉做起，《夷堅志》上還記有他帶人去陽村巡捕的故事。
歷史上發生過的宋江起義，在《水滸傳》裏被渲染得轟轟烈烈，但不少史料都説明曾有一個小小的縣尉做過起義軍的勁敵。如葛勝仲《丹陽集》裏有篇《承議郎王公墓誌銘》，記曰：“公王氏，諱登，……男長曰師醇，次曰師心，……其後師心為海州沭陽縣尉，遇京東劇賊數千人浮海來寇，公適就養在邑，命引兵追擊境上，馘渠酋數十人，降其餘眾，一道賴以安堵。”“京東劇賊”是什麼人呢?又有汪應辰《文定集》中的《顯謨閣學士王公墓誌銘》可以參證：“公諱師心。……登政和八年進士第，授迪功郎、海州沭陽縣尉。時承平久，郡縣無備，河北劇賊宋江者，肆行莫之御。既轉掠京東，徑趨沭陽。公獨引兵追擊於境上，敗之，賊遁去。”類似王師心這種以縣尉職守“御盜”的事例，還可以從宋代史料中找出很多。如《宋會要》記政和五年時，“敍州南溪縣尉張鈞躬親率領保正等，捕獲放水強盜賊人軟落亨等同夥一十五人”;《東都事略》記方臘起義時，縉雲縣尉詹良臣曾率弓兵前往鎮壓。
元朝時縣尉官職依然存在，官廨稱巡尉司，但同時又有了典史這種官稱。從明朝起，縣尉被取消了，原先的職掌大致被剖成兩個部分，大抵獄囚警邏等歸典史主管，還有些巡防、彈壓、捕盜等事務，酌情分歸巡檢。清朝沿襲了明制，也是每個州縣設典史一員，但又於分管範圍外，常常充任縣衙門裏的事務官角色，故而又被叫作吏目。吏目是吏胥的頭兒，又是官員行列的尾巴。尤其令人注目的變化是，明清時代的典史品秩更低下，連九品十八級中最後一級也沒巴結上，這叫“未入流”。不過“未入流”也還是官身，而且依循它前身是縣尉的舊觀念，通常也可以升轉，也可能有代理主簿、縣丞甚至是知縣職務的機會。吳偉業著《鹿樵紀聞》，述明末清兵下江南史實，謂江陰典史閻應元以防禦海賊顧三麻有功，升做英德縣主簿。還沒來得及赴任，清軍把江陰縣圍住了，這時候縣衙門裏負實際責任的，是剛剛接任的典史陳明遇。陳明遇再特意把閻應元請回衙門，由紳民共推為代理縣令，領導了悲壯的江陰守城戰。和過去的縣尉當由朝廷委派一樣，典史仍由吏部除授，閻應元是北通州人，卻被派到南方來當這個“未入流”。
在明清史上，閻應元是典史輩中較出名的一位，後來江陰人還為他修了閻典史祠。而清人李寶嘉所著《官場現形記》裏，則塑造了幾個文學形象的典史，對讀者們瞭解典史是怎樣搞錢肥私的，倒很有些認識價值。那位在全書開場不久便亮相的錢伯芳錢典史，據他妹夫王鄉紳向王孝廉介紹，“雖然只做得一任，任上的錢倒着實弄得幾文回來。你們一進城，看見那一片新房子，就是他的住宅。做官不論大小，總要像他這樣，這官才不算白做。”王孝廉聽説錢典史會通路子，便問“既然有路子，為什麼不過班做知縣，到底是正印”。豈知錢典史也有個理論——“州、縣雖是親民之官，究竟體制要尊貴些，有些事情自己插不得身，下不得手;自己不便，不免就要仰仗師爺同着二爺。多一個經手，就多一個扣頭，一層一層的剝削了去，到得本官就有限了;所以反不及做典史的，倒可以事事躬親，實事求是。”
會不會“做”典史的真訣，算是被他點到要害了。明清時老百姓有句口頭禪，雲：“要錢典史，不要錢御史。”意思是御史有彈劾維紀之責，面子上總要做得清廉一點;而典史則不同，全無體制尊貴的顧忌，即如錢伯芳自言的，“事事躬親，實事求是”，貪婪已成了他們的共性。