在我國曆史上由於地域遼闊，而且資源眾多，與周邊國家也存在着很多交流，所以我國曆史上很早就有人從事翻譯工作。
早在西周時代為了方便交流，就有了專管翻譯的官員，在當時的文獻當中稱他們為像胥。由於當時人們流動領域的限制，他們交流的對象也僅限於周邊的少數民族。
到了漢代國力強盛，中外交流也不斷髮展，翻譯人員不斷增加。漢武帝時期設置了大鴻臚，下面設置的翻譯官，就是專門負責對外連接的
而在朝廷和西域各屬國當中設置譯掌，就是為了主持翻譯工作和旅行是接任務的。到了三國時期，翻譯工作已經得到了相當大程度的發展，從事翻譯的人員也越來越多，翻譯機構的組織也在不斷的擴大和完善。在這個時期翻譯又有了新的名稱，叫做譯使。他們的任務就類似於如今的對外翻譯，專門負責外國使節來我們國家或者我國使節出使外國時的翻譯工作。
翻譯官是翻譯工作的核心和靈魂，他們必須要精通兩國的文字和語言。在古代翻譯官一般有這幾個來源，最初就是那些住在兩國交界地方的人，由於他們生活的地方處在兩種語言的過渡地帶，所以他們就自然而然地掌握了多種語言。比如古代絲綢之路上上的許多原著民和商人就具備這種條件，僧侶也是最早從事翻譯的人員之一。
在隋唐以前，尤其是兩晉南北朝時期，由於國家的分裂和戰亂，民眾的生活充滿了動盪，所以佛教很盛行。當時的人們利用佛教的學説來獲得精神上的安慰和對現實的逃避。由於中國不是佛教的原產地，所以一些佛經還得需要從外國引入。這個時候的翻譯機構叫做譯場他們主要負責翻譯古代的佛教經書。這些機構不僅國家級別的，還有許多是私人籌建的，所以一些僧侶也就此成長為了翻譯家，對我國的翻譯事業做出了很大貢獻。
從明朝開始，因為交通工具的逐漸發達，取得中外交流變得非常普遍，所以早在明朝開國時期就設立了專門的翻譯機構，當時叫做四譯館，選取了專門的人員來學習外國語言，但是因為當時大家都不夠重視，許多人把這一項工作當成一個閒差來處理，後來因為一系列的不平等條約，才重視起來翻譯工作