在我国历史上由于地域辽阔，而且资源众多，与周边国家也存在着很多交流，所以我国历史上很早就有人从事翻译工作。
早在西周时代为了方便交流，就有了专管翻译的官员，在当时的文献当中称他们为像胥。由于当时人们流动领域的限制，他们交流的对象也仅限于周边的少数民族。
到了汉代国力强盛，中外交流也不断发展，翻译人员不断增加。汉武帝时期设置了大鸿胪，下面设置的翻译官，就是专门负责对外连接的
而在朝廷和西域各属国当中设置译掌，就是为了主持翻译工作和旅行是接任务的。到了三国时期，翻译工作已经得到了相当大程度的发展，从事翻译的人员也越来越多，翻译机构的组织也在不断的扩大和完善。在这个时期翻译又有了新的名称，叫做译使。他们的任务就类似于如今的对外翻译，专门负责外国使节来我们国家或者我国使节出使外国时的翻译工作。
翻译官是翻译工作的核心和灵魂，他们必须要精通两国的文字和语言。在古代翻译官一般有这几个来源，最初就是那些住在两国交界地方的人，由于他们生活的地方处在两种语言的过渡地带，所以他们就自然而然地掌握了多种语言。比如古代丝绸之路上上的许多原著民和商人就具备这种条件，僧侣也是最早从事翻译的人员之一。
在隋唐以前，尤其是两晋南北朝时期，由于国家的分裂和战乱，民众的生活充满了动荡，所以佛教很盛行。当时的人们利用佛教的学说来获得精神上的安慰和对现实的逃避。由于中国不是佛教的原产地，所以一些佛经还得需要从外国引入。这个时候的翻译机构叫做译场他们主要负责翻译古代的佛教经书。这些机构不仅国家级别的，还有许多是私人筹建的，所以一些僧侣也就此成长为了翻译家，对我国的翻译事业做出了很大贡献。
从明朝开始，因为交通工具的逐渐发达，取得中外交流变得非常普遍，所以早在明朝开国时期就设立了专门的翻译机构，当时叫做四译馆，选取了专门的人员来学习外国语言，但是因为当时大家都不够重视，许多人把这一项工作当成一个闲差来处理，后来因为一系列的不平等条约，才重视起来翻译工作