张廷玉康熙十一年出生于京师，在他26岁那年本想参加会试的他因为父亲身为总裁官而选择避嫌，一直到三年后才参加科考并且一举考中了进士，开始了他为官的生涯。张廷玉的父亲身为康熙身边得力的手下，深受皇帝的青睐，而他的儿子张廷玉一个一举便中进士的人才，自然也深受皇帝的器重。
康熙在位期间曾多次微服私访，而张廷玉常常会跟随康熙左右，不过虽然皇帝经常带他一同出门私访，但他却是一个十分清闲的官。直到雍正继位之时，雍正为了培养自己的势力，经过多次慎重的考虑终于选择张廷玉作为辅佐他的重要助手，张廷玉不仅学识渊博还是自己恩师的儿子，也是因为这层身份拉近了雍正与张廷玉之间的关系。
在雍正刚登基之时，便让张廷玉等人做了皇子的师傅，教育皇子读书识字，可见雍正对他能力的信任。而且在他任职的这么多年间参与了诸多国家大事，像是编写清朝的历史，对准噶尔的用兵等等。对于雍正来说张廷玉不仅是一位好友也是一位得力助手。这让在雍正晚年病危之际，还特命他为顾命大臣，并与其余几位大臣一同辅佐新帝。
不仅如此雍正帝为了对张廷玉表示感谢，特地下了道遗诏，让他在百年后有配享太庙的资格，而张廷玉也是整个清朝唯一一位能够配享太庙的汉族臣子。乾隆登基之后，张廷玉在朝堂之上的地位依旧无人能够撼动，乾隆每一次的出巡都会让张廷玉留在京城负责处理平日里的政务，而且还因为他的年纪过大容许他不上早朝。
不过这一切在乾隆十三年，张廷玉请求告老还乡，被乾隆拒绝之后一切似乎都发生了转变。在此之后的张廷玉不仅多次上书，反而还不断地向乾隆帝讨要封赏，更是担心乾隆帝忘记先帝要给他配太庙这事特地写书上奏，一定要乾隆给他写一封保证书。这一封奏折令乾隆气的不轻。直接削去张廷玉的爵位。
但张廷玉请求归乡的事并没有就此罢休，在乾隆十五年皇长子永璜去世不久，张廷玉再一次提出了归乡的请求，这一次的请求彻彻底底激怒了乾隆。为此乾隆特地找来配享太庙的诸位大臣一同商讨张廷玉是否够格，经过诸多讨论后，最终罢免了张廷玉的太庙资格，甚至还收缴了张廷玉所收到的颁赐之物。
其实张廷玉所做的这一切并无道理，他身为三朝皇帝的重臣，不仅深知官场的一切规则，还懂得皇帝的小心思。虽然乾隆帝表面上是在重用自己，但是背地里却一直在扶持与张廷玉所对立的满臣鄂尔泰，以此来限制住张家的势力。其实这还不算是最重要的，最重要的是随着鄂尔泰的倒台，让原先满臣与汉臣之间相互制衡的局面瓦解。
面对这突然失去平衡的局面，张廷玉为了保全自己保全家人，只得选择辞官，但皇帝对于此事却不应允，无奈之下张廷玉只得选择另一种法子来表面上是为了激怒皇帝，但实际上却缓解乾隆了心中对他的警戒。在张廷玉逝世后，乾隆依旧按照先帝的遗嘱为他配享太庙，还恢复了他的爵位。