相比于鄂尔泰，张廷玉可谓是幸运得多，他父亲在康熙朝为相，是名副其实的官二代，父亲张英，张廷玉以及张廷玉的儿子张若霭三人皆是进士，被誉为“张氏三进士”。

他们祖孙三代不但是进士及第，而且都曾侍值内廷，颇受康、雍、乾三帝的青睐，可谓是可谓是“合家顶戴”，满门朱紫”。

特别是张廷玉历经三朝，堪称三朝元老，他的学生汪由敦在他墓志铭上赞叹道：“登朝垂五十年，长词林者二十七年，主撰席者二十四年，凡军国大事，奉旨商度”这是对张廷玉最真实的评价。

康熙十一年九月九日，张廷玉生于京师，从小就接受良好的教育，再加上天资聪颖和勤励好学，一时美名远扬。

康熙三十六年，二十六岁的张廷玉准备参加会试，但因为他父亲张英为那届会试总裁官，为了避嫌而放弃考试，张家的公正自律也博得了满朝文武的称赞，但张廷玉也因此耽误了三年入侍时间。

康熙三十九年，张廷玉再次参加会考，一举考中进士，随后被康熙授为翰林院庶吉士（翰林院学生），康熙四十三年，经过翰林院考试通过，张廷玉被授翰林院检讨，开始担任《亲征平定朔北略》的纂修官。

康熙四十三年四月，入值南书房，而南书房为皇上的书房，他也就成为了康熙的秘书。

有一次，康熙帝召他到畅春园，询问他父亲张英退休后身体和生活情况，当时康熙有意考他，命他只能用赋诗介绍。

张廷玉随之脱口而作七言律诗二首，这两首诗深得康熙赞赏，当时就提拔他为南书房专职秘书，并升为四品官级，真正进入了朝廷官员之列。

从那以后，康熙对他很是看重，多次随康熙南巡及巡行蒙古诸部。

康熙五十五年，张廷玉被授以内阁学士兼礼部侍郎，真正走进帝国决策层，康熙五十九年五月，授刑部左侍郎，次年授吏部左侍郎，兼翰林院士，可以说一年一个台阶地晋升着。

康熙六十一年十一月，康熙帝驾崩，皇四子胤禛入承大统，成为新皇帝，雍正因为不是太子出身，所以身边缺少近臣，而深得康熙器重的张廷玉，第一个进入了雍正的眼里。

雍正相中他的原因有两点，一是他学问优长，为人谨慎，有才干，二是他为自己恩师张英之子，深知张氏一门忠贞勤俭的风气。

康熙驾崩，新登基的胤禛，即任命张廷玉为学士衔，协同翰林院掌院学士阿克敦等，办理丧葬典礼文字工作，祭告文字皆出张廷玉之手。

雍正开始新政后，政务繁忙，张廷玉跟着雍正没黑没白地处理政务，每次都能把雍正口述政令整理成文字，而且还很严谨通畅，他也因此得到雍正不住的夸奖，成为雍正离不开的笔杆子。

雍正元年，张廷玉又兼管南书房，与朱轼等人同为宝亲王弘历等诸皇子的师傅，四月，任顺天府乡试主考官时公正廉明，被雍正加太子太保衔。

八月，署理都察院事务，成为国家最高监察机构主管，监管满朝的文武百官，同时还兼管翰林院掌院学士事。

九月，调任户部尚书。

十月，张廷玉任四朝国史总裁官。