张廷玉作为清朝杰出政治家，掌权期间做出了一系列政治举措。
政治制度
整治吏治
康熙末年，吏治松弛、政治不清，张廷玉时任吏部左侍郎，坚决摒除请托行贿之风，并严惩了奸胥滑吏并顶住各方压力严惩了吏部舞文弄法的蠧吏“张老虎”，被时人成为“伏虎侍郎”。张廷玉首先从小处做起，堵塞住所有漏洞。由于深得康熙皇帝信任，他曾经三任会试同考官，这在当时几乎是无人能及的。一般人很容易在任考官时收受好处，即使考前不收好处，考完之后，被录取的进士们作为门生来给老师送上礼金，作为答谢，称为“纨敬”，这在当时是普遍现象，也是一种约定俗成的俸禄之外的补充收入。
而张廷玉不仅在入闱之前摒绝送礼，试毕门生来谢，他也一律只象征性的收一点礼品，而绝对不受重金。他以同乡左光斗的故事勉励自己也教育门生：左光斗是明朝名臣，在他早年参加乡试时，手持装帧精美的柬帖来拜谢房师陈大绶，陈大绶接见了他，勉励他许多话，但却不收他的拜帖，认为帖子太豪华了，告诫他“今日行事俭，即异日做官清，不就此跕定脚跟，后难措手”。张廷玉以陈大绶的行为要求自己，同时告诫自己的门生，清廉要从小处做起：“不矜细行，终累大德。”
奏章制度
清朝入关之初，沿袭前明旧制，官员有事报告皇帝，公事用题本，私事用奏本。题本盖印，奏本不盖印。这两种文书都是公开的，不利于下情上达；而且题本办文程序繁琐，还容易泄密。雍正年间，张廷玉把奏折制度化，稍微重要一点的事务，地方官员都先撰拟奏折，经过皇帝朱批，认可之后才写题本作正式报告。但奏折中的朱批内容，不得写入题本。题本由此成为官样文章，奏折代替了原来题本的作用，成为主要官方文书。这一制度坚持到清末。
张廷玉还制定了完善的保密制度，为了保证奏折的内容不致泄漏，清廷定立了一整套保密制度，使奏折制度更加完善起来。自此以后，作为一种官文书制度的奏折制度才被确立下来。它不仅牵涉朝廷政令的推行，而且关乎君臣间权力的分配。它的确立和军机处的设立一样，都是清朝官僚政治上的重大变化，对清朝中后期的政治产生了十分巨大而深远的影响。
军机制度
雍正八年（1730年）因西北用兵，雍正皇帝命设军机房，以怡亲王允祥、张廷玉和大学士蒋廷锡领其事。“军机处初设，职制皆廷玉所定”。张廷玉定规制：“诸臣陈奏，常事用疏，自通政司上，下内阁拟旨；要事用摺，自奏事处上，下军机处拟旨，亲御笔批发。”身为军机大臣的张廷玉每天一定被召入内廷以备应对，秉承圣旨，评议奏章政务，参与国家机密的商讨。
军机处成为清朝的中枢机构并深深影响清代中后期的历史。张廷玉制定军机处廷寄办法，创廷寄之法，既保证了中央政令的严格贯彻，速度又较前加快，从而提高了清朝政府的行政效率。
社会秩序
安定流民
康、雍之交，有大批流民前来浙闽赣粤几省边界深山老林之中搭棚居住，以垦山种谷种麻、植靛、造纸、作菇为生，也有少许开炉冶铁维持生计者。他们呼朋引类在深山中滋养生息日久，人员愈多，既不可驱令回籍，又不听编入县册。去来任意，出入无常，偶遇年谷不登，辄结党盗窃，为地方之害。
此事关系到朝廷的声誉与地方的制度，如不审慎妥善处理，势必酿成祸乱。张廷玉闻知此事便于雍正二年（1724年）正月向雍正帝奏谏一份旨在解决如此棘手问题的朝折，折中建议：查明有麻棚之州县，秉公拣选才守兼优之员保题补授。庶平时抚驭有方，流民奉其约束，临事捕缉有法，匪党不至蔓延。至安插之后，善为抚绥，并取具五家连环互结，又严行保甲之法，不时稽查。
其中若有臂力，技勇之人与读书向学之子，许其报明本县，申详上司，分别考验，加恩收录。雍正帝阅后即朱批令发往赣浙诸省督抚行议。张廷玉此议对区分匪党，安抚流民，选贤任能，收服民心及实现边疆诸省的安定无疑都起到了颇为积极之效用。