在这种十分适应当时封建统治需要的世界观的指导下，张华在从政过程中披肝沥胆，政绩突出，不仅深受晋武帝赏识，而且亦博得朝野上下的好评，时人比之为子产。不久，四十岁左右的张华就被擢为中书令，后加散骑常侍，成为西晋最高统治集团的成员。

　　平吴立功张华在任中书令期间的最大贡献就在于促成并制定了伐吴大计，从而加快了南北统一的步伐。

　　咸宁初年（275），距西晋代魏已有十年，距灭蜀亦时逾十二载。时西晋统治阶级内部矛盾缓和，边境战事不多，经多年休养生息，国力强盛，“大晋兵众，多于前世；资储器械，盛于往时”（《晋书·羊祜传》）。而割据江南一隅之地的孙吴，则在暴君孙皓的统治下，各种矛盾急剧激化。孙皓“昵近小人，刑罚妄加。大臣名将，无所亲信。人人忧恐，各不自保”（《三国志·吴书·薛综传》注引干宝《晋纪》）。在毫无限制的横征暴敛下，“民力困穷，鬻卖儿子，调赋相仍，日以疲极”，（《三国志·吴书·陆凯传》），“老幼饥寒，家户菜色”（《三国志·吴书·贺邵传》），可谓“将疑于朝，士困于野，无有保世之计，一定之心”（《晋书·羊祜传》）。西晋攻伐孙吴，取乱侮亡，统一全国的时机业已成熟。当时，镇守江汉地区的征南大将军、都督荆州诸军事、荆州刺史羊祜上疏晋武帝，陈“宜当时定，以一四海”（同上）。晋武帝召集群臣朝议。司空、尚书令贾充、中书监荀勖和左卫将军冯紞等人“同共苦谏不可”（《晋书·冯紞传》），群臣亦多附合，以当时关陇地区氐羌少数族屡叛，官军屡败为由，多不赞成羊祜的建议。只有张华据理力争，与羊祜、杜预共同主张立即伐吴。晋武帝虽“密有灭吴之计”，却因“朝议多违”而未做出伐吴的决断。

　　咸宁四年（278）六月，羊祜因病回朝。他在拜见晋武帝时，又面陈伐吴之计，晋武帝为之心动。因羊祜有病，不宜经常召入宫内咨询，晋武帝遂派张华去羊祜住处问其筹策。羊祜与张华推心置腹，陈述自己对局势的看法和伐吴的战略方针。张华十分赞同羊祜的见解和伐吴之计。羊祜对张华说：“成吾志者，子也！”（《晋书·羊祜传》）

　　同年十一月，羊祜病逝。但伐吴大业并未因此而中止。羊祜临终前，推荐了志同道合的杜预接任自己的职务。张华也不负羊祜所望，为完成羊祜遗愿而力排众议。咸宁五年（279），益州刺史王濬上疏，主张“无失事机”，迅速征伐孙吴（《晋书·王濬传》），贾充等人再次反对，贾充上表，以为“西有昆夷之患，北有幽并之戎。天下劳扰，五谷不登，兴军议讨，惧非其时”（《晋书·贾充传》）。张华与之针锋相对，固劝伐吴。不久后，杜预在“缮甲兵，耀威武”，充分做好伐吴准备工作后，表陈武帝，主张立即开始军事行动。杜预表至时，晋武帝正与张华下围棋。张华趁热打铁，劝说武帝采纳杜预的建议。他说：“陛下圣明神武，朝野清晏，国富兵强，号令如一。吴主荒淫骄虐，诛杀贤能，当今讨之，可不劳而定”（《晋书·杜预传》）。武帝遂因此作出最后决断，发诏伐吴。任命张华为度支尚书，主持朝廷财政，“量计运漕，决定庙算”。

　　太康元年（280）春正月，伐吴正式开始。贾充任大都督，总统六师，负责整个伐吴战役。开始时，“众军既进，而未有克获”，一直反对伐吴的贾充因而上表武帝，认为“吴未可悉定。方夏，江淮下湿，疾病必起，宜召诸军，以为后图”。同时因张华筹谋平吴之策，与中书监荀勖建议腰斩张华以谢天下（《晋书·贾充传》）。对此晋武帝回答说：“伐吴是我的决策，张华只是赞同我的意见而已。”给予张华以信任和支持。尽管如此，当时朝廷大臣仍多附合贾充、荀勖的主张，认为不可轻举妄动。张华为了使统一大业不致功亏一篑，置个人生死于度外，不顾贾充等人以腰斩相威胁，“独坚执，以为必克”。

　　通过著名将领杜预、王濬、王浑等人的努力，伐吴战役终于排除各种阻力和干扰，取得了最后的胜利。它的胜利进程，充分证明张华确实是目光远大、意志坚强、运筹于帷幄之中、决胜于千里之外的政治家。平吴后，武帝特下诏令，对张华所建立的殊勋大功予以恰如其分的评价和奖赏。诏书说：“尚书、关内侯张华，前与故太傅羊祜共创大计，遂典掌军事，部分诸方，算定权略，运筹决胜，有谋谟之勋。其进封为广武县侯，增邑万户，封子一人为亭侯，千五百户，赐绢万匹。”

　　陷入党争平吴后，张华“名重一世，众所推服，晋史及仪礼宪章并属于华，多所损益，当时诏诰皆所草定，声誉益盛，有台辅之望焉。”但皎皎者易污，他的功勋和才能，亦招来忌妒和谗言。张华虽襟怀坦白，洁身自好，不搞浮华交游，不介入朋党之争，可是，处于政争纷纭的旋涡中心，想要避免是非，又谈何容易！西晋统治集团从咸宁年间开始，在围绕齐王司马攸之国、伐吴以及太子（即惠帝）废立的问题，逐渐形成两大对立势力。尚书令贾充、中书监荀勖、左卫将军冯紞等人为一方，他们为人鄙薄，好观察上旨，承颜悦色，专以曲意逢迎为事；他们主张剥夺齐王攸实权；反对出师伐吴；反对废黜“不堪政事”的痴呆太子。侍中任恺、中书令和峤、庾纯、向秀等人为另一方。他们以名士自居，刚直守正，素轻视贾充等人的为人；他们反对齐王攸之国；主张废昏立贤，更择太子。两派矛盾逐渐激化，由政争发展到人身攻击，互相倾轧，闹得不可开交。张华与任恺、和峤等人关系虽很好，政见基本一致，但他却避免卷入两派的人事争端中。可是，他在伐吴问题上与贾充等人形成的尖锐对立，却使他在平吴前后成为贾充一党的主要攻击目标，屡遭谗言中伤。