十分滑稽的是，司马炎选定的平吴主帅竟是贾充。贾充虽反对此次用兵，但却是司马炎最亲信的大臣。贾充上表推辞，司马炎威胁说，如果你不受命，我只好亲行了。贾充无法，只得承命。

　　在大举伐吴的同时，被司马炎派到西部参与平定少数民族动乱的讨虏将军马隆连续告捷。

　　秃发树机能起兵九年，相继斩杀秦、凉二州四位刺史。咸宁五年（279）

　　正月，他又攻陷凉州的治所武威城。消息传来，司马炎坐卧不宁，对臣下叹气说：你们有谁能为我讨平西方啊？宫内宿卫官司马督马隆毛遂自荐，当即被拜为武威太守、讨虏护军。马隆要求自己募兵，自己挑选武器，司马炎满足了他的要求。当年十一月，马隆带领三千五百名募兵渡过温水，与秃发树机能的几万人大军展开激战。由于马隆士兵剽悍，武器精良，他本人又足智多谋，结果连战连胜，不但收复武威，还迫降一部分附属于秃发的河西鲜卑。十二月，秃发树机能被马隆击溃后，不幸为下属所杀。轰轰烈烈的河西鲜卑人的反晋斗争遂告失败。

　　完成一统大业太康元年（280）年初，南下灭吴的晋军所向披靡。杜预攻克江陵，横扫沅、湘、交、广诸州，王浑渡过横江，胡奋拿下江安。王濬率领的水师连破吴人的横江铁索和水面铁椎，捣毁沿江险关隘口，先与胡奋、王戎等军陷落夏口、武昌，继而长驱东进，直指建邺。与此同时，王浑的大军也到达了江北。

　　孙皓派出的军队皆被晋军击败，丞相张悌等人战死。这年三月，王濬以水军八万、方舟百里，鼓噪攻入石头城。吴主孙皓无计可施，面缚舆榇，向晋军投降。至此，东吴亡国，三国鼎立后的吴、晋两国对峙的局面结束，全国重归一统。

　　孙皓投降的消息传到洛阳，举朝庆贺。司马炎拿起酒杯，追念羊祜当年为经营平吴战争耗尽心血，不由得潸然泪下，说道：“这都是羊祜的功绩啊！”南下将士在前方浴血奋战，远离前线的主帅贾充却上表称东吴不易平定，要求司马炎班师回朝，还咬牙切齿地要求将张华腰斩。荀勖也随声附合。就在这时，平吴的捷报进京，贾充丑态毕露。司马炎丝毫没有责怪贾充的意思，反而极力宽抚。

　　平吴后，司马炎为稳定新征服地区的人心，把孙皓封为归命侯，赏赐大量的衣物、车乘、钱谷，还安排了一些随降的吴国朝臣和大族为官。对于北渡的吴国将吏和百姓，他分别给予免除赋役十年或二十年的优待。

　　在对平吴功臣进行封赏的时候，司马炎遇到了难题：王濬和王浑为争功而互相指责，闹得不可开交。按说，王濬平吴有首功应该重赏。但是王浑在朝中的势力大，党羽多，儿子又是司马炎的女婿。他们极力争吵，在封赏中占据了上峰，王浑被封为公，王濬却被封为侯。一些朝臣为王濬功高赏薄鸣不平，司马炎为平息众怒，又回过头来给王濬升官加赏，搞得十分狼狈。而那个灭吴的阻力贾充却平白得到增封食邑八千户的赏赐。

　　太康元年，司马炎将全国的版图划成为十九个州，州之下共设郡、国一百七十三个。政府所统领的在籍人口为二百四十五万九千八百四十户。

　　这一年，司马炎命令州郡地方政府解散或削减下辖的军队。规定，刺史只作监司，罢将军名号，不领兵，也不兼领兵的校尉官。兵民分治，都督、校尉治军；刺史、太守治民。司马炎说，这是对汉末州刺史既统政事，又掌军权的弊病进行改革，用意在于维护“天下为一”，防止重新出现“四海分崩”的局面。在州郡去兵的同时，他规定大郡置武吏百人，小郡五十人，以维持地方治安。后人批评司马炎的这一措施与造成“永宁（301）以后，盗贼群起，州郡无备，不能禽制，天下遂大乱”（《资治通鉴》卷八一）的结果，有一定的关系。

　　颁行占田荫客制平吴之后，司马炎在全国范围内颁行占田和课田、户调的制度。法令规定：“男子一人占田七十亩，女子三十亩。其外丁男课田五十亩，丁女二十亩，次丁男半之”。还规定，课田五十亩，收田租四斛。“丁男之户，岁输绢三匹，绵三斤，女及次丁男为户者半输”（《晋书·食货志》）。边远郡县只交户调三分之二或三分之一，少数民族不课田，每户交三斛，再远的交五斗，名曰义米；极远的交钱二十八文叫作算钱。户调为賨布一匹，远地可减至一丈。上述规定只是个平均数，实际征收时还要按照贫富分为九等，根据户等收税，即所谓九品相通。

　　司马炎实施这一制度有两个目的，一是通过限定最高占田数目，以阻止私人大量兼并土地。二是通过规定课田的最低限额，占田农民根据固定的课田数而交纳固定的课田租税，又使封建国家的租税收入得以保证。

　　这一制度给农民带来沉重的负担。当时，占田数是农民向政府办理土地登记时的最高限额，至于农民是否能够占有规定的足额土地，政府并不过问，而政府却要求农民必须按足额的课田提供田租。西晋的田租比曹魏时期的亩税额加重一倍，户调则增加了二分之一。这就使得一部分农民因不堪政府剥削，而流入私门，成为豪强士族的依附民。

　　在颁行上述制度的同时，司马炎又规定了官僚士族按官品占田、荫客和荫亲属的种种特权：一品官可以占田五十顷，以下按官品递减五顷直到九品官占田为十顷；并按官品的高卑荫其亲属，多者及九族，少者三世；六品官以上占衣食客三人，第七第八品占二人，第九品占一人；第一第二品官占佃客五十户，第三品十户，第四品七户，第五品五户，第六品三户，第七品二户，第八第九品一户。“宗室、国宾、先贤之后及士人子孙亦如之”（《晋书·食货志》）。这些被荫占的人口，只附属于大户私人的家籍，不在政府注籍，也不担负国家的租税赋役，只同主人保有着强烈的人身依附关系，受着主人的剥削和奴役。