朱元璋在废除行中书省的当年，设立了浙江、江西、福建、北平、广西、四川、山东、广东、河南、陕西、湖广、山西十二个布政使司。洪武十五年（1382），又增加了云南布政使司，一共十三个。布政使司之下设府（州）县。

　　接着，又进行朝廷机构的改革。明初中书省总揽天下政务，在朝廷各个机构中位置最高，其行政长官左、右丞相，负有统率百官之责，位崇权重，极易与皇帝产生矛盾。洪武初年，朱元璋以李善长、徐达为左、右丞相。李善长为人处事向来以小心谨慎著称，徐达则较多时间是带兵征战在外，他们都没有与朱元璋发生大的矛盾冲突。但胡惟庸任相之后，事情就发生了变化，君权与相权的矛盾与日俱增。

　　胡惟庸是凤阳定远人，淮西集团重要人物之一。洪武六年（1373），由于李善长的极力推荐，胡惟庸由右丞相升左丞相。胡惟庸专权用事，“生杀黜陟，或不奏径行。内外诸司上封事，必先取阅，害己者，辄匿不以闻。四方躁进之徒及功臣武夫失职者，争走其门，馈遗金帛、名马、玩好，不可胜数。”①皇权与相权的矛盾达到顶峰。朱元璋见大权旁落，自然不能容忍。洪武十三年（1380）朱元璋以“擅权植党”罪名诛杀了胡惟庸，趁机取消了中书省，废除丞相等官。朝廷政务由六部分理，提高六部的品秩，各部尚书直接听命于皇帝。丞相制的废除，宣布了中国一千多年宰相制度的终结，也使朱元璋成了历史上权力最大的皇帝。

　　同年，朱元璋也废除统管全国军事的大都督府，分中、左、右、前、后五军都督府，每府设左右都督二名，分别管理京师及各地卫所和都指挥使司。都督府的职权与兵部有明确的分工。兵部有颁发军令、铨选军官的权力，但不能直接统率军队。都督府负责军队的管理和训练，但无权调遣军队。每逢战事，由皇帝亲自任命军事统帅，兵部发布调遣令，都督府长官奉命出征。战事结束，军归卫所，主帅还印，这样二者互相制约，军权集于皇帝一身。在军队的编制和训练上，朱元璋和刘基研究了历代兵制，创立了明代所特有的卫所制度。这种制度特点是：军籍世代沿袭，实行耕战结合，平时既屯耕，也训练。卫所制分卫、所两级，在全国军事重地设卫，次要的地方设所。大体五千六百人为一卫，长官为指挥使。每卫下面分五个千户所，每千① 《明史》卷三○八《胡惟庸传》。

　　户所辖一千一百二十人，长官称千户。千户下分为十个百户所，百户所辖一百一十二人，长官称为百户。百户下有总旗二，小旗十，每总旗领五小旗，每小旗十个军士，大小相连，比比成军。洪武二十六年（1393）全国共设有十七个都指挥使，下辖三百二十九个卫，六十五个守御千户所，军队一百二十万人，其精锐留驻在京师南京一带。十七个都指挥使分别隶于朝廷的五个都督府，这样使权力分散，便于皇帝控制。

　　洪武十五年（1382），朱元璋又对朝廷监察机构进行了改革。将御史台改为都察院，设左、右都御史。“都御史职专纠劾百司，辨明冤枉，提督各道，为天子耳目风纪之司。”其下有十三道监察御史，以一布政司为一道，共设御史一百一十人。监察御史负责监视、纠劾百官。出使到地方，则巡按、清军、巡盐、巡漕、巡关、提督学校等，其中巡按御史代替皇帝巡视，“大事奏裁，小事立断”，权力很大。这些御史官秩只有七品，但却可以以小制大。与都察院职责相似的，还有监督六部的六科给事中，称谏官，与都察院互相配合。

　　经过一番整顿，朱元璋的权力大大加强了，但政务也随之繁多起来。过去有丞相协助，现在全国大小政务都要他亲自处理，即使他“昧爽临朝，日晏忘餐”①，整天批答奏章，也难以承担。洪武十三年（1380）九月，朱元璋设置四辅官，位列公侯、都督之次，协赞政事，但因不胜其职，不久相继致仕。洪武十五年（1382）朱元璋仿宋朝设殿阁大学士的办法，设置了华盖殿、文华殿、武英殿、文渊阁、东阁大学士，由品级比较低的编修、检讨、讲读等官来充任，帮助朱元璋阅读奏章，起草处理文书，这是明代内阁的肇端。整肃吏治朱元璋即位后，“惩元季吏治纵弛”，决心创立一个清正廉洁的朝廷。

　　为此，他详定了官员考课办法，凡内外官员，根据他们的品秩，分别规定考察时间和内容，由吏部“综其称职、平常、不称职而陟黜之”。约束官员很为严格。同时，朱元璋还用严刑峻法来整顿吏治。他常说：“纪纲法度，为治之本。”因此他十分重视法律的制定。

　　吴元年（1367），在朱元璋的授意下，左丞相李善长任总裁官，开始了法律的制定工作。是年底初步编成，“凡为令一百四十五条，律二百八十五条”。但朱元璋觉得所定律令还不够完善，又下令修改，直到洪武三十年（1397），几经修改，才正式颁布了《大明律》。《大明律》共三十卷，分吏、户、礼、兵、刑、工六部。它以唐律为蓝本，但简于唐律，严于宋律。律文包括各项法律章程，其中对各级官吏的职权、任务以及应遵守的事项，都作出了详细规定，对官吏违法乱纪行为，也定出了具体惩处办法。

　　对官吏的贪污，处罚特别重。朱元璋认为：“吏治之弊，莫过于贪墨”，“此弊不革，欲成善政，终不可得”。他下令“凡是官吏贪污蠹害百姓的，都要治罪，不容宽贷！”官吏因枉法而贪赃的，一概发往北方边地充军，官吏贪污钱财六十两以上的，处以枭首示众、剥皮实草之刑。朱元璋把府、州、县衙门左面的土地庙，作为剥人皮的场所，叫做“皮场庙”。贪官被押到这里，剥下人皮，塞上稻草，再摆到衙门公座两旁，使官吏触目惊心，知所警① 谈迁：《国榷》卷十。