大统三年七月，宇文泰集诸军于咸阳，八月，率之于潼关整军，宣布军法军规，不得贪财轻敌，不得作威于百姓，与敌作战，用命则赏之，逃脱皆戮之。通过这次整顿，西魏军队的战斗力大大提高，不久，高欢率二十万大军入侵，西魏以少胜多，在沙苑（今陕西华阴县境内）大败高欢，俘敌八万余人。

　　随着军队素质的提高，宇文泰又进一步扩充军队，壮大军事力量。初，宇文泰在接受贺拔岳的以武川兵户为骨干的军团时，这一军团人数不过数千人，击败侯莫陈悦后，其大将李弼拥众万人来归，以后，跟随孝武帝元修入关的由鲜卑族人组成的北魏宿卫禁旅也有近万人，合起来，宇文泰掌握的军队约有近三万人，分别由十二个将军率领。沙苑之役后，又通过收编降军等不断补充，人数渐渐增多，到大统八年（542）三月，正式建立六军，时已有兵约十万人。

　　大统九年（543）二月，高欢将兵十万，渡过黄河，据邙山（今河南洛阳西北）列阵，宇文泰领军击之，战于邙山，大败，士卒损失六万余人，经过数年经营建立起来的一支军队损失大半。而当时关陇地区的鲜卑族人数有限，不可能再大量补充军队，因此，邙山之战后，宇文泰开始从汉族中间吸收兵员，三月，宣布征募关陇地区的豪强地主武装。在北魏末年的关陇起义中，豪强地主为了维护自己的利益，组织乡兵，东西魏分立后，这些地主武装并没有解散，仍然控制在豪强手中。宇文泰通过广募豪强以充军旅这一措施，把这些分散的乡兵武装变成中央军队的一部分，由政府选择关陇地区有名望的人物来统领，从而，既加强了中央对军队的控制，削弱了魏末以来的地方势力，又促进了武川军人集团与关陇地主的联合。此后，到大统十六年（550），又进一步把征兵对象扩大为所有的均田户，这样，西魏军队中汉族士兵的比重进一步增加。

　　同时，宇文泰又对军队统辖系统进行改革，形式上采取鲜卑旧日的八部之制，立八柱国。除宇文泰自己在大统三年（537）由西魏文帝任命为柱国大将军、都督中外诸军事，为西魏军队的实际统帅外，又在大统十四年（548）任命西魏宗室广陵王元欣为柱国大将军，但仅挂虚名，并无实权，另任命赵贵、李虎、李弼、于谨、独孤信、侯莫陈崇六人为柱国大将军，实际统率六军。每个柱国大将军下有两个大将军，共十二大将军；每个大将军下有两个开府，共二十四开府；每个开府下有两个仪同，共四十八仪同；一个仪同领兵约千人，一个开府领兵两千，一个大将军领兵四千，一个柱国大将军领兵八千，六柱国合计有兵四万八千人左右，这支军队，就是历史上所说的府兵。府兵的前身，由贺拔岳的武川军团、侯莫陈悦军团中的李弼军团以及随孝武帝入关的北魏宿卫禁旅这三部分组成，这些军队都是鲜卑化的军队，尤其是武川军团，前身是六镇鲜卑，大都是拓跋族成员，随着拓跋族的封建化，他们的地位下降，因此，他们参加了六镇起义和河北起义；但是，他们又错误地认为是汉化导致他们的地位下降，而看不到汉化是历史的进步和必然，竭力想回复到原来的氏族部落关系中去，宇文泰出身武川军团，对这种心理十分了解。因此，在建立府兵时，就采用了鲜卑族原有的部落组织，即八部之制，作为编制新军的蓝本。在士兵和军官之间的关系上，保持鲜卑旧日的氏族关系。西魏恭帝元年（554），又以有功诸将继承鲜卑三十六国及九十九姓，除有的将领本来就用鲜卑复姓的不予更动外，那些已经在太和改制时将复姓改为单姓的将领则重新改为复姓，已采用汉姓或本来就是汉姓的，则赐以鲜卑姓，如李虎赐姓大野氏、李弼赐姓徒何氏、赵贵赐姓乙弗氏、杨忠赐姓普六茹氏，凡所统领的士兵皆以他们主将的鲜卑姓为自己的姓氏。

　　宇文泰借用氏族部落的血缘纽带来组织府兵，使官兵之间蒙上了一层宗族的亲密色彩，以搞好将领和士兵间的结合，提高府兵的战斗力。事实上，府兵的组成，并没有也不可能真正倒退到氏族关系中去，但由于这种兵制多少带有一些过去部落兵制的色彩，因此从那些曾经沦落为兵户的六镇鲜卑来看，身份提高了，地位改善了，从而使府兵的战斗力也增强了。

　　六条诏书与革新政治大统七年（541）九月，宇文泰颁行了由苏绰起草的六条诏书，“先治心，敦教化，尽地利，擢贤良，恤狱讼，均赋役”。十一月，又颁布了十二条新制，和大统元年（535）三月颁布的二十四条新制合在一起，共三十六条。六条诏书和这些新制的内容十分广泛，包括政治、经济、思想、文化各个方面，并据此而采取了一系列措施。

　　在政治上宇文泰奉行以德治教化为主，法治为辅的统治原则。要求各级官吏用儒家学说修身，躬行仁义、孝悌、忠信、礼让、廉平、俭约等，恪守这些儒家道德规范。同时又向人民灌输孝悌、仁顺、礼义，用这些儒家伦理纲常观念束缚人们思想，以心和志静，邪僻之念不生，稳定统治秩序。

　　在用人上奉行唯贤是举，不限资荫，只要德才兼备，那怕出身微贱，亦可身居卿相。宇文泰的这一选官思想体现了打破门阀传统的新精神，保证了西魏吏治较为清明，也为大批汉族士人进入西魏政权开辟了道路。

　　在这一选人思想的指导下，宇文泰将来自不同方面的人聚拢在自己周围，如李弼原是侯莫陈悦帐下大都督，且互为姻亲，后倒戈归附，宇文泰毫无戒备之心，予以重用，成为统率府兵的八柱国大将军之一。柳敏原是东魏河东郡丞，宇文泰克河东后得之，当即拜为丞相府参军事，后来成为帮助宇文泰制定国策的核心人物。再如武功大姓苏绰，宇文泰对之推心委任而无闲言，如有外出，常常预署空纸授绰，若须有处分，苏绰可以随事施行，事后启告一下即可。正因为宇文泰能唯贤是举，用而不疑，因此西魏政府上下协力，内部团结，保证了各项政策措施的顺利执行。