孝文帝推行汉化最重要的措施是迁都洛阳。北魏长期都于平城，平城偏北地寒，六月风雪，风沙常起，当时有人作《悲平城》诗说：“悲平城，驱马入云中，阴山常晦雪，荒松无罢风。”流行的歌谣也这样唱道：“纥于山头（今山西大同市东）冻死雀，何不飞去生处乐！”恶劣的气候环境，难以适应经济的发展；偏北的地理位置更不利于北魏对整个中原地区的统治，孝文帝决定迁都洛阳。为保证迁都顺利进行，孝文帝进行了周密的部署和安排：太和十七年（493）五月，他召集百官，宣称要大举伐齐，计划在南伐途中造成迁都的既成事实。在朝会上，他先让掌管宗庙祭祀、礼乐仪制的太常卿王谌占卜吉凶，一见卜得《革卦》，便高兴地说：“《革卦》的彖辞讲‘汤、武革命，应乎天而顺乎人’，没有什么卦比它更吉利啊！”群臣见状，不敢多言。任城王澄站出来反对，孝文帝发怒道：“国家是我的国家，任城想要阻挠用兵么？”拓跋澄反驳说：“国家虽然为陛下所有，但我是国家大臣，知道用兵危险，怎能不说话！”过了好一会，孝文帝才消了气，说：“各人谈谈自己的看法，这也没什么关系。”退朝后，他立即召见任城王澄，屏退左右，单独与澄计议说：“这次举动，的确不易。但国家兴自塞外，徙居平城，这里是用武之地，不能实行文治，今将移风易俗，实在难啊！崤函帝宅，河洛王里，朕想趁此南伐大举而迁居中原，不知任城意下如何？”拓跋澄被提醒，赞同地答道：“陛下要迁居中原以经略四海，百姓知道这件事应当大庆才是。”孝文帝又担心地询问道：“北方鲜卑人的习俗好依恋旧土，如果① 五行之次，即“五德终始说”，系战国时齐国阴阳家邹衍所造，它认为火生土，土生金，金生水，水生木，木生火，火、土、金、水、木互为终始，周而复始，循环无穷，各个相袭的朝代也按此顺序进行统治。迁都，必将惊惶不安，为之奈何？”澄果断地答道：“非常之事，不是一般人所能想到的。只要陛下拿定主意，他们还会有什么能为？”孝文帝一听，兴奋地说：“任城，你真是我的张良啊！”六月，即刻下令修造河桥，以备大军渡河；并亲自讲武，命尚书李冲负责武选，选择才勇之士。七月，立皇子恂为太子，发布文告，移书齐境，声称南伐；下诏在扬、徐二州征集民丁、召募军队；又使广陵王羽持节安抚北方六镇，调发精骑。至此，准备基本就绪。

　　八月，孝文帝拜辞冯太后永固陵，率领群从百官，步骑百余万从平城出发南伐。命太尉拓跋否与广陵王拓跋羽留守平城，以河南王拓跋干为车骑大将军，负责关右一带的军事，与司空穆亮、安南将军卢渊、平南将军薛胤等共同镇守关中。临行之际，太尉丕奏请以宫人相从，孝文帝厉声斥责说：“临戎不谈内事，不得妄请。”大军列队出城，一路之上，阵容整齐，浩浩荡荡，所过之处，秋毫无犯，经恒州、肆州，于九月底抵达洛阳。

　　时值深秋，阴雨连绵，大军就地休息待命，孝文帝则冒雨巡视洛阳故宫旧址，可眼前呈现的却是一派断坦残壁、杂草丛生的破败景象，他感慨系之地对侍臣说：“晋室不修功德，宗庙社稷倾于一旦，荒毁成这个样子，朕实在感到痛心。”说完，潸然泪下，吟诵起《黍离》诗来：“彼黍离离，彼稷之苗。行迈靡靡，中心摇摇知我者，谓我心忧。不知我者，谓我何求。悠悠苍天，此何人哉！..”①吟到伤心处，侍臣们也跟着流起了眼泪。接着，观洛桥，临太学，观石经。在洛阳稍事休整后，又诏令六军继续南进。孝文帝身着戎装，手执马鞭，策马冲在队伍的最前面；群臣们经长途行军跋涉，疲惫不堪，都不愿冒雨继续前进，于是纷纷跪于御马之前，磕头泣谏，请停南伐。孝文帝故意责问道：“庙算已定，大军将继续前进，你们还啰嗦些什么？”尚书李冲等人谏道：“此次举动，天下人都不愿意，唯独陛下要这样做；臣不知陛下违众南伐，究竟是为了什么？臣等敢以死相请。”孝文帝大怒道：“我方要经营天下，统一全国。你们这批儒生，屡屡阻疑大计。若再胡言，当以军法从事。”安定王休等人又再三哭谏，孝文帝余怒未息，乃晓谕群臣说：“这次兴师动众，规模不小，动而无成，拿什么向后世表示？如果就这样班师，怎能垂名千载！若不南征，即当迁都于此，机不可失，诸位王公大臣以为如何？计议已定，不得旋踵。想迁都的站到左边，不想迁都的都站到右边。”话音刚落，安定王休等人一齐站到了右边。南安王桢等人见势不妙，赶紧进言道：“古人说‘成大功者不谋于众’。今陛下若停南伐之谋，迁都洛阳，这才是臣等的愿望、百姓们的一大喜事啊！”群臣齐呼“万岁！”当时许多鲜卑大臣虽不愿内迁，但更畏惧南伐，故只得相从，不敢再提出异议，遂定迁都大计。

　　李冲上言说：“陛下将定鼎洛邑，宗庙宫室不能坐在马上游行等待。愿陛下暂还平城，待臣下经营竣工，然后准备文物，御驾光临。”孝文帝果断地答道：“朕将巡察州郡，至邺城小停，开春即回，不宜返归旧都。”乃派任城王澄回平城，将迁都之事告谕留守百官，并意味深长地勉励他说：“今① 《黍离》诗是《诗经·王风》中的一首诗。西周亡后，东周大夫过镐京，见到故宗庙宫室尽为禾黍，不胜感慨，因作此诗。全诗共三段，这里仅录其一，大意是说镐京的故宗庙宫室旧基上长满了茂盛的禾黍，诗人从这里缓步走过，心神不定，像是寻找什么，极为伤感。指斥了周幽王等统治者残暴无道，导致亡国的罪恶。