永嘉四年（310）七月，刘渊病死。汉统治阶级内部一度因争夺最高权力，而暂时停止了对西晋作战。但是到这年十月，夺得王位的刘聪重新调遣四万大军进攻洛阳，并命令在黄河下游流动作战的石勒率军配合，洛阳重新告急。晋怀帝司马炽传檄哀告各地方镇发兵入授，但始终未见一路救兵到达洛阳。朝臣议论纷纷，要求迁都以避兵难。镇东将军、都督扬州请军事的周馥从寿春（今安徽寿县）上书给怀帝，建议迁都到寿春。司马越不能允许周馥等人将有号今天下作用的皇帝从自己手中夺走。在大敌当前之时，他一面出居许昌，一面北调周馥。周馥素来对司马越专权不满，这次自然不会承命。淮南太守裴硕奉司马越密旨偷袭周馥，失败后逃到东阿，向司马睿告急。司马睿早就对他督区之内的这支异己力量耿耿于怀，乘势派出部将甘卓、郭逸等人协助裴硕攻打周馥。周馥在项城（今河南沈丘南）被俘，忧愤而死。事后，司马睿在与别人议论此事时，也默认周馥是没有反罪的。周馥死后，司马睿控制了与建邺毗邻的淮南一带。江南政权的割据范围得到进一步的扩大。永嘉五年（311）三月，司马越病死在项城，其党羽王衍奉丧还葬东海。被司马越留在洛阳防察宫省的何伦等人也离城东走，许多达官贵人纷纷追随而行。不久，困守孤城的晋怀帝接受青州都督苟晞的邀请，准备迁都仓垣。一时间，洛阳上下，人心惶惶，出现了人口外流的狂潮。到怀帝准备动身之时，竟然连个卫队也找不到了，朝廷的官员更是十不存一。不久，洛阳为汉军攻陷，怀帝被俘。王衍等人也被石勒抓住杀死。

　　逃出洛阳的司徒傅祗、司空荀藩分别在河阴（今河南洛阳东北）和密县（今河南密县）建置了行台。与此同时，大将军苟晞、大司马王浚也在仓垣和幽州等地建立行台。他们各奉一位西晋皇室成员代表中央政府，布告天下。其中以荀藩奉立的秦王司马邺的行台影响较大，他们传檄四方，要求各地方镇出兵勤王。由于对司马睿的期望最大，遂推举司马睿为盟主。在司马越死后，怀帝曾重新对各方镇进行过任命，司马睿被委任为镇东大将军、兼督扬江湘广交五州诸军事的职务。司马睿对于西晋朝廷的重视不以为意，他的主要精力集中在经营江南方面，根本无心北顾。

　　由洛阳外流的官僚和士族以及中原地区的广大汉族人口，为逃避胡人的杀戮，除一部分以坞堡自守外，一部分北迁辽东、西亡凉州，余者皆纷纷南下。“是时，幽冀青并兗五州及徐州之淮北流民，相率过江淮”（《晋书·食货志》）。人口的南迁，往往是以一个大族为中心的集体迁徙，这些北方来的士庶侨民集团具有强大的势力。为了争取他们的支持，司马睿接受了王导的建议，大量吸收这些人参与政权。他先后委任了很多人担任内外主要官职，并使北方侨人士族在江南政权中明显地居于优势地位。同时，司马睿还在长江南北设置了许多侨置州郡县，安置流亡人口。对于北来侨民，为了照顾他们暂寓江左日后还乡的情绪，司马睿也没有把他们编入土著民户的永久性户籍——黄籍之中，而是专门为他们设置了一种临时户籍——白籍。白籍侨户受到优待，可以长期享受减免租税赋役的待遇。通过这些措施，司马睿比较快地取得了北方侨人士族的支持，并使他们成为自己政权的支柱。但是，司马睿的上述作法也带来了一定的恶果，它造成了江南地区郡县制度和户籍制度的混乱，并为大族侵吞人口提供了便利条件。

　　不过也有一部分南迁的北方大族名士对司马睿势力的孤弱表示失望。汝南大族周f 曾发牢骚地说：“我是因为中原地区不安定来此避难的，而这里如此单弱，怎么能保证安全呢！”为此，王导做了大量的拢络工作，逐渐稳固了他们的情绪。

　　扬州的西部地区属于江州，这是晋惠帝元康年间政府分割扬、荆十郡而设置的新州。司马睿的势力向西发展，必须要实现对江州的控制。而当时江州刺史华轶自认为受朝廷任命，不愿意服从司马睿以都督江州军事的名义所发布的命令，因此双方关系十分紧张。司马睿接受盟主的称号以后，没有理睬北方的求援，却对华轶加紧了行动。永嘉五年六月，他先把部将周访调至彭泽（今江西鄱阳湖北），对江州的治所豫章（今江西南昌市）构成军事压力，继而强令江州改易长吏。遭到华轶的拒绝后，司马睿命令扬州刺史王敦、历阳内史甘卓以及周访等人合兵攻打江州。由于下属的叛变，华轶兵败被杀。与此同时，司马睿还派兵赶走了豫州刺史裴宪，从而将势力范围接近了长江的中游地区。

　　永嘉六年（312）二月，从北方传来石勒准备兴兵南下的消息，建邺震动。石勒在苦县宁平（今河南郸城东）屠戮王衍等西晋大臣后占据许昌。不久，他引军骚掠豫州诸郡，临江而还，屯兵于葛陂。葛陂在今河南新蔡北，是周围三十里的大湖。它上承澺水（今洪河），东出■水、富水连结淮河。石勒在葛陂修堰筑垒，课农造舟，确实有由此渡淮入江，夺取建邺的打算。司马睿采取了相应的防范措施，将主力部队全部集中在寿春，任命熟悉水势的南士纪瞻为扬威将军，都督京口以南至芜湖诸军事。由于连降三个月的大雨，石勒的军队饥疾并臻。石勒听从谋士张宾的建议，取消南下计划，撤军北上。纪瞻乘势追击一百余里，江东形势才化险为夷。

　　永嘉六年十二月（313 年1 月），司马睿写信给流窜到沌口（今湖北汉阳东南）的荆州刺史王澄，要他到建邺担任军谘祭酒。王澄为王衍的胞弟。六年前，王衍曾为家族的长远利益作过一些规划，以王澄为荆州刺史就是他替自家安排的一条退路。王澄到任后，纵酒博弈，昏庸残暴。他在派部将镇压李骧领导的流民起义时，曾用欺骗手法将投降的八千多人尽沉江中，可谓凶残至极。杜弢起义发生后，迅速波及荆湘诸州，王澄亲自将兵攻打，却屡为杜弢所败。不久，荆益诸州都督山简的部将王冲又自称荆州刺史，把王澄打得四处奔逸，立足无所。正在仓皇之际，司马睿请柬的到来，对于王澄来说好象救星一般。他立即答应奔赴建邺，但途经豫章时，王澄因得罪王敦，被杀。王澄死后，司马睿派周f 接替王澄的职务，企图进占荆州。但由于受到流民军的攻击，周f 无法在荆州立脚。