正当祖逖以谯城为根据地，且战且耕，逐步扩大战果的时候，发生了蓬陂坞主陈川叛归石勒的事件。陈川本是号称“乞活”的流民集团的首领，自称宁朔将军、陈留太守。这支流民武装长期割据浚仪蓬陂，曾经投降石勒，又受晋官号。陈川部将李头攻打谯城立功，祖逖遇之甚厚，赏赐他一匹骏马，以后李头经常感激地说：“如果能够奉事祖将军，我虽死无憾！”陈川听了大怒，遂杀李头。李头的亲党冯宠鼓动所属四百多人投奔祖逖，陈川更加怒不可遏，大掠豫州诸郡以为报复。祖逖则针锋相对，派将截获，并命令他们把抢来的财物归还百姓。陈川战败，于太兴二年（319）四月以浚仪投降石勒。祖逖进攻蓬关，石勒派养子石虎率领五万大军救授陈川，祖逖寡不敌众，暂时撤兵到梁国。石虎在豫州进行了一番洗劫之后，也带着陈川回师襄国，只留下将领桃豹戌守蓬陂坞。这年十月，祖逖派督护陈超攻打桃豹没有成功；不久，再度派将领韩潜进击。韩潜占领蓬陂坞东台，桃豹退据西台，双方对峙四十来天，形成胶着状态。

　　祖逖决定设计智取。当时，双方粮草供应都很紧张，祖逖命令把沙土装在粮袋里，让一千多人像运送军粮一样，忙忙碌碌运上东台，又故意让几个人真的挑着大米，走在后面，佯装累得走不动了，放下担子在半道上休息。桃豹的军队缺粮已久，见晋军运粮，早红了眼。他们紧盯着道上那几个人，以为有机可乘，突然冲过来抢粮，那几个人扔下粮袋仓皇逃跑。桃豹的军队虽然抢到了几袋大米，但以为晋军粮食充足，反而更加人心惶惶，毫无斗志。不久，祖逖得到情报，得知石勒用千头驴给桃豹运送粮食，他派遣将领在汴水堵截，悉数缴获了这批粮食。桃豹闻讯，连夜退兵东燕城，祖逖乘胜进军，派韩潜攻占封丘，威逼桃豹，他亲自率军夺取雍丘。接着，他又多次派兵进攻石勒屯戍，石勒在河南的境土日益缩小。太兴三年（320）七月，石勒不甘心失败，派遣一万多精锐骑兵反扑，但又被严阵以待的北伐军所败。又经过一年多的反复争夺，祖逖取得北伐战争以来最重大的胜利，朝廷以此擢升他为镇西将军。

　　将军壮志未酬① 《晋书·张平传》。

　　祖逖在北伐中不仅善于分化瓦解敌军，而且善于团结可以团结的豪强武装集团和坞壁主，这是他能够以弱小兵力多次打败敌军的重要原因。当时河南境内有赵固、上官巳、李矩、郭默等割据集团，他们各据一方，经常以兵戎相见。祖逖多次派人从中调解，晓以大义，消除他们之间的矛盾，使他们都服从自己的统一指挥。黄河沿岸还有一些小坞主，迫于石勒强大的势力，不得不臣服于石勒，送其子弟到襄国为人质。祖逖理解他们的处境，只要他们不与北伐军作对，一概不加追究。有时，他派出小股巡逻队，伪装抄略这些坞堡，给石勒造成假象。这些小坞主对祖逖感恩戴德，经常帮助北伐军刺探情报，使北伐军打了不少胜仗。

　　祖逖既长于御军，又善体恤民情。将士“其有微功，赏不逾日”；军队纪律严明，秋毫无犯。他在统治区内劝督农桑，恢复农业生产；在军队中一直实行且战且耕，以耕养战，以减轻人民的负担。他自奉节俭，不畜私产，其子弟与战士一样参加耕耘、背柴负薪。因此，北伐军得到河南地区人民群众的拥护和爱戴。有一次，祖逖摆下酒宴，招待当地的父老兄弟，一些老人热泪纵横，把祖逖比作再生父母，在座上歌曰：幸哉遗黎免俘虏，三辰既朗遇慈父。

　　玄酒忘劳甘瓠脯，何以咏恩歌且舞。

　　在极端困难的条件下，祖逖领导下的北伐军正是依靠群众的支援，同占据绝对优势的敌人苦战四年多，终于收复黄河以南的大片土地；北伐军也由小到大，越战越强，成为一支使“石勒不敢窥兵河南”的劲旅。

　　石勒慑于北伐军的威力，转而采取守势，他下令幽州官府修祖氏坟墓、成皋县修祖逖母亲坟墓；又写信给祖逖，要求通使和开放贸易。祖逖出于策略上的考虑，曾派参军王愉出使，并“听互市，收利十倍，于是公私丰赡，士马日滋”，兖、豫地区的人民总算可以过上几天安全日子了。

　　祖逖的目标是清定中原，他不敢稍有懈怠，抓紧“练兵积谷”，准备“推锋越河，扫清冀、朔”。但是，太兴四年（321）七月，朝廷却任命戴渊为征西将军、都督司兖豫并幽冀六州诸军事、司州刺史，出镇合肥。祖逖心里十分难过，他感到自己成年累月在疆场上与敌人周旋，还得不到朝廷的信任，而徒有虚名，并无远见卓识的戴渊反要来辖制自己。这时，又传来王敦跋扈，朝廷内部矛盾日益尖锐的消息，眼看内乱将起，北伐还有什么希望！祖逖心力交瘁，忧愤成疾。但即使在这种情况下，他仍然“图进取不辍’，抱病营缮虎牢城。虎牢城北临黄河，西接成皋，地理位置非常重要，他担心城南没有坚固的壁垒，易被敌人攻破，特意派从子祖济率众筑垒。不幸祖逖病情急剧恶化，壁垒尚未修成，他已病死在雍丘，终年五十六岁。

　　祖逖去世的消息传开以后，豫州人民痛哭流涕，谯梁百姓还自发为祖逖修建祠堂，纪念这位热爱祖国、热爱人民、不畏强敌、百折不挠的爱国名将。刘琨出镇并州当祖逖在南方高举北伐大旗的时候，他的挚友刘琨正在并州独撑危局，孤军奋战。

　　刘琨（270—318），字越石，中山魏昌（今河北无极县）人。西汉中山靖王刘胜的后裔，祖、父在魏晋之际历仕高官。刘琨少有“俊朗”美誉，所谓“洛中奕奕，庆孙、越石。”①庆孙即刘琨兄刘舆的字。他工于赋诗，颇负文名，称得上一个风流才子。当时，贾后之侄贾谧权过人主，喜欢附庸风雅，身旁聚集了一班出身于豪族贵戚的文人，为之歌功颂德。这班人号称“二十四友”，名气很大，而刘琨兄弟也厕身其间。“二十四友”的首领是以奢侈闻名天下的石崇，他在金谷涧有一处无比豪华的别墅，成了这班人的聚会场所，他们在这里饮酒赋诗，作无病呻吟。刘琨早年的才华都抛掷在这种庸俗的酬答之中，不过在当时的社会环境中，这也是不足为怪的。