把司马炎命令司马干投降的诏书送进洛阳城的第二天，没等司马干给出答复，张志就让爨谷率军五万监视洛阳，亲自率领汉军主力抢先西进，去追杀被司马伷带到河南县的晋军主力余部，不为别的，就是不想让数量还有十几万人的晋军主力余部跑了，重新汉军一统天下的绊脚石。
事实证明张志的判断非常正确，汉军主力刚到河南，马上就发现司马伷已经开始带着晋军主力北上逃窜，汉军赶紧出兵追击，在谷水河畔再度大败晋军主力，连武器都不齐全的晋军主力投降大半，卫瓘和王浑等人死在乱军之中，司马伷和羊祜被汉军生擒活捉，只有司马骏带着少部分骑兵侥幸逃出生天。
与此同时，不甘失败的司马干也选择了弃城逃亡，还成功摆脱了爨谷的追击，带着一部分军队逃过了黄河，汉军乘势入主洛阳城，正式光复了这座曾经的东汉国都。
司马炎被俘投降的消息迅速传开后，司马家族身上潜藏的谋反基因也彻底爆发，先是司马老贼的第七弟司马通在淮南称帝，接着司马亮也在徐州打出了皇帝旗号，同时司马骏和司马干也在黄河以北各自称帝，全都打出了反汉复晋的旗号。手握重兵的晋廷都督中，惟有家眷老小都在洛阳的荆州都督陈骞选择了向汉军投降，率领荆州军民百姓易帜归汉。
张志并没有选择立即出兵平叛，而选择了优先占领人口众多的司隶地区继续扩军，然后才亲自率领二十万大军北上平叛，收复北方诸州，然后也不出张志所料，汉军主力北上后，东吴一度与司马通、司马亮结成同盟，试图乘机杀入中原，然而因为互不信任的缘故，貌合神离的联军还是被汉军偏师牢牢挡住，始终没有取得突破性的进展。
北伐的过程简单而又漫长，在无限优质粮草的巨大优势面前，不管是司马骏还是司马干都是只有招架之功，毫无还手之力，首当其冲的司马干被灭在邺城，接着司马骏也被灭在郯城，但因为北方疆域实在太大的缘故，汉军还是足足用了五年多时间，才基本平定了整个北方。