晋军在潼关的再次战败，彻底坚定了蜀汉旧人的起兵决心，晋军败兵才刚撤回函谷关没过多久，以宗预之子宗元和诸葛亮之侄诸葛显为首的蜀汉旧人便在河东突然起兵反晋，掀开了蜀汉旧人反攻倒算的序章。
宗元和诸葛显领导的河东义军初始规模并不大，还因为晋军一直在防范蜀汉旧人的缘故，起兵没过多久就招来了河东晋军的严厉打击，好在汉军方面也早有准备，张志只是一声令下，汉军大将杨稷马上就带着两万汉军渡过了黄河增援蜀汉旧人，宗元和诸葛显也马上带着河东义军主动向汉军靠拢，与汉军会师在解县附近。
迅速收编了蜀汉旧人组成的军队后，杨稷马上向着河东晋军发起反击，也靠着汉军将士的强大战斗力，迅速将晋廷河东太守王戎率领的晋军打得溃不成军，继而反攻到了安邑城下，逼得晋廷接连调动中原晋军和并州晋军赶赴安邑增援。
再接着，因为还来不及知道凉州晋军已经集体易帜归汉的缘故，过于远离关中的杨稷为了谨慎起见，被迫选择了暂时向蒲坂退却，然而还没等汉军撤退到蒲坂，赵全就已经率领着两万汉军渡过了黄河增援，彻底杀了晋军一个措手不及。
有了援军后的汉军士气大振，也马上再度向晋军发起反攻，结果靠着各级将士的英勇作战，汉军成功击溃了并州和中原来的晋军，继而再度兵临安邑城下，还靠着地道爆破的战术攻城得手，迫降了走投无路的晋廷河东太守王戎，拿下安邑，控制了大半个河东郡。
不甘失败，司马伷一度打算利用张志没有亲临河东的机会继续增兵河东，尽最大努力保住这个产粮地和中原最大的产盐地，然而就在这个时候，凉州全境易帜归汉的消息却突然传到了中原，没有了凉州晋军的牵制后，汉军大将爨谷也带着已经扩编到四万多人的陇西汉军东进汉中增援，让张志可以腾出手来增援河东战场。