虽然西凉诸将都不想就这样离开长安返回西凉，虽然他们更清楚一旦这么做了会使马家成为西凉军主导一事变得无可更改。可是眼下的局势却不得不让他们作出了这个选择，因为他们也很清楚，自己所面对的敌人是多么的强大和难以应付，回去西凉，才能得保周全。
正是因为有如此考虑，再加上担心马家会趁此传播某些对他们不利的谣言，从而动摇军心，在经过一番商议之后，众将终于作出了决断，就此退兵出长安，往西凉而去。
不过他们也不想就这样狼狈空手而回，所以在退兵时就提出了要将整个长安搬空的意思。不但城中财富要全部取回西凉，就是城里的百姓也必须全部裹胁带走。他们身为西凉人当然清楚知道西凉的情况，地广人稀是制约西凉势力增强的关键所在，所以要想在将来还有争雄天下的可能，就必须尽可能地将本属于长安的百姓带回去。
此一点倒也不是太过困难。因为长安城里有不少百姓本就是感念于西凉军对自己的好处而从洛阳而来，这次再迁移去西凉各地倒也没有太大的反对。当然，这除了他们对西凉军依然有所好感外，最要紧的还是西凉军所展现出来的强大已经威慑了他们，他们是亲眼见到这些人是怎么把朝臣满门诛杀的，所以自然就没有人敢以死相抗了。
而且，马越为了安抚民心，让百姓肯背井离乡也是花了不少心思的。通过他的授意，军士们将西凉地广人稀，人一旦去了就能获得大量荒芜田地的优待不断地灌输给那些百姓。而这个时候的人根本不怎么了解身外十里处的情况，更不知道西凉究竟是怎么样的，既然对方说那里人少地多，百姓们自然是乐得前往了，何况还有不菲的安家费可得。
所以这次将百姓迁移往西凉之事虽然看似有违人心，却也没有太大的阻力。