先帝还在时有个习惯，就是一打仗就喜欢去南匈奴借兵。一来是南匈奴这些年和朝廷关系不错，自从于夫罗继任单于以后尤其和朝廷走往密切，南边但凡有点风吹草动朝廷就会派人向南匈奴求助，而于夫罗也十分享受大汉朝廷对于他的封赏嘉奖。这匈奴和朝廷自从西汉时期就战争不断，朝廷这边更是名将辈出，几次三番打得匈奴落荒北逃，而到了于夫罗这一代开始致力于和朝廷修复关系，再加上动不动就帮朝廷冲锋陷阵，因此两边关系格外密切。二来就是这南匈奴骑兵本来就是北方霸主，匈奴人无农耕可言，从小就生长在马背上，弓马自然不是汉人可以比拟。而南匈奴中的精锐更是个中好手，他们被于夫罗抽调出来专门成立了一支精锐骑兵部队，用来听从朝廷的指令东征西讨，这些年确实立下了汗马功劳。
中平四年，马腾和韩遂等人在凉州一带叛乱，先帝命太尉张温率领乌桓骑兵伙同于夫罗的南匈奴精锐骑兵去讨伐凉州叛军。在这期间，战争贩子公孙瓒和中山太守张纯因为乌桓骑兵的兵权由谁掌控一事发生争执，一来二去之间公孙瓒惹恼了张纯，张纯一怒之下也不去参加讨伐西凉叛军的战事了，反而联合了乌桓首领丘力居直接反了，接着张纯率领军队劫略蓟中一带，杀护乌桓校尉公綦稠、右北平太守刘政、辽东太守阳终等人，聚众至十余万人屯兵肥如，掠夺幽州、冀州。此时张纯自称弥天将军、安定王，后来更是自称天子，着实把先帝气得不轻。
虽然一同前去西凉参加战事的乌桓一支出了变故，但是于夫罗的南匈奴这边也不好过。由于于夫罗太喜欢彰显战功，成日里出兵帮助朝廷平定各地叛乱，连年的征战和死伤让南匈奴族人心生不满，终日里提心吊胆怕去抓走充兵打仗。于是借着这次于夫罗再度出兵南下的时候，南匈奴部落索性直接也发动了政变，杀死了于夫罗的父亲，拥立须卜骨都侯为新的单于。