带兵平定黑山军的杨林并没有立即采取军事行动，而是决定先礼后兵，命令田丰、沮授以骠骑将军的名义，给黑山军大首领张燕、以及活跃在五行山一带的黑山军大大小小的几十个头领发去了劝降信。
同时，杨林还让幽州官军的主要将领郭彤、霍浪、高升、姜震、严政、卢通、任其、钱林等各级指挥官以个人名义，向盘踞在五行山里的黑山军将领们发去了劝降信。
郭彤、霍浪等人本来就是五行山里的土匪，而高升、姜震等人则是冀州的黄巾，他们与五行山里的黑山军差不多都是道上的兄弟，他们当中很多人都互相认识，更有不少人还是亲戚、朋友。
所有的劝降信都为黑山军的将领和士兵指明了出路，只要黑山军放下武器，过去的一切罪责不再追究，骠骑将军将保证他们的生命、财产安全，哪怕他们的财产是抢来的。
投降后的黑山军，愿意参加官军的，将根据个人的能力授于军职，不愿意参加官军的，既可以回家种地，也可以参加屯田兵。对于不愿意散伙的黑山军，可以成建制地改编为官军、或者屯田兵。
就是那些不愿意投降的黑山军，只要你带着队伍离开五行山，可以让你到大漠上去游牧，也就是去当马贼，要抢你就去抢鲜卑人去。只要你不抢劫汉人，幽州官军还可以为你提供帮助和保护。
这些条件已经非常优惠，足以打动那些黑山军将领了。而且黑山军的将士们也了解幽州骑兵的强大，他们不得不认真地考虑骠骑将军的提议。一时之间，虽然没有一股黑山军投降，可是也没有再发生大的战斗，冀州渐渐平静了下来。
为了给黑山军保持压力，杨林把高升姜震、严政卢通、任其钱林的三个骑兵大队分别派往中山、常山、赵国，屯兵在这三个郡的郡城周围，并不断、公开地进行军事演习，以威慑黑山军。