黎阳之战后，张仲坚在黎阳城外又呆了数日，整顿军队，编组降俘。此战宇文化及被击败仓皇逃跑，其手下骁果降者无数。光是张仲坚所部便抓捕了俘虏一万多人。
此战，瓦岗军损失很大，兵员缺额自然要由这些俘虏补充。原则上说，所有俘虏应该送往主营，由魏公李密决定其去留。
但一场大战下来，李密的内营损失很大，原来的很多将领已经不再像往日那样听话了，私下截留俘虏编入军中的大有人在。
别人这样干，张仲坚自然也不想搞特殊。但他不像其他将领那样，把俘虏的骁果全都编入军中。那样做军队数量虽然多了，战斗力却不会提高多少。这些俘虏已经是惊弓之鸟，士气低落至极，以他们战斗稍有挫败便会落荒而逃。
张仲坚费了几天时间，把这些俘虏甄别了一番，挑选其中老实听话者，百人将以上的军官一概不要，这样，挑选了五千余人，然后把挑选剩下的六七千俘虏都送给了李密。
原来的军队中，张仲坚保留了一千五百人规模的陷阵营，以为作战的中坚，然后把剩下的军队和俘虏整编在了一起，组建一支新军。顺便，把父亲张大力的部下也整编了进去。新军的军官都是以前的老兵和张大力的嫡系部下。中级以上的军官则出自兄弟会，以保证新军对自己的忠诚。
经过整编后，部下军队人数超过了一万，骑兵也扩充到了一千人。军队人数多了，战斗力却没有提高太多，还需要反复磨合，才能形成战斗力。
至于人心的归附，更不是简单便能做到。为了让这些俘虏暂时归心，张仲坚许诺，只要他们为自己作战两年时间，便会放他们回家。而这两年内，他们立下的功绩都会换算成银钱，等到期限到后让他们带走。
有了期望，也就有了盼头，很多俘虏士兵便安心的在军中呆了下来。