原来，刘莽自从吃了败仗后，自知以剩余的兵力难以打败舒晏，就向游弋在附近的其他匈奴兵请求援助。又调来了两万兵，打算对汝阴城来个闪袭，出其不意进攻南门，从南门杀进城去。如果闪袭不成，此两万兵就围困东、南二门，原本驻扎在城北的刘莽本部就围困西、北二门，对汝阴城形成合围之势。
刘莽没想到舒晏的反应这么快。闪袭南城的阴谋没有得逞，只得按计划将兵逼近到城下，与援兵一起四面合围汝阴城。
休整了一夜，第二日清晨，城北一股浓烟升空，刘莽指挥手下兵将攻城，其他三门的匈奴围兵也同时相应。霎时战鼓震震，喊杀冲天，云梯高架，羽箭乱飞。
汝阴城墙原本是年久失修的。舒晏料到可能会有被围困的一天。未雨绸缪，早在匈奴兵第一次到来之前，就已将城墙做了加固。尤其是女墙损失的，都修补了起来，这为守城士兵提供了极大的安全保障。
匈奴兵先派出弓弩手对城墙上的守军密集远射，想以此作掩护，云梯手好有机会推动攻城云梯接近城墙。守城的一方虽然有居高临下的优势，但如果十几架攻城云梯同时架到城根下，成千上万人一起奋勇登顶，也是很难防守的。且被选派的攻城者全都是百里挑一的勇健之士，本来攻城的一方就带有气势上的优势，只要有一两处破了防，让一小部分士兵攻到城墙上，就犹如决了口的大堤，一发不可收拾，想挽回就挽回不了了。
所以守城方尽量不给攻城方接近城墙的机会。每面城墙都架有二三十辆投石砲车。对方也装备了投石车。但是他们的设备不如舒晏制作的精良，且舒晏一方的砲车架在数丈高的城墙之上，居高临下，射程超出对方数倍。即便对方冒死前进，攻到了近处，但这种投石设备却还能调整射程，只要将拉力减少，就可攻击近处。