周天爵死后，朝廷任命袁甲三代领其军。
袁甲三，字午桥，河南项城人。进士出身，他接到朝廷命令，屯军安徽颍州、亳州。朝廷又命令陕甘提督舒兴阿率一支陕甘军屯驻河南周口，不久，诏命舒兴阿统军皖北，牛鉴领陕甘军驻淮阳。
河南巡抚陆应榖剿捻不力，被朝廷夺职，诏命英桂担任河南巡抚，统领舒兴阿、牛鉴、袁甲三。不久，调江南大营参将郑魁士到安徽宿州，征调陕甘兵马到河南，由英桂统一指挥剿捻事宜。
袁甲三自河南永城进军安徽亳州，张乐行在安徽涡阳雉河集大集捻军，袁甲三获知，进攻张乐行。捻军东走阜阳颍州，安徽、河南两省官军夹攻捻军，都没有成功。
张乐行，字洛行，安徽涡阳人。生在地主家庭，非常富有，年轻时热爱武术，喜欢结交四方英雄豪杰。他开过酒坊、粮行、赌局，贩卖私盐，支持大家抗粮、抗差，地方恶霸侯永清、豪绅宋梦熊都是其打击的重点对象。
咸丰二年冬，十八股捻军在雉河集秘密聚义，张乐行与龚得树、冯金标、张凤山等歃血为盟，张乐行被推举为盟主，准备武装起义。
两年以后，捻军势力发展到豫东、皖北。
苏北、鲁南、豫东群雄竞起，兵部给事中袁甲三多次招安张乐行，没有结果。他领兵进攻亳州，先后攻破白龙王庙、燕家小楼，在雉河集擒住苏天福，声称要活捉张乐行。
张乐行有恃无恐，与清军决战浍河。袁甲三败走三河尖（今河南省固始县三河尖镇），张乐行夺回雉河集，占领丰县，进逼开封。
咸丰七年春，春寒料峭，张乐行率军进攻河南光州、固始，与陈玉成、李秀成会师于霍丘城外。张乐行接受太平天国领导，被封为征北主将。从此以后，捻军一律蓄发，改换太平天国旗帜。