十二月，捻军挥军北上，进入河南邓州（今邓县）境。途中刘暹拦截不及，被僧格林沁申饬。
张宗禹、任化邦等选择邓州西南的唐坡迎敌，捻军早到，趁时挖壕筑垒，部署兵力。12日，僧军分左、中、右三路发动进攻。任化邦统部首先打败僧军右路步队，然后从侧后抄袭敌人的中左两路，大败僧军。
四年二月，捻军经伊阳返回鲁山，僧格林沁又一路追到。捻军诱敌过滍水，然后回军猛击，并以马队从后抄袭。僧军大恐，营总富克精阿、精色布库等率部先逃。捻军乘势奋勇杀敌，先后毙敌翼长恒龄、营总保青、副都统舒伦保、营总常顺等多人。僧格林沁得陈国瑞援救，才幸幸免于死。
僧格林沁经邓州、鲁山两次大败之后，气急败坏，将首先败退的富克精阿、精色布库处决，借以镇慑所部，然后再次申饬刘暹、郭宝昌、宋庆等将领。
僧格林沁决心报仇雪耻。
捻军本来准备西进陕西，由于清军防堵甚严，于是决定在河南境内与僧军继续周旋。
鲁山获胜后，捻军经叶县北走襄城、禹州，复经长葛，新郑，转入尉氏县境。到二月下旬，尾随捻军的僧军到达尉氏县城，捻军已南下鄢陵。僧军先头部队3000人孤军冒进，追至鄢陵县北阎寨坡。捻军探明追兵单薄，便以少数部队诱敌，大队回马力战，将其击溃。
三月，捻军由临颍、郾城南下，攻西平，围汝阳，刘暹连兵宋庆部猛攻，僧格林沁也亲督马队南下。捻军见僧军追来，便挥军南下，进攻信阳州城南关。
算上去年，已经是半个年头的追击战了。刘暹没立下半点值得一提的战功，善于避实击虚的捻军根本不与他硬碰硬。
半年的追击战下来，刘暹除了把所部军队拉练的更见精悍有素外，唯一的益处就是把自己军中的骑兵营扩充到了八个中队。先前大调整的时候，拨出一个中队编入炮兵守备队的骑兵营只剩有两个中队的人马，在一众秦军营头中完全抬不起头。现在，八百马队在握，魏明说话的声音总算可以放大到正常了。
僧军追达信阳时，捻军又举旗北上，经确山、遂平、西平到达了郾城，然后攻挟沟，入睢州境。四月里，张宗禹率军北上，日夜兼程百余里，由河南考城李八集渡黄河故道入山东。数日之间，越曹县、菏泽、定陶、城武、郓城、巨野、金乡、济宁等地，纵横驰驱，往来迅疾，逼近直隶边境。
京师震动，清廷斥责僧格林沁纵捻北来，僧格林沁暴跳如雷，率军数十日不离马鞍，“手疲不能举缰索，以布带束腕，系肩上驭马”。将士死亡数百，军中多怨言。
之前在两个多月的时间里，僧格林沁尾随捻军之后穷追不舍，从豫西、豫中、豫东、豫南，一直追到山东，行程数千里，所部被拖得精疲力竭，军中将士死伤数百不提，连僧格林沁自己也被拖得“寝食俱废，恒解鞍小憩道左，引火酒两巨觥，辄上马逐贼”。
刘暹屯驻考城，作为河南省城开封和重镇归德的屏护。
因为河南绿营虽有三镇兵力，但可以就近拱护开封的只有归德镇。而跟编制八千之多的汉中镇相比，总共仅镇标左右两营，再辖永城、考城、陈州三营兵力的归德镇，总军力不足三千人。扣掉吃空闲的后，能有一千五六百人就是好的了。
所以先前捻军纵横豫东，归德镇完全摆设。作用还没民团大！
而河南巡抚下辖的两营抚标和开封守城营，今年虽有益补，却也不过三千丁勇。守城尚可，出外御敌，自寻死路。
刘暹七千多兵勇守在考城，开封、归德，即皆可照顾。
四月初，捻军进入山东，经曹县、定陶、城武、嘉祥、汶上、宁阳进抵曲阜。僧军仍在后紧追。山东巡抚阎敬铭派布政使丁宝桢率本省防军进入兖州，妄图夹击捻军。为了继续疲惫敌军，捻军北趋宁阳、东平，途中击败总兵范正坦部后，继续北上东阿、平阴、肥城，然后转头南下宁阳、兖州、邹县、滕县、峄县，经兰山、郯城进入江苏的赣榆、海州、沐阳。