十五万瓦岗大军如同一道洪流缓缓向东撤去，尽管此次撤退，李密，罗士信等人吸取了足够教训，严密部署，细致计划。但在撤退过程中仍旧被具备超强侦查能力和情报搜集能力的隋军抓住空子，以天兴军为主攻连续打了几次伏击突袭战，杀伤大量瓦岗军兵士。洛口城内的来护儿也乘机出动天兴军精兵，对瓦岗军尾部展开攻袭。
本就因为缺粮，连续败仗而士气低落的瓦岗军随之溃败。此次大溃败中，大量瓦岗军将领头目阵亡，其中包括裴氏父子和罗士信等人。裴氏父子死于天兴军长枪兵的乱枪之下，罗士信则是在一次伏击中，被一支长弓重箭射穿了头颅。
等李密逃入荥阳时，身边兵卒已经所剩无己，经过几日收拢残兵，满打满算已是五万人不到。李密依旧安慰自己所，留得青山在，不怕没柴烧。尽管自己损兵折将，但自己地盘还在，从东边青州的大海边一直到箕山山脉东麓的众多郡县还是听命于自己，他一到荥阳，就立刻撰写敕令，命各郡各县征集兵役劳役，并抽调精壮到荥阳增援。
然而他的敕令发出多天后，响应他的地方瓦岗势力却是缪缪无几。一是因为李密在洛口的大败极大的打击了他在瓦岗军势力中的威望。瓦岗军虽然是天下最大的一支反隋力量，但是构成复杂，凝聚力当然与李渊那样以宗族阀门为核心的势力不能相提并论。若是顺势时，都还能表面上听从统帅号令，但到颓势时，就开始离心离德了。
二是这些地方也确实是民力枯竭，难以为继。本来群雄并起反隋就是因为杨广三征高句丽导致民生凋敝所造成的。结果换来瓦岗军统治后还是三天两头的征粮，征兵，征集劳役。本来为瓦岗军当兵卖命还有口洛口仓的粮吃，如今还得自己带粮去，哪会甘心。若是逼迫急了，只怕从平民百姓到豪强大族又要造反。因此这些瓦岗军的郡守县长都消极应对李密的敕令。
……
就在李密焦头烂额之时，杨广这边却是顺风顺水。豫章之战，隋军大捷。在长久围困后，林士弘最后盘踞的豫章县被隋军攻破，林士弘被当场斩杀，现在他的头颅已经摆在了杨广的案头。除此，前些时乘北方隋军与瓦岗，南方隋军与林士弘鏖战之机，窜入南阳，新野，襄阳一带攻城劫掠吃人的流寇朱粲也被秦琼，程咬金所剿灭。
林士弘的灭亡意味着南方成体系的反隋割据势力已被全部肃清。当然还有小股类似朱粲这样流寇性质的武装，但这都已不足为患，凭借地方上的郡县戍兵就能剿平。
杨广眼见南方再没什么制肘，随即下达诏令，命夏越抽调江都总管府精锐沿通济渠北进，与北方隋军南北合击，彻底剿灭以荥阳为中心的瓦岗军势力。
十天之后，夏越统领十万隋军，征集大小民船千余只，满载军需粮草，水陆并进。隋军沿着通济渠一路北进，沿途各郡各县望风而降，势如破竹。除此杜伏威率另一支五万人的偏师直取青徐，一路之上也是少有抵抗，大多城县皆被传檄而定。