徐州坚守不出，朱棣遂不再理会，继续南下。三月初一，燕军进逼安徽宿州。三月初九，抵达涡河（今安徽蚌埠市怀远县以北）。平安见到燕军一路南下，带兵来追；但三月十四日在淝河中了朱棣所设的伏兵，只得退回宿州。三月二十三日，朱棣遣将断徐州饷道，铁铉等率兵围攻，互有胜负。四月十四日，燕军进达睢水之小河，搭浮桥。次日，平安、何福领军夺桥，双方隔河僵持。数日后，南军粮尽，朱棣决定偷袭。半夜，渡河绕至敌后；但徐辉祖援兵正好赶到，四月二十二日，双方战于齐眉山（灵壁县西南三十里），南军大胜，斩燕将李斌。
南军再次获得胜利，再加上暑热，燕军陷入窘境。四月二十三日，燕军众将要求北返，择地休整，朱棣不同意，说“欲渡河者左，不欲者右。”大部份人站于左侧，朱棣怒。朱能这时强力支持朱棣，表示“汉高祖十战九不胜，卒有天下”，坚定了燕军坚持的决心。这时，朝廷讹传燕军已兵败，京师不可无良将，遂召回徐辉祖。四月二十五日，考虑到在河边不易防守，何福移营，与平安在灵壁（一作灵璧）深沟高垒作长远之计。由于粮道被燕军阻碍，平安亲自率兵六万护卫粮草。四月二十七日，朱棣率精锐袭击平安，将其一分为二；何福全军出动救援，朱高煦也率伏兵出现，何福败走。
南军缺粮，何福与平安决定次日（二十九日）突围而出，在淮河取得给养，号令为三声炮响；次日，燕军攻打灵壁墙垒，进攻信号正巧也是三声炮响。于是南军以为是己方号炮，纷纷夺路而逃；燕军趁势进攻，南军全军覆没。灵壁之战就此意外结束。此战燕军生擒了陈晖、平安、马溥、徐真、孙成等三十七员敌将，四名内官（宦官），一百五十员朝廷大臣，获马二万余匹，降者不计其数。只有何福单骑逃走。灵壁之战彻底击溃了南军主力，此后燕军在长江以北再也没有遇到像样的抵抗。一千六百年前决定楚汉之争胜败的垓下之战就发生在灵壁附近，可谓历史的巧合。
按照齐、黄的策划，曾令辽东派兵南下欲与铁铉会师济南，但五月初一在直沽被燕军击溃。