晋义熙十二年（416年），刘裕北伐后秦，檀道济为冠军将军，与王镇恶同为先锋，引军沿淮水、淝水向许昌、洛阳进发。檀军先抵项城，后秦守将姚掌不战而降，但在进攻新蔡（今属河南）时，遭到了后秦大将董遵的顽强扺抗。檀道济督军猛攻，破其城，杀董遵，继而攻克许昌，擒获后秦颍川太守姚垣及大将杨业。
利用军威大振之机，檀道济乘胜前进，拔阳城，克荥阳，直抵成皋（今河南荥阳）。秦征南将军姚洸屯戍洛阳，急向关中乞求援兵。姚泓派将姚益男领一万人马星夜赶赴往救。可援军尚未到达，檀道济已攻下成皋，并会同其它部队，四面环攻洛阳。姚洸孤军难守，只得开城门出降。
次年三月，刘裕让毛修之留镇洛阳，令檀道济率师继续西进。王镇恶克渑池，抵潼关。檀道济和沈林子渡河北击，进攻蒲（今山西永济），想以此绕过潼关，进入关中。但后秦守军战斗力甚强，城坚难下。
檀道济不得不回军河南，会同王镇恶合攻潼关。后秦太宰姚绍率军五万援救，开关出战。晋军奋击，杀伤秦军千余人。秦军受挫后退驻定城（今陜西华阴东），据险固守。相拒数月，姚绍病死军中。秦军失去主将，无心战守。
八月，王镇恶率舟师由黄河入渭水，至渭桥登岸，破后秦军。姚泓出城投降，后秦灭亡。刘裕东归后，任檀道济为征虏将军、琅琊内史。及刘裕建宋，檀道济以佐命之功，改任丹阳尹、护军将军。永初三年（422），又奉命出为镇北将军、南兖州刺史，镇守广陵（今江苏扬州），监淮南诸军。
刘裕死后，少帝即位，檀道济与徐羡之、傅亮、谢晦四人同为顾命大臣。北魏以宋值新丧，大举南进，共出数路，攻略宋地，司州全部及青州、兖州、豫州大部分地区很快被魏军夺占。檀道济闻警，率军救援。军至彭城，司、青二州并告危急，檀道济领兵不多，不足分赴，而青州道近，守军薄弱，便统兵兼程往救。
魏军见宋援军将至，撤去青州治所东阳（今山东费县西南）之围。檀道济兵至东阳，军粮耗尽，只得停止追击，又见东阳城已残敝不堪，移青州治所于不其城（今山东即墨西南），尔后回军湘陆（今山东鱼台东南），阻止了魏军南进的势头。
次年，因少帝游戏无度，荒怠朝政，徐羡之等密谋废立，召回檀道济共谋其事。当睌，檀道济与谢晦同宿领军府。谢晦心怀恐惧，辗转难寐，而檀道济触床即鼾声如雷。为此，谢晦深深佩服檀道济的镇静和胆量。次日，几位顾命大臣入殿矫诏太后令，废少帝，迎刘义隆入承大统。
元嘉七年（430），为解除北魏对宋的威胁，文帝命檀道济统军北伐。宋军前部到彦之进军河南，收复洛阳、虎牢等地。但很快，北魏太武帝亲自率军反击，击溃了到彦之等部，刘宋前线部队一片混乱，很多地方纷纷失守，退驻滑台。翌年一月，檀道济率师往救滑台，军至寿张（今山东东平西南），遇魏安平公乙旃眷。檀道济领军奋勇前行，大破魏军，并乘胜北进，前后二十余日，连战三十余次，宋军多捷，进抵历城（今山东济南）。