建炎元年（1127年）六月，宗泽前往抗金前哨京师充任东京留守。他六月十日接到朝廷任命，立即出发，十七日即到了汴京。宗泽，婺州义乌人（今浙江义乌）。
靖康元年初，金兵第一次围攻开封撤退后，宗泽入京任台谏之职。八月，金兵第二次南侵，他出知磁州（今河北磁县），并任河北义兵都总管。他不仅在磁州击退金兵，还主动出击，获取一些战果，使磁州军势声震河朔。这时，钦宗派赵构（康王）前往金营求和，到达磁州时，宗泽劝阻赵构使金，使其免当金军俘虏。
金兵第二次围攻开封时，钦宗任命宗泽为河北兵马副元帅，协同兵马大元帅赵构等人救援京师。他力主向开封进军，并不顾赵构、汪伯彦等人的阻挠，率兵奋战，多次挫败金兵，虽由于势力单薄，未能解京师之围，但有力打击了金军的气焰。
战争经过
这次宗泽留守京师，独当大敌，他更加积极地投入到防卫京城的艰苦斗争中。他上任后，立即着手整顿社会秩序，稳定市场物价，疏浚河道，恢复交通。
经过努力，在一个多月的时间里，宗泽就把开封这个经过金兵洗劫，残破不堪的城市，整顿成为抗金前线的坚强堡垒。在社会秩序初步安定之后，宗泽又着力修建京城防御设施。在京城四壁，各置统领守御使臣，随处设置教场，日夜加紧训练义兵。
根据城外地理形势，建立坚固壁垒24所，随其大小，驻兵数万。宗泽尤为重视黄河防线，沿河防务分给各县守卫，并在河的南岸设置障碍物，以阻止敌骑突入。
沿河走向，依次建立连珠寨，相互支援策应。宗泽总结与金兵作战失利的原因，即我军步卒经不住敌骑冲突，往往是一冲即溃。他在总结前人经验的基础上，制造了“决胜车”1200辆。
其体制是：1人驶车，8人推车，2人扶轮；3人执牌辅车，20人持长枪辅车，18人以神臂弓随枪远射，每辆战车共用55人。每10车差大使臣1员总领，编为一队。行则为阵，止则为营，专门对付敌人骑兵的进攻。建炎元年冬至二年（1128年）春，金军多次渡过黄河，骚扰濒河州县，以及滑州以南的沿河诸寨，作试探性的进攻。
宗泽坐镇开封，从容调兵遣将，多次打退金军的进攻。宗泽保卫开封的一个突出特点就是没有坐守孤城，而是打出去。当金军渡河时，东京留守司有的官吏主张拆去黄河上的浮桥，阻止敌人来犯。宗泽则派统制刘衍开赴滑州，刘达开赴郑州，各领兵2万，战车200乘，打出去牵制敌人。
并告诫诸将不得轻动，要保护桥梁，以待敌军过河来犯，相机消灭之。金兵见宗泽戒备森严，乘夜切断河梁，以阻止追兵，仓皇逃跑。金军不甘心失败，不久，又从郑州进犯，前军抵达白少镇，离京城只有20公里左右，宗泽镇定自若，一方面安定京城士庶人心，另方面派遣精锐力量支援刘衍。正月十五灯节之夜，宋军大败金兵于板桥，乘胜收复了延津、河阴，胙城等县，一直追到滑州。
刘衍又分兵夜袭滑州西15公里处的金兵营寨，尽得其辎重粮草。这场保卫京城的战斗以宋军大获全胜而告结束。渡过黄河，相机收复河东、河北地区，是宗泽保卫开封的有机组成部分。
1128年春天，宗泽在巩固开封防务的同时，积极联络北方抗金义军，各地农民起义军，以及若干支溃兵游勇，积极作渡河的准备，尤其是六月份，天气炎热，金军兵马疲乏，正是大举北伐的良机。
这时，王彦的八字军奉宗泽之命，移屯滑州。五马山的首领马扩，也携带信王赵榛的信，前来留守司。他们3人共同制定了渡河作战的军事计划：
王彦自滑州渡河直取怀、卫、濬、相等州；马扩等军由大名府攻打洺州、庆源府、真定府；杨进、李贵、王善、丁进等部都分头并进，与两河义军约定时日，里应外合。另外，宗泽自到开封后，先后向高宗上了24道奏疏，恳请他“回銮”东京，鼓舞士气，号召军民报国仇、复故疆。
战争结果
此时年已古稀的宗泽，满怀对宋朝的忠心，日夜盼望朝廷批准他的渡河作战计划和高宗回銮的请求。但左等右等，杳无音讯，只好深长地叹息道：我的心愿恐怕难以实现了。
终于，他心力交瘁，忧愤成疾，终于一病不起。将领们前来探望，宗泽勉励他们奋勇抗金，完成自己未酬的壮志。死前一日，念及未竟事业，长吟“出师未捷身先死，长使英雄泪满襟”的诗句。
临终时，没有一句话提及家事，只是大声疾呼：“过河！过河！过河！”开封城内军民听到宗泽去世的消息，奔走相悼，太学生撰文祭奠，工商为之罢市。宗泽任东京留守一年来，气势正盛的金军的几次进攻，均被打退，取得了开封首次陷落以来少有的胜利，充分说明了宗泽的抗金主张和抗金措施收到了成效。
战争后续
建炎二年（1128年）七月宗泽死后，宋高宗派杜充继任东京留守，他的所作所为与宗泽完全相反，宗泽招抚的抗金义军纷纷离之而去，不久开封陷落。