周太祖郭威死于显德元年（954年）正月，在位四年。郭威诸子早在其起兵邺都时，就被后汉杀害于汴梁，所以只能由养子柴荣继位。柴荣，籍贯邢州尧山（今河北省邢台市隆尧县西部），是郭威妻柴氏之兄柴守礼的儿子，出生于邢州龙岗县（今河北省邢台市）之别墅中，幼年随其姑母成长于郭威家，与郭威夫妻关系融洽，遂被收为养子。
周世宗柴荣即位后，遇到的头等大事，便是如何抵御北汉的进攻。北汉主刘旻利用周太祖新丧，世宗刚刚即位，人心不稳之际，联合契丹发兵南下上党潞州、泽州（今山西晋城）二州，妄图一举灭亡后周。当时朝中许多人反对用兵，只有宰相王溥一人支持世宗，世宗力排各种干扰，决定亲率禁军出征。
双方在泽州高平县南（今山西晋城市高平南）相遇，刘旻见周军兵少，遂不等契丹军到便发动了进攻。两军交锋，禁军大将樊爱能、何徽率右军溃退，一路杀掠百姓，并造谣言说：“官军大败，馀众已降。”这一情况的突然出现，使得周军的形势变得非常严峻，周世宗屹然不动，率领亲兵，临阵督战。
禁军主将张永德等率偏将赵匡胤冲锋陷阵，拼死奋战，双方血战至傍晚，北汉军队支持不住，开始后退，万馀人被赶至山涧边，死伤惨重，死尸弃甲，填满山涧。刘旻仅率亲骑百馀狼狈逃走。夜间迷路，寻找一村民引路。
由于北汉统治残暴，百姓恨之入骨，走了百馀里路，才发现走向了晋州，遂将引路村民杀死，另外找路逃回太原，到达沁州时，当地官吏前来献食，尚未举筷，听说周军追到，又仓皇逃窜。此战史称高平之战，至此以后，北汉再也不敢轻言伐周了。
高平之战周世宗虽然取得了胜利，但也暴露出骄兵悍将难以驾御的状况。为了解决这一问题，周世宗决意改变五代诸朝对骄兵悍将纵容姑息的政策，他召集诸将，当众宣布樊爱能等将校七十多人罪状，并立即斩首。此举使骄兵悍将有所畏惧，初步整顿了败坏的军纪。
周世宗深知仅靠杀若干个人是不能从根本上解决问题的，要想改变五代军队长期遗留下来的积习，提高战斗力，必须从整顿禁军入手。返回汴梁后，周世宗任用年轻将领，裁汰禁军中的老弱病残，召募天下豪杰，精选骁勇，将藩镇军队中的善战之士，选入禁军。周世宗甚至亲自试阅武艺，选拔人才。
经过此次整顿后，旧史记载说：“诸军士伍无不精当，由是兵甲之盛，近代无比，且减冗食之费焉。”有了一支精锐的军队，只能说为日后的统一战争奠定了一定的基础，并不等于完全具备了统一的条件。于是周世宗又从平均赋税，发展生产，整顿吏风等方面入手，进行了比较彻底的改革。
显德二年（955年），世宗遣凤翔节度使王景、宣徽南院使向训为将，率军伐蜀。仅动用偏师，小试锋芒，便收复了秦、凤、阶、成四州之地，然后答应后蜀的求和请求，罢兵归朝。此战并不在于灭亡后蜀，而是夺取战略要地，将后蜀封锁在两川的范围内，使其不敢轻动兵端，骚扰后周的西部边境。
接着周世宗又策划了征伐南唐的战争，目的在于夺取淮南富庶之地。从显德二年冬开始，至显德五年，世宗前后三次亲征，终于击败南唐，完全占据了淮南十四州，饮马长江。此战巩固了后周的南部边境，扩大了疆土，达到了削弱南唐，使其俯首称臣，不敢轻易向北用兵的目的。经过这一系列战争，后周形势更加稳固，可以无后顾之忧地北伐了。