春秋时期，周王室衰微，诸侯互相征伐，战争频繁。公元前634年左右，楚国势力强盛，欲图称霸中原，企图北上。北方强国晋国自晋文公上位以来，实力逐渐恢复。晋文公知晓楚王图谋，遂先下手为强，与楚国发生战争。
起初，晋国内乱，公子重耳出逃。他到了楚国时，楚成王热情招待他。闲谈中，成王问他：“你将来如回到晋国做国君时，如何来酬谢我？”重耳说：“像财宝这些东西，你们楚国均有的，如果我真能得返晋国，做了晋君，若我们两国不幸要打仗的话，那我就退避你三舍。”
后来，重耳在秦国的帮助下，果真回到了晋国，做了国君，史称晋文公。之后，楚国发兵进攻宋国，宋国派人向晋国求救。文公因宋公曾待他很好，便召开众将商量，看如何救宋。当时情况是：想向楚国去说情，怕楚国不肯，如和楚去打仗，自己也不大愿意，而且又怕齐、秦不赞成，后来想出了一个办法。先答应宋国，并说明原因，叫他先和齐、秦联系，请齐、秦与楚交涉，送些礼物给齐、秦。而晋先出兵伐曹、卫，把曹、卫灭掉，将他们的土地分一些给宋，以补宋人的损失。
楚成王见晋欲去救宋，便叫其大将子玉不要去逼近晋师，和晋师打仗。说晋侯在外面逃亡了十九年，才回到了晋国，什么危险他都经历过，人情世故他都明白，此是天意所决定的，像这样的人是不能和他打仗的，告诫子玉要知难而退。可是这个子玉却不肯听，仍要和晋人打仗，于是派人向成王求战，说：“我不敢说一定要立功，只是想堵一堵那些说闲话人的嘴。”成王听了不大高兴，就给他比较少的部队。
此后，楚子玉便派使者对晋人说，你们如放了曹、卫的国君，我们也就释宋之围。晋人听了以后，一面将楚使者抓起来，一面私下对曹、卫说，许他们复国，并使曹、卫告绝于楚。子玉听了非常生气，就带兵进逼晋师，晋文公便叫晋师向后退却，为此，一些将领很不满，说我们是国君率领队伍，他们是臣子作帅，现在君避臣，不是太丢脸了吗？
而狐偃说：“出兵要理直，气才会杜盛的。理亏气就会衰。我们国君曾受过楚君的恩惠，也曾说过要退三舍以避之。若我们忘恩失信，那就是理亏，他们就理直，士气就会高。如果我们退了以后，他们仍不撤兵，那就是他们理亏。”于是退了三舍（九十里）。没想到，子玉竟然追了上去，于是，战争开始了。