赵孝成王七年，赵国与秦国发生了著名的长平之战，当时廉颇被任命为主将。随着廉颇节节败退固守城邑以及秦国的间谍作战，廉颇被罢免了官职。结果，长平之战赵国输的很惨，国内年轻力壮的人几乎都死在了那一战里。而秦国则乘胜追击，包围了邯郸，赵国已处在了生死存亡的关键时刻了。
在邯郸之围中，作用最大的是平原君，是他到处请求诸侯派遣援军帮助赵国，最终在城破之前击败了秦军。那么此时廉颇在哪里呢?其实廉颇这时候也在带兵抵抗秦国的进攻，只不过当时廉颇在长平之战被免职，所以当时他的地位并不高，所以作用并不是很明显。
不过随着邯郸之围被解决，廉颇的时运又开始冉冉升起了。邯郸解围之后五年，燕国觉得赵国可以作战的士兵已经消耗的差不多了，于是派遣栗腹发兵进攻赵国。这时候赵王又想起了廉颇，于是再次启用了他，让他领兵反击。结果廉颇不负所托，在高阝城大败燕军，杀死栗腹，甚至包围了燕国的都城。
最后，燕国割让五座城邑才算解决这件事，而廉颇则因为这件事再次被重用。赵王将尉文城封给廉颇，称号为信平君，又让他代行相国的职权。而在长平之战时离廉颇而去的门客，此时也都陆续回来了，但是廉颇没有接纳这些人。
六年后，廉颇攻占了魏国的繁阳。当时廉颇意气风发，可却赶上赵孝成王去世，时运开始下滑。太子悼襄王即位后开始剥夺廉颇的权利，要起用乐乘代替廉颇，廉颇不愿意，利用自己在军中的威信处处打压乐乘，气的乐乘直接辞职走了。
这件事的影响很大，廉颇也因此从人生的巅峰走向了低谷。廉颇先是因此事逃到了魏国的大梁，结果他在这里一点也不受重用。而赵国因为一直被秦国欺辱，本来想着返聘廉颇回来，没成想廉颇的仇人从中捣鬼，害的廉颇失去了回归赵国最后的机会。
本来，赵王派了使臣去找廉颇，看看他还行不行，能不能继续带兵打仗。结果这事被廉颇的仇人郭开知晓了，他用重金收买使臣，让使臣回来说廉颇的坏话。
使臣见到廉颇并说明来意后，廉颇大喜，他太想回赵国继续带着赵国的士兵驰骋战场了。于是廉颇为了表示自己仍然健壮可用，当即当着他的面一顿饭吃了一斗米、十斤肉，又披上铁甲骑上骏马。
那个使臣回到赵国后，赵王就问出了那句千古名言：“廉颇老矣，尚能饭否?”结果使臣得了贿赂，没有如实回答，而是说廉将军人虽老，饭量还不错，但是只跟我坐了一会儿，就去大解了三次。赵王听后，认为廉颇已经老到不堪用了，就再也没有召回他的打算了。
虽然后来楚王把廉颇请到了楚国，可是廉颇心里只有赵国，在楚国没有任何建树。最后廉颇死在了楚国的寿春，他直到临死前也在一直念叨：“我还想指挥赵国的子弟兵啊!”