赵孝成王二十一年（公元前245年），廉颇带兵攻取魏地繁阳（今河南省内黄县西北）。
同年，赵孝成王去世，其子赵悼襄王继位。赵悼襄王一继位就解除了廉颇的军职，派乐乘代替在外领兵的廉颇。廉颇因受排挤而发怒，攻打乐乘，乐乘逃走。廉颇于是离赵投奔魏国大梁（今河南省开封市）。
廉颇去大梁住了很久，魏王虽然收留了他，却并不信任和重用他。赵国因为多次被秦军围困，赵王想再任用廉颇，廉颇也想再被赵国任用。
于是，赵王派遣使者去带着一副名贵的盔甲和四匹快马到大梁去慰问廉颇，看廉颇还是否可用。廉颇的仇人郭开却唯恐廉颇再得势，暗中贿赂使者，让他说廉颇的坏话。
赵国使者见到廉颇以后，廉颇在他面前一顿饭吃了一斗米，十斤肉，还披甲上马，表示自己还可有用。但使者回来向赵王报告说：“廉将军虽然老了，但饭量还很好，可是和我坐在一起，不多时就拉了三次屎。”赵王认为廉颇老了，就没任用他，廉颇也就没再得到为国报效的机会。[19]
楚国听说廉颇在魏国，就暗中派人迎接他入楚。廉颇担任楚将后，没有建立什么功劳。他说：“我思用赵人。”但赵国终究未能重新启用他，致使廉颇抑郁不乐，最终死在楚国的寿春（今安徽省寿县）。
廉颇死后不久，赵国便被秦国灭亡。