周敦颐晚年隐居庐山，将门前的小溪命名为家乡的濂溪，定居于濂溪书堂。熙宁六年（1073年）六月七日，周敦颐病死于庐山濂溪书堂，终年五十七岁。
宋英宗治平元年（1064年），移任永州通判。宋神宗熙宁元年（1068年），转虞部郎中，擢提点广南西路刑狱，次年移知南康军。
熙宁三年（1071年），转为虞部郎中，提升广南东路提点刑狱。次年，领提点刑狱事。周敦颐在广东提点刑狱的职位上干了不到一年。就在这不到一年的时间里，勤政的他四处巡按，足迹几乎遍及广东的山山水水。
熙宁五年（1072年），周敦颐不幸感染了瘴疠，辞官归隐定居在庐山莲花峰下，他将母亲的坟墓也从润州迁来葬在离他居所很近的地方。他将门前的小溪正式命名为家乡的“濂溪”，定居于江西庐山濂溪书堂。
九江濂溪书院，始称濂溪书堂，亦称濂溪祠。宋嘉祐六年（1061年），周敦颐“迁国子博士，通判虔州（今赣州市），道出江州，爱庐山之胜，有卜居之志，因筑书堂于其麓。堂前有溪，发源于莲花峰下，洁清绀寒，下合于湓江，先生濯缨而乐之，遂寓名以濂溪。”濂溪本是周敦颐故里之名，周敦颐远离故乡，在外地长期为官，一来因为清廉而贫不能返乡，二来喜爱庐山之美，结屋于此，取名“濂溪书堂”，表示侨寓此地，乡关在目之意。
熙宁六年（1073年）六月七日，病死于庐山濂溪书堂，终年五十七岁。《周敦颐年谱》记载：（熙宁）六年癸丑先生年五十七。时赵清献以学士再镇蜀，闻先生致仕，拜章乞留，朝命及门，而先生以疾卒矣，时六月七日也。
周敦颐去世以后，他所开创的宋明理学，经过他的学生程颢、程颐继承和完善，逐步形成一套较为完整的哲学思想体系，后来又经过朱熹的继承和发扬，终于成为封建时代官方的正统哲学思想，对中国社会的发展产生了重大的影响。
濂溪先生的人品也为后世所称道。宋代著名文学家黄庭坚说：“茂叔人品甚高，胸中洒落，如光风霁月。”朱熹更称赞他说：“不卑小官，职思其忧。”“短于取名，而乐于求志；薄于邀福，而厚于得民；菲于奉身，而尚友千古；闻茂叔之风犹足律贪。”先生为人可见一斑。他为人的光风霁月，为官的刚正清廉，还不值得我们今人，特别是为官者学习和借鉴。
周敦颐去世以后，近千年来濂溪书院累经兴废，院址几度迁移。现莲花洞旧址处尚存有厢房数间。当地群众为纪念这位先贤，至今仍将旧址后面的青山称为书院山，旧址前面的溪水称为濂溪港，港上有石桥一座，“濂溪桥”三字依稀可见。濂溪先生的墓地，则在文浩劫中被夷为平地，现正在恢复之中。