刘墉一生廉洁奉公，为官清正，这与刘家的门风有很大的关系。刘氏家族是诸城当地的名门望族，他的曾祖父刘必显是顺治年间的进士，祖父刘菜是康熙朝有名的清官，父亲刘统勋位极人臣官至东阁大学士兼军机大臣，深受乾隆帝器重，死后被追封为“文正”这时清朝对大臣最高的评价。
刘墉生于官宦之家，自幼受到良好的教育，然而不知何故，他却一直没有参加科举考试。直到乾隆十六年（1751),刘塘才因父亲的关系，以恩荫举人的身份参加了当年的会试和殿试，并获进士出身，授翰林院编修，后升至翰林院侍讲。
乾隆二十一年（1756),刘墙外放做官任安徽学政，在此后的二十余年里，他基本担任地方官职，历任学政、知府、巡抚等。在任期间，他办事正直干练，雷厉风行，整顿科场积弊、官场恶习。他为人清廉，一文不取，遇事敢作敢为，不怕得罪上司。
乾隆三十四年（1769)，刘墉授江宁府知府。在一年多的在任时间里，他不畏强豪，屡破疑案。创作于嘉庆初年的弹词《刘公案》便主要是以刘墉在江宁知府任上决断疑案、为民伸冤的故事为蓝本改编而成的，可见他在江宁知府任上确实有政绩，是难得的清官。
与此同时，刘墉也有不光彩的一面，他身为清朝的忠臣，不遗余力地维护清室的统治，推行文化高压政策。乾隆二十六年（1761),刘城担任江苏学政。这一年，江苏沛县监生阎大铺因抗粮被捕入狱，刘墉派人到阁大铺家搜查，结果搜出了他认为有问题的诗稿，急忙上报乾隆帝，结果阎大铺因诗稿中有字句犯讳被斩首。
乾隆四十二年（1777),刘塘第二次任江苏学政。江苏东台县举人徐食田兄弟因土地买卖纠纷，被同乡蔡嘉树告发其祖父徐述奠的文集《一柱楼诗集》中有悖逆之语。刘墉审阅，发现其中有“明朝期振丽，一举去清都”的诗句，他如获至宝，上奏乾隆帝，最终酿成大狱。
徐述姜及其子徐怀祖被开棺戳尸，徐食田等人被斩首，多名官员遭到革职、流放的处分。刘墉以努举徐述爱著作悖逆事有功和督学政绩显著，迁户部右侍郎，后又调任吏部右侍郎。乾隆四十七年(1782),刘墉调任回京，任三通馆总裁，兼任吏部尚书、都察院左御史。