劉墉，祖籍江蘇省豐縣歡口鎮劉大營村。后至山東諸城（現高密），出身于山東諸城劉氏家族，這個家族是當時的名門望族，通過科舉走上仕途的人很多。劉墉的曾祖父劉必顯為順治年間進士，祖父劉棨（qǐ）曾擔任過四川布政使，是康熙朝有名的清官，父親劉統勛更是一代名臣，官至東閣大學士兼軍機大臣，為官清廉果敢，乾隆帝說他“遇事既神敏，秉性復剛勁，得古大臣風，終身不失正”。
劉墉生長在這樣世代書香、以科舉仕進為榮的家庭，從小受到良好的教育自不必言，后來他成為四庫全書館副總裁也證明了其學識的淵深。但不知什么原因，滿腹經綸的劉墉卻遲遲沒有參加科舉考試，至少目前尚未發現他在30歲之前參加科舉考試的記錄。直到乾隆十六年（1751），33歲的劉墉才因為父親的關系，以恩蔭舉人身份參加了當年的會試和殿試，并獲進士出身，旋改翰林院庶吉士。翰林院庶吉士是翰林的預備資格，一般從科考成績優異的進士中選拔，然后在庶常館學習深造，期滿考試合格者，授翰林院編修。清代翰林雖然薪俸較薄，但作為皇帝身邊的文學侍從近臣，號稱“清貴”，“有清一代宰輔，多由此選”。而且，大臣死后如果想得到皇帝賜謚的“文”字，則必須是翰林出身。所以，清代以科舉仕進者尤重翰林出身。應當說，劉墉在仕途上開局良好。
清朝乾隆十六年（1751年）劉墉殿試后，讀卷大臣將劉墉作為呈送卷第一名。乾隆帝閱后認為“墉”無超人才華，也可能懷疑讀卷大臣巴結正在當朝大紅大紫的劉墉父親，將劉墉貶為二甲二名，將原擬第五名，也就是二甲二名的吳鴻拔為第一甲第一名，說道：“今取一朝狀元，必得有眾人向往之才氣。平墉之人怎能奪冠？就這樣，本來是劉墉的狀元改為了進士。中進士后一年后散館，授編修，進入仕途，初任江寧知府，再遷侍講。
乾隆二十年（1755年）十月，其父劉統勛（時任陜甘總督）因辦理軍務失宜下獄，劉墉受株連而遭逮治，旋得寬釋，降為編修。次年六月，充廣西鄉試正考官。十月，提為安徽學政。任職期間，針對當時貢生、監生管理的混亂狀況，上疏“請州縣約束貢監，責令察優劣”，并提出了切實可行的補救辦法，“部議準行”。
從乾隆二十一年（1756）開始，劉墉被外放作地方官，此后20余年的絕大部分時間里，他主要做地方官，由學政、知府，直至一方面的督撫大員。在做地方官期間，他基本上還是秉承了乃父劉統勛的正直干練、雷厲風行的行事風格。對科場積弊、官場惡習進行了力所能及的整頓，為百姓做了不少實事。《諸城縣志》稱贊他：“砥礪風節，正身率屬，自為學政知府時，即謝絕饋賄，一介不取，遇事敢為，無所顧忌，所至官吏望風畏之。”同時，他也不遺余力地貫徹乾隆皇帝的意旨，查禁書，興文字獄，捉拿會黨，積極推行文化高壓政策。
劉墉做過提督安徽學政和提督江蘇學政。提督學政是一省的教育長官，類似于教育廳長，但不同之處在于，學政不受當地最高行政長官的節制，獨立開展各項事務，督撫大員也不能侵其職掌。只有在特殊情況下學政離任，督撫才可暫時代管其事。學政還可以直接向皇帝上書，反映地方情況，吏治民風。
劉墉在前往安徽赴任前，乾隆帝特意召見并賜詩，其中有“海岱高門第，瀛洲新翰林”之句，意思是希望劉墉能夠不辱門楣、有所建樹。在出任江蘇學政前，乾隆皇帝仍有詩相贈，可見對劉墉抱有厚望。劉墉也不辱使命，很是嚴肅認真。據清人筆記記載：“昔日劉石庵相國視學江蘇，嚴肅峻厲，人多畏憚。”劉墉曾先后兩次提督江蘇學政，相隔近20年，為官處事風格也由峻厲剛急轉為平和舒緩，但嚴肅認真則是一貫的。以劉墉第二次出任江蘇學政時按試揚州為例，因為把關嚴格，使得許多想以作弊蒙混過關者最后不敢入場。
乾隆二十四年（1759年）十月，調任江蘇學政。在任期間，他又上書：“生監中滋事妄為者，府州縣官多所瞻顧，不加創艾。（行政官員）既畏刁民，又畏生監，兼畏胥役，以致遇事遲疑，皂白不分，科罪之后，應責革者，并不責革，實屬阘茸怠玩，訟棍蠹吏，因得互售其奸。”這一看法深刻而又切中時弊，因此深受乾隆皇帝的賞識，稱贊其“知政體”，并于乾隆二十七年（1762年）任命他為山西省太原府知府。
乾隆三十年（1765年），升任冀寧道臺。第二年，因任太原知府期間，失察所屬陽曲縣令段成功貪侵國庫銀兩，坐罪革職，判死刑。乾隆帝因愛其才，特加恩詔免，發軍臺（清代西北兩路傳達軍報及官文書的機構，即郵驛）效力贖罪。次年赦回，命在修書處行走。
乾隆三十四年（1769），51歲的劉墉獲授江寧知府。從乾隆十六年（1751）中進士時算起，到此時劉墉浮沉宦海已經整整18年。說來，劉墉的仕途并不平坦，早在做翰林院編修時，其父劉統勛因事獲罪，劉墉遭株連被革職，與諸兄弟一起下獄；后外放劉墉作安徽和江蘇學政，因表現卓異得到乾隆皇帝賞識，擢山西太原府知府。劉墉之父劉統勛，曾于乾隆二十二年（1757）到山西查辦布政使蔣洲侵帑案，乾隆二十四年（1759）到山西查辦過將軍保德侵帑案，聲譽頗佳。劉墉同樣是不負重托，到任后不幾天便將前任遺留下的疑難案件審理一清，受到官民的一致稱贊。正當劉墉以政績遷冀寧道時，前任山西陽曲縣知縣段成功虧空案發，劉墉以失察罪差一點丟了性命，后來朝廷加恩命他赴軍臺效力贖罪長達一年，回北京后又在一個叫作“修書處”的閑散機構里蹉跎兩年。由此可見，這段時間里，劉墉的官運并不怎么“亨通”。
劉墉能夠在重罪之后出任江寧知府，說來還是沾了父親的光。此時劉統勛圣眷正隆，先后以大學士之職兼管兵部和刑部，被乾隆皇帝倚為股肱之臣。因此，在乾隆三十三年劉統勛七十壽辰之時，乾隆皇帝不僅親書匾額志賀，還加恩劉墉以知府候補。第二年，劉墉獲授江寧府知府。
劉墉也十分珍視這次機會，“頗以清介持躬，名播海內，婦人女子無不服其品誼，至以包孝肅比之”。創作于嘉慶初年的彈詞《劉公案》，就是主要以劉墉在江寧知府任上決斷疑案、為民做主的故事為藍本改編而成的，雖然其中必然夾雜著彈詞藝人的想像夸張和道聽途說的內容，未必都是實錄，但說明劉墉在短短一年的江寧知府任上確實有政績、有政聲，是難得的賢能官吏。著名詩人袁枚也在一首詩中稱贊劉墉說：“初聞領丹陽，官吏齊短脰（dòu)。光風吹一年，歡風極老幼。先聲將人奪，苦志將人救。抗上聳強肩，覆下紆緩袖。”意思是說，劉墉到江寧后，對下屬要求嚴格使其不敢耀武揚威，對百姓關愛拯其脫離水火，不怕得罪上司而怕百姓受苦。
乾隆三十七年（1772年），擢陜西按察使。第二年，其父劉統勛病故，回家服喪。
乾隆四十一年（1776年）三月，劉墉服喪期滿還京，清廷念劉統勛多年功績，且察劉墉器識可用，詔授內閣學士，任職南書房。十月，任《四庫全書》館副總裁，并派辦《西域圖志》及《日下舊聞考》，任總裁。次年七月，充江南鄉試正考官，不久，復任江蘇學政。在任期間，曾劾舉秦州舉人徐述夔著作悖逆，要求按律懲辦。是年底（乾隆四十三年），劉墉以劾舉徐述菱著作悖逆事有功和督學政績顯著，遷戶部右侍郎，后又調吏部右侍郎。
乾隆四十五年（1780年），授湖南巡撫。時值湖南多處受災，哀鴻遍野，無災州縣也盜案迭起，貪官污吏猖獗，百姓怨聲載道。劉墉到任后，一面查明情由，據實彈劾貪官污吏，建議嚴辦；一面稽查庫存，修筑城郭，建倉儲谷，賑濟災民，并準許民間開采硝石。僅一年余，庫銀充實，民糧豐足，劉墉贏得了百姓的愛戴。
劉墉歷遷江西、陜西、江蘇，至乾隆四十五年（1780），劉墉被授湖南巡撫，其官職全稱是巡撫湖南等處地方提督軍務，節制各鎮，兼理糧餉，駐長沙，兼理軍民事務，成為名副其實的封疆大吏。
乾隆四十六年（1781年），遷劉墉為都察院左都御史。次年三月，仍任職南書房；不久，又充任三通館總裁。此時，御史錢灃彈劾山東巡撫國泰結黨營私等。劉墉奉旨偕同和珅審理山東巡撫舞弊案。劉墉至山東，假扮成道人，步行私訪，查明山東連續三年受災，而國泰邀功請賞，以荒報豐。征稅時，對無力繳納者，一律拿辦；并殘殺進省為民請命的進士、舉人9人。及至濟南，經審問，查清國泰已知貪贓案發，遂湊集銀兩妄圖掩飾罪行。劉墉如實報奏朝廷，奉旨開倉賑濟百姓，捉拿國泰回京。此時皇妃已為國泰說情，有的御史也從旁附和，和珅亦有意袒護國泰。劉墉遂以民間查訪所獲證據，歷數國泰罪行，據理力爭，終使國泰伏法。在處理國泰一案上，劉墉不畏權要，剛正無私，足智多謀，與錢灃一起挫敗了皇妃及和珅等人的阻撓而成功地執行了大清律法，為民除了害。后來，民間曾據此事寫成通俗小說《劉公案》，對這位“包公式”的劉大人大加頌揚。
國泰案結，劉墉被命署吏部尚書，兼管國子監事務。不久授工部尚書，仍兼署吏部，并充任上書房總師傅。
乾隆四十七年，劉墉奉調入京出任左都御史，命在南書房行走。當時和珅炙手可熱，劉墉遂“委蛇其間，惟以滑稽悅容其間”。這又表現了劉墉為人和為官的另一面。劉墉是有社會責任感的士大夫，同時也是官場中人，他也要按照官場的規則做事，包括應付上級和同僚的圓滑趨避之術。大體說來，他任地方官、能夠獨當一面的時期，主要表現了清勤剛正的一面，“一時有閻羅包老之稱”；入京以后，正好碰上和珅專寵于乾隆，擅弄威權，排斥異己，劉墉只好以靜默自守，以滑稽模棱取容。
劉墉剛入京的幾年仕途還算順利，做到協辦大學士、吏部尚書、上書房總師傅，其間還處理了一件棘手的案子。這個案子的當事人國泰是山東巡撫，其父四川總督文綬是劉墉的老上級，更關鍵的是，國泰的后臺就是乾隆皇帝的紅人和珅。
乾隆四十七年四月，御史錢灃參劾山東巡撫國泰專橫，以向皇上納貢的名義大肆搜刮錢財，下屬歷城、益都等幾十個州縣倉庫虧空嚴重。乾隆皇帝對此事十分重視，責成和珅、劉墉等同錢灃一起前往核查。
國泰，滿洲鑲白旗人，姓富察氏。國泰與和珅過從甚密，因此，和珅得到要查辦國泰等的消息后立即派家人通風報信，使得國泰有了挪用其他款項填補虧空的時間。赴山東途中，和珅還以言辭威脅錢灃。據錢泳《履園叢話》記載，劉墉深知和珅與國泰的關系，因此常與錢灃密商對策。到山東歷城縣后，和珅說不用徹底核對，只要抽查幾十個庫就可以了，并且先起身回到住所。錢灃要求先封庫，第二天徹底拆封。結果發現庫里的銀兩“多系圓絲雜色銀”，通過盤詰庫吏得知，這些銀兩是從各商鋪借來充數的。于是，出告示叫各商鋪前來認領，“大呼曰：遲來即封貯入官矣”，意思就是說趕緊來，晚了就封存入官了，于是商賈紛紛前來認領，庫藏為之一空。
在這件事上，劉墉自始至終支持錢灃，他的態度對于案情最終水落石出起著至關重要的作用。很顯然，劉墉支持錢灃，同時也就得罪了和珅。從這件事我們看到，劉墉仍不失其“剛正”。
乾隆四十八年（1783年）六月，命署直隸總督。八月，又調吏部尚書，不久，充順天鄉試正考。是年底，充經筵講官。次年五月，復兼理國子監事務。六月，授協辦大學士。乾隆五十一年（1786年），充玉牒館（修帝王族譜之處）副總裁。
此后的幾年里，劉墉似乎總是在犯錯誤，受指責，乾隆對他顯然并不滿意。乾隆五十二年初，劉墉因為漏泄他和乾隆帝關于嵇璜、曹文埴（zhí）的談話內容，不僅受到申飭，而且失去了本應獲授的大學士一職。
乾隆五十二年八月，乾隆委托劉墉主持祭拜文廟。因他沒有行規定的一揖之禮受到太常寺卿德保的參劾。
乾隆五十三年夏天，劉墉兼理國子監，發生鄉試預選考試中諸生饋送堂官的事，被御史祝德麟彈劾，結果劉墉受到處分。乾隆五十四年二月底至三月初，負責皇子教育的上書房諸師傅因為連天陰雨沒有入值，乾隆皇帝得知這個情況十分惱怒，時任協辦大學士、吏部尚書、上書房總師傅的劉墉被責處得尤其嚴厲，降為侍郎銜，不再兼職南書房。乾隆皇帝還專門為此下了一道上諭，大意是說因為劉墉是大學士劉統勛之子，念及統勛為朝廷效力多年，才對劉墉加恩擢用。而劉墉在府道任上還算勤勉，及至出任學政就不再認真辦事，在湖南巡撫任上官聲也平常。入京為尚書，辦事情更是一味模棱兩可。我曲意優容，未加譴責，原以為他會感激圣恩，勤勉辦事，不想竟然發生上書房諸師傅曠工七日之久而劉墉置若罔聞之事。并說劉墉這樣事事不能盡職，于國則為不忠，于父則為不孝，其過失甚大，實在不能寬恕。應當說，措辭相當嚴厲。
乾隆五十四年（1789年）四月，以上書房阿哥師傅們久不到書房，劉墉身為總師傅而不予糾正，被降職為侍郎。不久，授內閣學士，提督順天學政。乾隆五十六年（1791年）初，遷都察院左御史，旋擢禮部尚書，并再次兼管國子監事務。五月，又署吏部尚書。
乾隆五十八年，劉墉為當年會試主考官。因為安排失當，閱卷草率，違制和不合格的卷子很多。按規定，劉墉等至少要罰俸10余年。乾隆皇帝雖然作了寬大處理，劉墉還是被“嚴行申飭（chì）”。
嘉慶元年，因為大學士一職空缺多時，破格增補戶部尚書董誥為大學士，而資歷更深的劉墉被排斥在外。而且在上諭中又一次批評劉墉“向來不肯實心任事”，并舉例說，皇帝曾向劉墉詢問新選知府戴世儀可否勝任，結果劉墉對以“尚可”。而戴本來十分庸劣，斷難勝任。可見劉墉平日里對于銓選用人全未留心，只是以模棱兩可之詞敷衍塞責。要他“捫心內省，益加愧勵”。
嘉慶二年（1797年）四月，授劉墉體仁閣大學士，但仍舊指責他“向來不肯實心任事，行走頗懶”，并說“茲以無人，擢升此任”，可見其評價。當然，以上兩條嘉慶初年的上諭，代表的仍然是乾隆帝的意見。
五月，奉旨偕同尚書慶桂到山東辦案，并察看黃河決口的情況。察看黃河之后，他上書請求于秋后在決口處“堵筑”，下游“寬浚”。朝廷采納了他的意見。嘉慶四年（1799年）三月，加太子少保。后奉旨辦理文華殿大學士和珅植黨營私、擅權納賄一案。劉墉不畏權勢，很快查明和珅及其黨羽橫征暴斂、搜刮民脂、貪污自肥等罪行20條，奏朝廷。皇上處死了和珅，沒收了他的家產。
嘉慶四年底，劉墉上疏陳述漕政，對漕運中的漏洞體察至深，憂國憂民之情溢于言表，嘉慶皇帝看后，深以為然。嘉慶六年（1801年），劉墉充任會典館正總裁。
劉墉不僅是政治家，更是著名的書法家，是帖學之集大成者，是清代四大書家之一（其余三人為成親王、翁方綱、鐵保）。清徐珂在其《清稗類鈔》中稱贊劉墉道：“文清書法，論者譬之以黃鐘大呂之音，清廟明堂之器，推為一代書家之冠。蓋以其融會歷代諸大家書法而自成一家。所謂金聲玉振，集群圣之大成也。其自入詞館以迄登臺閣，體格屢變，神妙莫測。”劉墉是一位善學前賢而又有創造性的書法家，師古而不拘泥。劉墉書法的特點是用墨厚重，體豐骨勁，渾厚敦實，別具面目。劉墉之書，尤善小楷。后人稱贊他的小楷，不僅有鐘繇、王羲之、顏真卿和蘇軾的法度，還深得魏晉小楷的風致。劉墉兼工文翰，博通百家經史，精研古文考辨，工書善文，名盛一時。著有《石庵詩集》刊行于世。
嘉慶七年（1802年），皇上駕幸熱河，命劉墉留京主持朝政。此時，他八十有余，卻輕健如故，雙眸炯然，寒光懾人。
劉墉像是變了一個人，做人的棱角看不到了，做事的勤謹也看不到了，此期間的劉墉更多表現出的是滑稽和圓滑世故。清人筆記記載，一次在軍機處吃飯，有同僚提起唐宋時宰相吃堂餐的故事，劉墉馬上接口說：“但使下民無殿糞，何妨宰相有堂餐？”一座為之噴飯。
電視劇《宰相劉羅鍋》中有一個頗具意味的細節：乾隆問和珅，你是做忠臣呢，還是作奸臣？和珅答，我不做忠臣，也不作奸臣，我要做的是讓您高興、逗您開心的弄臣。結果乾隆對和珅的回答很滿意。這個情節很可能只是出于編劇的一種想像，但應當說，劇作家對乾隆心態的把握是比較準確的。
乾隆皇帝有一個“本朝無名臣”的理論，他說，因為朝廷綱紀整肅，本朝沒有名臣，也沒有奸臣。他這樣說的目的是為了把所有榮譽歸于圣主，大臣們所做的一切有利于百姓的事情，都是出于圣主的旨意。所以，他下令禁絕為地方官建德政碑、送萬民傘之類為官員揚名的活動。老年乾隆更是志得意滿，炫耀自己的“十全武功”，權力欲和虛榮心越發膨脹，此時他的身邊更不需要名臣，而只需要忠心辦事、以皇帝的是非為是非的奴才。
再加上當時朝堂上宵小環繞，和珅弄權，勾結黨羽，把持朝政，排斥異己，正直之士很難有所作為。御史曹錫寶曾經想通過參劾和珅家奴劉全以達到懲辦和珅的目的，結果反遭陷害，被革職。所以就不難明白，為什么當劉墉為地方官時還做了一些興利除弊的事情，而到了皇帝的身邊卻反而無所建樹，唯唯諾諾。也許從適應官場規則、保全自己的角度看，劉墉這樣小錯不斷、屢遭申飭、弄得自己名譽掃地，未必不是聰明之舉。
在當時以滑稽方式為官的還大有人在。比如嘉慶帝的老師朱珪，也是如此。據說他晚年每逢門生、舊吏來看望，他所言皆不關政治，全為詼諧之語。
這些以清正剛直著稱的官員尚且如此，當時官場風氣可見一斑。乾隆皇帝聰明太過，使得大臣們只好裝糊涂；乾隆皇帝好名太甚，使得大臣們只得“平庸”。這使人不禁聯想到漢高祖劉邦與承相蕭何之間的關系。蕭何作為大漢第一功臣協助劉邦奪取天下后，繼續兢兢業業地辦事，清正廉潔地為官，因而在百姓中口碑極好。這使得劉邦很不放心，于是找借口將蕭何抓了起來，雖然念及舊情最終又釋放了蕭何，但蕭何出獄后汲取了教訓，不再顧及名聲，圈地、貪瀆之事也頗做了幾件。老百姓意見很大，也有人向劉邦告狀，這下劉邦卻一笑了之，不再追究。
嘉慶九年十二月二十五日（嘉慶九年對應公歷1804年，但十二月二十五日時公歷已經進入1805年。按傳統農歷紀年為嘉慶九年，但在用公歷表示生卒年份時，本著尊重事實的態度，還是應該記成“卒于1805年”），劉墉于北京驢市胡同家中逝世，享年86歲。去世的當天，他還曾到南書房當值，晚上還開宴會招待客人，“至晚端坐而逝”。《嘯亭雜錄》記載，劉墉死時，說他“鼻注下垂一寸有余”，暗合佛語中的善于解脫之意。不管怎樣，劉墉可算得上是無疾而終，壽終正寢，功德圓滿。卒后贈太子太保，謚號文清，入祀賢良祠，諭祭葬。
劉墉家族，世人稱之為諸城劉氏，諸城劉氏家族從劉必顯開始五代為官，有三公二宰相，因此諸城也成為劉氏的望族所在。
諸城自古名人輩出，在西漢初設東武縣，隋代方改稱諸城，劉墉作為諸城人，以諸城古地名“東武”自號，足見劉墉深以為諸城人為豪。
