呂公著從小好學，以至廢寢忘食。父親呂夷簡對他器重驚異，說：“今後必定為王公輔臣。”後因恩蔭補任奉禮郎，並進士及第，召試館職，沒有赴任。任潁州通判，知州歐陽修與他結為講學之友。後來歐陽修出使契丹，契丹皇帝詢問宋朝學問德行之士，歐陽修首先以呂公著回答。後判吏部南曹，宋仁宗獎許呂公著淡於名利，賜給五品官服。又被任命為崇文院檢討、同判太常寺。壽星觀營造真宗神禦殿，呂公著說：“先帝已經有三神禦殿，但不停地建立，豈不是祭祀沒有豐厚父廟之義。”後進官知制誥，三次上疏辭謝。改任天章閣待制兼侍讀。
濮議之爭主詞條： 濮議
宋英宗親政時，加呂公著為龍圖閣直學士。當時正議論追崇英宗生父濮王趙允讓，有人建議稱呼濮王為皇伯考，呂公著說：“這是真宗來稱呼太祖的，怎能施於濮王。”等到下詔稱親，而且分賜諱號，呂公著又說：“稱親則有兩個父親的嫌疑，濮王諱可以避於陛下面前，不應與七廟同諱。”呂誨等人因此事被調離朝廷，呂公著說：“陛下即皇位以來，納諫之風沒有彰揚，而且多次貶退諫官，何以風示天下？”英宗未聽從。呂公著便請求補外任，英宗說：“學士為朕所器重，怎能離開朝廷？”呂公著壹直請求，被任命為蔡州知州。
因時勸諫治平四年（1067年），宋神宗趙頊即位，召呂公著為翰林學士、知通進銀臺司。當時司馬光因論事被解除禦史中丞之職，回到經幄。呂公著封還詔命說：“司馬光因舉職賜罷，這是為有言事職責的人不能盡其言。”詔令以告示形式直接交付閣門。呂公著又說：“制命不由門下省，那麽封駁的職責，因臣而廢棄。希望陛下治臣的罪，來端正紀綱。”神宗示諭他說：“之所以流放司馬光的原因，是依賴他勸學而已，不是因為言事的緣故。”呂公著壹直請求，最後被神宗解除了知通進銀臺司之職。
熙寧（1068年—1077年）初年，呂公著任開封知府。當時夏秋久雨，開封發生地震。呂公著上疏說：“過去人君遇災，有的恐懼以致福，有的簡誣以致禍。陛下以至誠待臣下，那麽臣下思慮盡誠以回報，上下至誠而變異不消失的，從來沒有。做人君主的只有除去偏聽獨任的弊端，而不被先入之語所蒙蔽，那麽就不會被邪說所亂。顏淵問為邦國之道，孔子答以疏遠奸佞之人為戒。大概奸佞之人惟恐不順合君意，那麽其勢必容易親近，正直的人惟恐不符合大義，那麽其勢必容易疏遠。只有首先格王端正此事，沒有事正而世不治理的。”禮官遵用唐代舊例，請求神宗五月臨禦大慶殿接受朝拜，因而上尊號。呂公著說：“陛下正超越漢、唐，追復三代，何必在陰盛的日子，為不符合禮義的朝會，接受無益的虛名？”神宗采納了他的意見。
爭論青苗
主詞條：王安石變法
熙寧二年（1069年）二月，呂公著奉命編修《英宗實錄》。六月，任禦史中丞。
熙寧三年（1070年），當時王安石正頒行青苗法，呂公著極言道：“自古以來有作為的君主，沒有失去人心卻能圖治，也沒有能脅之以威、勝之以辯卻能得人心的。過去所謂的那些賢能之人，現都認為青苗法是不對的，但發出議論的人把這壹切詆毀為流俗浮論，難道過去都是賢能而現在都是不肖嗎？”王安石對他的話感到憤慨。神宗讓他薦舉呂惠卿為禦史，呂公著說：“呂惠卿固然有才能，但奸邪不可以任用。”神宗把這話告訴王安石，王安石更加憤慨，誣陷呂公著惡語中傷，神宗於四月初八貶呂公著為潁州知州。
熙寧八年（1075年），彗星出現，神宗下詔求取直言。呂公著上疏說：“陛下臨朝希望治理國家，時日已經很久，但左右前後，沒有人敢直言。致使陛下有想治理天下的雄心，但沒有致治之實，這是任事大臣辜負了陛下。大概士人的邪惡正直、賢能不肖，已經素定了。現在則不是這樣，前不久所薦舉，認為是天下最賢能的人；但後來被貶逐，認為是天下最不肖的。其於人才既然反復無常，那麽於政事也違背常理不加審慎了。古代為政，開始不為百姓所信服的有之，像子產治理鄭國，壹年後人們怨恨，三年後人們歌頌。陛下垂衣拱手希望成功，於此七年，但眾人的陳述，與以前相比也沒有什麽不同，陛下難道沒有察覺嗎？”
後被起用知河陽軍，入朝提舉中太壹宮，調任翰林學士承旨，改任端明殿學士、知審官院。神宗慢慢同呂公著談論為治之道，便涉及佛老之學，呂公著問道：“堯、舜知道此道嗎？”神宗說：“堯、舜難道不知道？”呂公著說：“堯、舜雖然知此，但惟獨認為知人安民是難事，所以成為堯、舜。”神宗又說唐太宗能以權智駕禦臣下。呂公著回答說：“唐太宗之德，以能屈己從諫而已。”神宗對他的話表示贊許。
元豐元年（1078年）九月十四日，呂公著與樞密直學士薛向同知樞密院事。有人打算恢復肉刑，建議取死囚試驗劓刑、刖刑，呂公著說：“如果嘗試這些還不死，那麽肉刑就會實行了。”便停止。當時西夏梁太後幽禁夏惠宗李秉常，朝廷將要大舉征討西夏。呂公著說：“興問罪之師，當首先選擇主帥，如果沒有合適的人，不如不舉兵。”等到興兵時，秦、晉二地民力大困，群臣們不敢上言，呂公著多次上奏興兵的害處。
元豐三年（1080年）九月二十九日，呂公著任樞密副使。
元豐五年（1082年），呂公著因病乞求離職，於四月二十六日被罷為資政殿學士、定州安撫使。不久，永樂城陷落（即永樂城之戰），神宗臨朝嘆息說：“邊地百姓疲敝如此，只有呂公著向朕說過而已。”便移其為揚州安撫使，加資政殿大學士。將要立太子趙傭（即宋哲宗趙煦）時，神宗對輔臣說，應當以呂公著、司馬光任師傅（指太子太保、太子太傅等）。
守成良相元豐八年（1085年）三月初五，哲宗即位，由太皇太後高氏（高滔滔）聽政，守舊派再度執政。呂公著以侍讀的身份返回朝廷。高太皇派使臣迎接，詢問他所想要說的，呂公著說：“先帝本意，以寬省民力為先務。但建議的人以變法侵奪百姓為務，斥去所有與自己意見不同的人，因此日久而弊端更深，新法頒行而百姓更加困苦。誠然能得公允正直之士，講求天下利弊，同心協力而為之，應該不難。”
呂公著到朝廷後立即上十事疏，認為人君即位，要修德以安百姓，修德最要緊的也是首先要辦的是“學”。有十件事最為重要，這十件事是：畏天、愛民、修身、講學、任賢、納諫、薄斂、省刑、去奢、無逸。又請求備置諫官，以開言路。同年七月初六，拜尚書左丞。
元v元年（1086年）閏二月初四，拜門下侍郎。同年四月十五日，呂公著被授予尚書右仆射兼中書侍郎。
當時中書、門下、尚書三省壹同建置，中書獨為取旨之地。呂公著就請求事於三省者，與執政大臣***同進呈，取旨而各自實行。又執政官員通常幾天在政事堂壹聚，事情多由其長官決定，同事不得幹預。至此，才命每天集聚，於是成為定制。
同年，司馬光去世，呂公著獨自當權。當時右司諫賈易因進諫攻擊別人短處直接詆毀朝廷大臣，將要被嚴厲責罰，呂公著替他說話，便只罷知懷州。呂公著退朝後對同僚說：“諫官所議論，得失不足言。看主上正值壯年，擔心今後有人進諛說惑亂，正是依賴左右諍臣，不可以讓人主輕厭言事的人。”眾人沒有不嘆服的。
吐蕃首領鬼章青宜結長期為洮、河壹帶的禍患，他聽說朝廷息兵省戍，暗地與西夏人合謀再取熙、岷州。呂公著上疏派遣軍器丞遊師雄以方便之策諭求眾將，不過壹個月，就活捉鬼章青宜結致於朝宮下。
哲宗在資善堂宴請親近大臣，拿出所書寫的唐人詩分賜給眾人。呂公著就聚集所講書中要語明白、切合於治道的，***壹百篇進獻，以備哲宗遊意翰墨，作為聖學的幫助。
辭位薨逝元v三年（1088年），呂公著懇辭相位，於四月初五被任命為司空、平章軍國重事。自宋朝建立以來，宰相以三公平章重事的有四人，而呂公著與他的父親呂夷簡居其二，士人羨慕呂氏的榮耀。哲宗下令在東府南面建造府第，開北門，來方便執政大臣聚會議事。凡是三省、樞密院的職責，呂公著都得署理。每隔壹天壹朝會，到都堂，可不按時出門，這是特殊的恩典。
元v四年（1089年）二月初三（3月17日），呂公著逝世，終年七十二歲。高太後於接見輔臣時哭泣說：“國家不幸，司馬相公（司馬光）已死，呂司空又逝世。”痛惜憐憫許久。哲宗也悲痛感傷，親到呂家祭奠，賜給金帛萬計。追贈太師、申國公，謚號正獻，親自書寫墓碑首為“純誠厚德”。
屢復屢奪紹聖元年（1094年），章為相，任命翟思、張商英、周秩任言官，議論呂公著更變熙豐法度，哲宗於七月十八日下詔削除他的贈謚，毀壞所賜碑。
紹聖四年（1097年）二月初四，哲宗再貶呂公著為建武軍節度副使、昌化軍司戶參軍。
元符元年（1100年）五月二十三日，新即位的宋徽宗追復呂公著為太子太保。
崇寧二年（1103年）四月十九日，蔡京任右相時，徽宗下詔毀掉呂公著等人在景靈西宮的畫像。又降為左光祿大夫，並呂公著等人稱為“元v黨人”，刻元v黨人碑，禁止元v學術。不久復贈銀青光祿大夫。
宋高宗紹興（1131年—1162年）初年，封還呂公著的所有贈謚。
主要成就 元v當國主詞條：元v更化
呂公著與司馬光同屬舊黨，司馬光在當政後，“盡廢新法”。而司馬光死後，呂公著繼續采用司馬光的做法，但他與司馬光對於新法具體內容看法也有壹些差別。呂公著對保甲法有保留，認為“止就冬月農隙教習，仍委本路監司提按，既不至妨農害民，則眾庶稍得安業”。對此，司馬光有非議，認為保甲法為害於民，應該“壹切廢罷”。
呂公著在科舉上要求經義參用古今諸儒之說，不得專以王安石的“三經新義”取士，也不得出題涉及佛老內容，不得以申、韓和佛學為學；恢復賢良方正科。《童蒙訓》稱其“專以薦賢為務”，他主政時，舉薦了孫覺、李常、王存、顧臨、程顥、張戩等人。
開啟呂學在宋代學術史上，呂公著開啟了呂學端緒。呂公著壹門登在《宋元學案》者有七世17人。呂公著重視教育，他在潁州時，歐陽修為潁州知州，焦千之客寓歐陽修處，呂公著招請焦氏為諸子之師。這個家族中，內有呂公著夫婦督導，外有焦千之等人的嚴格教育。他還多方聘請名師，呂氏家教促成呂學學風的形成。清人黃百家說：“呂氏家教近石氏，故謹厚性成。又能網羅天下賢豪長者以為師友，耳濡目染，壹洗膏粱之穢濁，惜其晚年更從高僧遊，盡究其道，斟酌淺深而融通之”。呂學至南宋呂祖謙而發揚光大，其流風所及，直至明清。
思想主張呂公著自年輕時講學，以治心養性為本，講說尤精，語約而理盡。主要門人有邢居實及子呂希哲、呂希績、呂希純。他主張以儒學治國，稱《論語》、《尚書》“皆聖人之格言，為君之要道。”從《論語》、《尚書》、《孝經》等儒家經典中，節治道要語百篇進呈。要求君主以“畏天命、愛民、修身、講學、任賢、納諫、薄斂、去奢、省刑、無逸”為座右銘。強調自古有為的君主，未有失人心而能圖治；亦沒有能用威脅、強辯而得人心者。應修德以安民。修德之要，莫先於學。君應以至誠待下，則臣下思盡誠以應上，上下至誠而變異未有不消者。只有人君去偏聽獨任之弊，而不主先人之語，則不為邪說所亂。顏淵問為邦，孔子以遠佞人為戒。佞人惟恐不合於君，則其勢易親；君子惟恐不合於義，則其勢易疏。故應先格王正事，未有事正而不治者。
歷史評價呂夷簡：他日必為公輔。
韓琦：才偏規模小。
歐陽修：器識深遠，沈靜寡言，富貴不染其心，利害不移其守...公著性樂閑退，淡於世事。然所謂夫人不言，言必有中者也。
王安石：①具某官呂公著，沖深而能謀，寬博而有制，其器可以大受，而退然似不能言，故眾人知之有所不盡。如蒙選用，得試其才，必有績效，不孤聖世。②疵吝每不自勝，壹詣長者，即廢然而反，所謂使人之意消者，於晦叔見之。③晦叔為相，吾輩可以言仕矣。
司馬光：①每聞晦叔講，便覺己語煩。②晦叔進用，天下皆喜，以為治。
趙頊：呂公著之於人材，其言不欺，如權衡之稱物。
高滔滔：①積德之門也。②邦國不幸，司馬相公既亡，呂司空復逝。
蘇頌：司空壹代宗，累葉清風振。繼父漢韋平，致君古堯舜。時嘆人雲亡，上嗟天不。
呂希哲：正獻公每事持重近厚，然去就之際，極於介潔。其在朝廷，小不合，便脫然無留意。故歷事四朝，無壹年不自列求去。
王稱：以夷簡為父，而公著為子，其謀謨事業有大過人者，蓋夷簡善任智，而公著則持正以成天下之務，賢於父遠矣...吾宋之韓呂氏，皆以相業世其家，嗚乎！盛歟。
葉逋：①故李沆、王旦在真宗時謹守資格…司馬光、呂公著在哲宗時謹守資格…以謹守資格為賢，名重當世，…而李沆十數人者，以守資格得名，而其時亦以治稱。②守資格以用人，無若李沆、王旦、王曾、呂夷簡、富弼、韓琦、司馬光、呂公著之為相，然考其功效，驗其人才，本朝以資格為用人之利也決矣。
趙與時：呂文靖之老也，以司徒監修國史，兼譯經潤文使，每有軍國大事，與中書、門下、樞密院同議以聞。正獻之老也，復以司空同平章軍國事。曾令綽之為簽書，宣靖猶康寧，遂就養東府。士林尤以二家為盛事。
脫脫：公著父子俱位至宰相，俱以司空平章軍國事，雖漢之韋、平，唐之蘇、李，榮盛孰加焉。夷簡多智數，公著則壹切持正，以應天下之務，嗚呼賢哉。其論人才，如權衡之稱物，故壹時賢士，收拾略盡。司馬光疾甚，諄諄焉以國事為托，當時廷臣，莫公著若也審矣。追考其平生事業，蓋守成之良相也。然知子之賢而不能薦，殆猶未免於避嫌，而有愧於從祖雲。
王夫之：牛之鬥虎，已斃而鬥之不已，牛乃力盡而死。安石既退，呂惠卿與離叛而兩窮。呂申公、司馬溫公以洎孫固、吳充，漸起而居政地。
全祖望：慶歷以後，尚有諸魁儒焉。於學統或未豫，而未嘗不於學術有功者，範蜀公（範鎮）、呂申公（呂公著）、韓持國（韓維），壹輩也。
趙翼：若呂氏奕世勛猷，輝映史冊，可謂極盛矣！而公著於重圭襲組之後，不以門閥自高，益能守正不撓，為時名相，尤不可及也。
軼事典故 不仗父勢呂夷簡主政時，呂公著從故鄉壽州（今安徽鳳臺）來京應試，他穿戴破舊，謙讓如同寒門子弟壹樣，見到他的人雖然喜歡他的儀容舉止，卻也並未感到驚奇。等到他離開後，經詢問得知是呂公著，才驚訝感嘆。
以牙還牙呂公著曾以翰林學士身份館伴契丹使者，使者頗為兇悍狡黠，與呂公著談論時多次談及北宋朝廷政事。呂公著也選了壹段契丹的隱密詢問說：“北朝（契丹）曾經試進士，出《聖心獨悟賦》，賦沒有出處，為什麽呢？”使者感到諤然而說不出話。
簡重清靜呂公著為人莊嚴持重，心性純正恬靜，大概是天性使然。他平日居處時無疾言厲色，對於歌舞錢財榮耀，淡泊無所喜好。暑熱時不揮扇，寒冷時不烤火，並影響了其婿範祖禹、孫婿趙演。
與王安石呂公著年輕時與王安石交好，王安石待他如兄長，王安石能言善辯，沒有人與之抗衡，唯獨呂公著能以精辟的見識和簡潔的言語制服他。王安石曾說：“疵吝每不自勝，壹到長者面前，即廢然而反，這就是說使人打消自己的念頭，這壹點在呂公著那兒體現得最充分。”又曾對人說：“呂公著為相，吾輩可以談論做官了。”後來王安石得誌，受到重用，以為呂公著必定會幫助自己，但呂公著卻數次公開上言，陳述他的過失，因此二人交情不終。
八字銘言呂公著曾於坐右寫“不善加己，直為受之”八字。
頗好禪理呂公著素來喜好佛學，等到他為相後，追求施政不繁苛，很少與士大夫交談，只有能夠談論禪理的，大多能夠隨從為客。熱衷於仕進的人往往戴幅巾、穿道袍，天天遊於禪寺，模仿僧人、談說理情，來標榜自己。司馬光素來不喜佛，呂公著常常勸他多留意，並說：“所謂的佛，學習的人只是崇尚它的觀點的簡要罷了，並非壹定要每件事都要熟習，做方外人啊。”