在近代中國，林樂知的形象，似乎更像是壹位傳播西方文化的使者，而非莊重的傳教士。之所以如此，與林樂知對中國社會的了解以及他的傳教政策有著密切的關系。
1859年12月，23歲的美國傳教士林樂知同夫人及他們還不到5個月的女兒踏上了駛往中國的航船，經過210天的艱苦航行於1860年6月來到了上海，開始了他在中國長達40多年的生涯。
林樂知到中國後，起了個中國名字叫林約翰，後取中國名言“壹物不知，儒者知恥”之意，更名林樂知，字榮章，有時常自稱“美國進士”，顯示出他對中國文化的濃厚興趣。數年後，他的中文學習頗有進步，大致過了語言關。但這時美國由於爆發了南北戰爭，監理會無法顧及林樂知的生活，使他的經費無處籌集。不得已，林樂知為求生路，在馮桂芬的介紹下到上海廣方言館教書，還曾典賣教會財物，販賣糧食、棉花和煤炭，當保險部門的經紀人。後受徐壽之請，到上海江南制造總局翻譯館譯書。從《教會新報》的有關記述分析，林樂知譯的書有《格致啟蒙博物》、《格致啟蒙化學》、《格致啟蒙天文》、《格致啟蒙地理》、《萬國史》、《歐羅巴史》、《德國史》、《俄羅斯國史》、《印度國史》、《東方交涉記》、《列國歲計政要》、《列國陸軍制》、《新聞紙》、《地學啟蒙》等10余部。由於教書認真，譯書勤奮，清廷賞以他五品頂戴的官銜。這壹時期，林樂知對中國社會和文化的了解日益加深，他反復思考的壹個問題是，如何適應中國文化，讓基督教在中國廣泛傳播。 在晚清基督教新教派(Protestant Christianity)的傳教過程中，出現了兩種不同的方式。壹種是習慣上所稱的“直接布道式”，就是涉足中國的鄉村、城市，面對廣大的平民百姓，宣講教義，歌頌上帝，發布傳單，廣送宗教圖書，選擇合適地點建立教堂。也就是為傳教而傳教，較少觸及中國的社會和政治問題，也不去辦報、興學、建醫院等。從1807年馬禮遜(Robert Morrison)來華後的多數傳教士都是采用的這種方法，也取得了壹些成果，但收效並不顯著。林樂知來華之後，采用的也是這種方法。1861年，他對南京的太平天國異乎尋常地感興趣，企圖由太平天國打開壹個缺口，推進傳教事業。他邀請同行好友，經過長途跋涉來到南京，拜見了洪仁玕，但太平天國忙於對付清軍的圍攻，並未對林樂知的傳教要求發生興趣。70年代之後，林樂知等個別傳教士提出了壹種新的所謂“自由派”(liberal)的傳教方式。這種方式要求傳教士壹要認真了解和研究中國社會，針對中國的文化特點去改造中國；二要把基督教義和在中國占統治地位的儒家文化巧妙地揉合起來，逐步以基督教文化代替儒家文化；三是以傳播西方先進的科技文化為手段，如辦教育、建醫院、辦報紙等，提高中國人的素質，擴大基督教文化的市場，吸納更多的華人入教。
林樂知對中國社會的情況極為關心，尤註重解剖晚清的社會結構。他在《中東戰紀本末》中講：“初來華海時，正值發匪遍地……當匪勢極盛之際，親入偽都，留宿偽幹王府，以覘其所為。鹹豐十年，英法兵直入北京，即而款議慶戰，洋兵全退，轉助中國以平發逆。發逆略定，撚、回諸匪相繼作亂。凡此情形，皆仆之所鏤骨銘心者也。同治季年，日本有臺灣之役；光緒初年，法蘭西有越南之役，日本又有朝鮮之役，又皆仆之所身親目擊也。至於中國與各國所訂之和約，則皆讀而知之。中外交涉諸事，則皆逐月考察，分別紀於《萬國公報》。”在細心觀察中國內政外交的過程中，林樂知得出要想廣傳基督教，必須抓住“士”，結交“官”的結論。他認為在中國“士為四民之首”，官和商大都來源於“士”，征服了“士”就等於征服了中國文化和社會。因而他在19世紀六七十年代廣交了壹批“士”和“官”，如馮桂芬、嚴良勛、汪鳳藻、陳蘭彬、沈毓桂、應寶時、李鴻章、丁日昌、張之洞、張蔭桓、呂海寰等。這些人壹般思想開放，渴求新知，他們看重的是林樂知廣博的西學，而林樂知則立足於這批官紳的社會地位，試圖通過他們，自上而下，廣植基督教“福音”。林樂知的這些交往活動使他成了當時上海地區官僚和社會名流的好朋友。
林樂知還十分註重用儒學來闡釋基督教教義。他甚至將“三綱五常”與基督教義壹壹印證，認定二者情理相通，本質無異。他引經據典，從基督教義中找出了論證君臣、父子、夫婦乃至兄弟、朋友的言論，結論是：“儒教之所重者五倫，而基督教亦重五倫，證以《聖經》。”他還認為，儒學講“仁”，《聖經》雖無“仁”字，但“愛即是仁也”；儒學講“義”，“耶和華以義為喜”；儒學講“禮”，《聖經》要人們“以禮相讓”；儒學講“智”，《聖經》中稱“智慧之賦，貴於珍珠”；儒學講“信”，《聖經》中則有“止於信”，即“信”是最高美德。總之，在林樂知看來，孔子和耶穌如同壹人，儒學和基督教本義相同。
林樂知雖然將耶穌和孔子等同起來，但總認為儒學教化下的中國人，包括知識分子，十分愚昧、保守、落後，對現代科學文化缺少了解，“對自然的定律和哲學，以及化學、天文學等壹竅不通。”為了傳教，首先應打破中國知識界的落後狀況，讓他們具有現代科學知識和現代觀念，能夠有西方人的現代思維和新的價值取向。這就是說，讓中國人走出中世紀，徹底“西化”，讓中國變成美國式的“新大陸”後，基督教文化即可在中國暢行無阻。從這種推理出發，19世紀80年代之後，林樂知便將其主要精力投入傳播西方文化知識和改變中國知識界的知識結構與思維方式上了。他在上海辦新式學堂，培養新型人才；譯書，介紹歐美的科學文化知識；辦報，傳播信息，宣傳基督教和西方文化。他主辦的《萬國公報》，在19世紀末的中國，和上海的《申報》並駕齊驅，成為中國人了解世界、獲取信息的最有影響的報紙。他還和李提摩太(Timothy Richard)、丁韙良(William Alexander Parsons Martin)等人組織廣學會，出版圖書，擴大教會在中國的影響。在1901年的廣學會年會上，林樂知自鳴得意地宣稱：“從某種意義上說，中國已成為基督教國家的保護國，她已被置於我們的教導和開化的權力之下。”這時的林樂知也進壹步受到美國監理會和美國政府的支持，1906年他回國時，美國總統西奧多·羅斯福(Theodore Roosevelt)親自接見了他。返回中國後，70歲的林樂知仍躊躇滿誌，想進壹步擴展他的事業，不料他卻在1907年5月30日突然於上海去世。綜觀林樂知在華的活動，不能講他的傳教事業沒有發展，但真正有壹定影響的還是他的文化活動，特別是建學堂和辦報紙。