"書山"與"學海"兩詞最早見於漢代學者楊雄的《法言·學行》,裏面寫道"百川學海至於海,丘陵學山不至於山".這句話的意思是:百川因為奔流不息,所以才能到達大海;而丘陵靜止不動,所以永遠達不到山高.比喻為學要勤奮,方能有所進益,若是懶惰怕苦,則學業無成.後用"學海"比喻博學多才的人.
宋朝鹹淳年間,有壹位名叫左圭的學者,將唐宋名家的野史雜說,匯集成壹部書,名為《百川學海》.這是我國成書最早,影響很大的壹部筆記叢書.清朝時,另壹學者曹溶又將歷史名家的零篇散佚,總匯集成壹部洋洋大觀的《學海類篇》正續兩集的書,分成經翼,史參,子類,集余四類.明代人王文祿將明代的有關學術思想,生產經驗以及風俗習慣等著述輯錄百種,匯為壹書,定名為《百陵學山》.由於這幾種書都是匯集百家著述的,因此後人將"學山"改為"書山",比喻書乃是知識的寶山.這就是"書山","學海"兩個詞語的來歷.