這個想法的起源很早。在老莊哲學中，曾經有過浪跡天涯，脫離世俗的思想，但並不那麽明確。如《莊子·澤洋》:“孔子之楚，在於蟻丘之漿。鄰裏有夫妻嬪妃爬竿，魯茲曰:‘何為惡？’仲尼說，“這是壹個聖人的仆人。埋在民間，藏在銀行。其聲為賣，其誌無窮，其口為說，其心未言，與世為逆，心不屑。是沈璐，還是他南方的惡靈？”“西漢時，東方朔寫過壹首歌說:“俗而避金馬門。在宮中可避全身，何以在山中蒿下？”意思就更清楚了。西漢末年，楊雄在《法眼錢媛》中也說“柳下惠不是朝鮮的隱士”。
唐代白居易《鐘吟》詩的開頭:“大隱士居市，小隱士入秋帆。秋帆太冷，市場太吵。還不如藏在中間，藏在公司裏。”除了大、小隱蔽，還提出了“中隱蔽”。
“大的藏在朝內，中的藏在城內，小的藏在野內”似乎出自二月河的小說《雍正朝》:雍正登基後，讓吳思道住下，使其藏了起來。