在中國各地的風土人情和諺語中，“上有天堂，下有蘇杭”應該算是流傳最廣的了。韋莊的詞曾說:“人皆說江南好，遊子只入江南老。春水比天亮，畫舫聽雨聲。”
至於它的起源，目前研究諺語的人只能舉出晚期的書證。其中引用較多的是七修抄本和古今小說中的記載，但都是明代的。在後來的蘇南民歌《姑蘇風光》，又名《大九鏈》中，也唱到:“上有天堂，下有蘇杭”，“杭州無西湖，蘇州無山塘。唉，有兩個好地方。”
但其實上有天堂，下有蘇杭的說法顯然由來已久。據考，上有天堂，下有蘇杭的說法最早可以追溯到唐代。
可以分為兩部分。前壹部分把江南比作天堂。唐代詩人任華稱贊“人說妳是江南人，我說妳是天庭人！”可以算是把江南比作天堂的由來。
後半部分以蘇杭為江南的代表，這在晚唐時期很明顯。其中，白居易的書名起著關鍵作用。白居易曾任杭州、蘇州刺史，在兩州任職期間寫了許多贊美當地的詩。壹開始他只是誇杭州。他在被任命為杭州刺史時，曾向越州刺史元稹誇口說:“知君竊數江南諸郡，杭州不如。”後被任命為蘇州刺史，並稱蘇州“壹郡天下第壹，四面極海濱”。後稱蘇杭，頗以“蘇杭之主”自傲。晚年回到北方，也對蘇杭念念不忘。他曾在壹首與殷的詩中寫道:“江南名郡為蘇杭，寫於殷家三十回。妳當旅人的記憶還是苦澀的，但我對秘書處更難忘。形勢引吟真詩國，入樂壹醉方休好。為誤舊遊，船將直赴滄浪。”
“上有天堂，下有蘇杭”不言而喻，是白居易題的總匯，是江南對天堂的口碑比喻。