在中國各地的風土謠諺中，"上有天堂，下有蘇杭"應該算得上是流傳最廣的了。
而關於它的來歷，目前研究俗語的人一般都只能舉出較晚的書證。其中引用較多的是《七修類稿》和《古今小說》中的記錄，但這已都是明代的東西。而在更晚期的蘇南民歌《姑蘇風光》又名《大九連環》中也唱道:"上有天堂，下有蘇杭"，"杭州西湖，蘇州麼有山塘，哎呀兩處好地方。"
但實際上"上有天堂，下有蘇杭"的說法顯然已有相當長的歷史。
杭州在漫長歲月裡仍是一個淺淺的海灣，西湖尚與大海相連。直到隋朝以後，海潮與河流攜帶的泥沙不斷在海灣堆積，最終促成了這一地區的成陸，西湖也終於與大海隔斷，形成了一個瀉湖。可見隋唐以前，杭州還默默無名。
杭州從隋大業六年（610）成為江南運河的終點，到安史之亂以後人口激增，再經由吳越錢氏的經營。錢氏治下的吳越國，不僅將杭州真正推向了江南一線城市的地位， 更避免了南唐式的悲劇，納土歸宋，以一個地方政權的悲劇命運作為句點，卻為杭州在宋時期的大發展寫下了開篇。
北宋時，宋仁宗稱讚杭州 “地有湖山美，東南第一州”。
蘇杭兩地的重要名勝不少與白居易相關，公元822年，在朝中失意的白居易請求到外地任職，擔任杭州刺史，成為最早發現西湖之美的大文人。僅僅三年之後，白居易再任蘇州刺史，正是在此任上開闢了七里山塘街。作為“蘇杭兩州主”的白居易對蘇杭的名聲產生了深遠影響。
“霅川（今湖州）殊冷僻，茂苑（今蘇州）太繁雄，惟有錢塘郡（今杭州），閒忙正適中”。儘管當時，論城市繁盛，杭不如蘇，但或許正是這種”閒忙正適中”的杭州才恰好撫慰當時政治失意而倍感落魄的白居易。
白居易偏愛杭州，更明確的證據不得不提那兩首《憶江南》。“最憶是杭州”與“其次憶吳宮”直白地表明瞭文人心跡，吳宮指的則是五代割據時期一心向佛，規避戰亂的吳越錢氏，一個能寫下“陌上花開緩緩歸”這般詩意“便籤”的特殊王室。
到了南宋，蘇州人范成大在《吳郡志》中收錄“諺曰：天上天堂，地下蘇杭”時，“蘇杭”的並稱已經深入人心。儘管范成大仍然追憶“唐時蘇之繁雄，固為浙右第一矣”，但蘇州作為江南中心的地位在此時已然褪色了。當年不起眼的杭州，轉而成為臨安，做了百餘年的南宋都城。
其實，蘇杭受到如此推崇，無疑與其富庶有關。但這並不是"天上"的全部。環顧四周，可以發現當時江南還有不少名郡，如常州、湖州，其富庶也都是享有令譽的。常州被李華推為"關外名邦"，湖州甚至得到顧況"江表大郡，吳興為一"的評價。那些地方都沒有成為江南的冠冕，在很大程度上與其自然風光有關。