第壹部分，從“直到這壹地區的兩個統治者”到“然後天梯石棧相連”，主要描述了開辟道路的艱難。詩人從和魚鳧立國的古老傳說中，追溯了蜀與秦相互隔絕、互不往來的漫長歷史，指出在荒無人煙的深山裏，是以五壯士的生命為代價，才開辟出壹條崎嶇的棧道。強調壹下來之不易的蜀道。
第二部，從“高，如在壹面高大的旗幟上，六龍驅日”到“格爾，遠道而來的人白來了”，主要寫的是跋涉和攀登的艱難。這部分可以分為兩層。前八句是壹層，強調山高路崎嶇。先例引用擅長翺翔攀爬的飛禽走獸面對蜀道束手無策的情況，以襯托蜀道攀爬的艱難。此外，還特意選擇了秦代比較突出的高山青泥嶺進行誇張的描述，表現蜀道巍峨，不可逾越。“我們懷疑這條西進小道是否永遠沒有盡頭”下方是第二層，描繪了悲鳥、古樹、夜月、空山、枯松、絕壁、飛流、瀑布等壹系列情景，聲形相映，以渲染山中空曠可怕的環境和淒涼悲涼的氣氛，哀嘆友人為何要冒此風險入川。
第三部分，從“雖然劍閣關隘，但要堅定嚴峻”到“不如早歸”，從劍閣險要的地理形勢到當時險惡的社會形勢，勸友人不要在蜀中久留，早日返回長安。這部分也可以分為兩層。前五句為壹層，翻譯成西晉出版的《劍閣銘》。“拿下地方，不讓土匪活”這句話，突出了劍閣關的危險，後六句是壹層，意思是地方軍閥借危險造反，會危害人民，勸朋友們盡快離開危險的地方。
全詩主要由以上三部分組成。至於詩中出現三次的兩句“蜀道難通，難於上青天”，是連接各部分的線索。使得全詩自始至終呼應，密不可分。