全曲分三層：第一層（頭三句）：寫潼關雄偉險要的形勢。峰巒如聚，波濤如怒，山河表里潼關路，峰巒如聚：形容重巖疊嶂，群山密集，綿亙不斷。「山河」句：言潼關外有黃河，內有華山，形勢十分險要。潼關：在今陜西潼關縣北，歷代皆為軍事要地。
張養浩于天歷二年（公元1329年），因關中旱災，任陜西行臺中丞以賑災民。途經潼關，看到的是“峰巒如聚，波濤如怒”的景象。 本層描寫潼關壯景，生動形象。第一句寫重重疊疊的峰巒，潼關在重重山巒包圍之中，一“聚”字讓讀者眼前呈現出華山飛奔而來之勢、群山攢立之狀；因地勢險要，為古來兵家必爭之地。山本是靜止的，“如聚”化靜為動，一個“聚”字表現了峰巒的眾多和動感。第二句寫怒濤洶涌的黃河，潼關外黃河之水奔騰澎湃，一“怒”字讓讀者耳邊回響千古不絕的滔滔水聲。黃河水是無生命的，而“如怒”則賦予河水以人的情感和意志，一個“怒”字，寫出了波濤的洶涌澎湃。“怒”字還把河水人格化，“怒”字注入了詩人吊古傷今而產生的滿腔悲憤之情。為此景所動，第三句寫渲關位于群山重重包圍、黃河寒流其間那除隘之處。“山河表里潼關路”之感便油然而生，至此潼關之氣勢雄偉窺見一斑，如此險要之地，暗示潼關的險峻，乃為歷代兵家必爭之地，也由此引發了下文的感慨。
第二層（四一七句）：望西都，意躊躇。傷心秦漢經行處，宮闕萬間都做了土。西都：指關中一帶，周、秦、漢、北朝、隋、唐等朝均在這里建都。躊躇：原指猶豫不決，徘徊不前。這里形容思潮起伏，陷入沉思。「傷心」句：言經過秦漢的故都，想起那「你方唱罷我登場」的興亡往事，引起無窮的傷感。「宮闕」句：言在無數的戰亂中，過去的宮殿已經化為了一片焦土。宮，宮殿。闕，王宮前的望樓。
寫從關中長安萬間宮闕化為廢墟而產生的深沉的感慨。第四、五句點出作者遙望古都長安，憑吊古跡，思緒萬千，激憤難平。“望西都，意躊躇”，寫作者駐馬遠望、感慨橫生的樣子。作家身處潼關，西望舊朝故都長安，西都”即長安，長安不僅是秦漢都城，魏、晉、隋、唐都建都長安。作為六朝古都，當年是何等的繁華、昌盛。昔日的奢華早已灰飛煙滅不復存，只剩下一片殘垣斷壁的衰敗景象，怎能不令詩人躊躕傷心呢？ 曾經是好幾個朝代的都城，它的繁榮昌盛的景象在古籍中也曾有過記載，可如今眼前只剩下一片荒涼，萬千滋味涌上心頭，遙想當年，秦之阿房，漢之未央，規模宏大，彌山縱谷，可如今崇麗之宮闕，寸瓦尺專皆蕩然無存，想到今番前去的任務，他不禁感慨萬千。第六、七句“傷心秦漢經行處，宮闕萬間都做了土”點出無限傷感的原因。“宮闕萬間都作了土”，便是這由盛到衰的過程的真實寫照，是何等令人“傷心”啊!這一層看起來只是回顧歷史，而沒有直接提到戰爭，然而歷代改朝換代的戰爭的慘烈圖景讀者很容易想象。在這里概括了歷代帝業盛衰興亡的滄桑變化。這里作者面對繁華過后的廢墟所發出的“傷心”實乃悲涼。為秦漢舊朝統治者悲涼，恐怕“宮闕萬間都做了土”（《三輔黃圖》：“阿房宮，亦曰阿城。惠文王造宮未成而亡，始皇廣其宮，規恢三百余里。離宮別館，彌山跨谷，輦道相屬，閣道通驪山八百余里。”后來項羽引兵西屠咸陽，“燒秦宮室，火三月不滅”。見《史記·項羽本紀》。故曰：“阿房一炬”。） 這種局面是他們不曾想到的吧！同時亦為百姓悲涼，秦漢的一宮一闕都凝聚了天下無數百姓的血和汗，像秦漢王朝為彰顯一個時代的輝煌，集國之全力塑起阿房、未央之建筑，但它卻隨著秦漢王朝的滅亡而化為焦土。輝煌過去，隨即而來是朝代的變換.百姓在戰爭中苦不堪言 。此情此景，讓作家沉重的說出第三層“興，百姓苦；亡，百姓苦”這句千古流傳的語句。
第三層（末四句）：興，百姓苦，亡，百姓苦。 寫作者沉痛的感慨：歷史上無論哪一個朝代，它們興盛也罷，敗亡也罷，老百姓總是遭殃受苦。一個朝代興起了，必定大興土木，修建奢華的宮殿，從而給人民帶來巨大的災難；一個朝代滅亡了，在戰爭中遭殃的也是人民。他指出歷代王朝的或興或亡，帶給百姓的都是災禍和苦難。這是作者從歷代帝王的興亡史中概括出來的一個結論。三層意思環環相扣，層層深入，思想越來越顯豁，感情越來越強烈，渾然形成一體。全曲景中藏情情中有景，情景交融。
怎樣理解“興，百姓苦；亡，百姓苦。”這句話？
興，百姓苦；亡，百姓苦。”是全曲之眼，是全曲主題的開拓和深化。如果這首曲子的曲意僅僅停留在 “宮闕萬間都做了土”上，那么它僅僅宣揚了佛家“一切皆空的思想”，它與其它懷古詩（與《洛陽懷古》“功，也不久長！名，也不久長！” 陳草庵《山坡羊 嘆世》“興，也任他；亡，也任他。” 《驪山懷古》“贏，都變做了土；輸，都變做了土。”趙慶善《長安懷古》“山，空自愁；河，空自流。”楊慎《臨江仙》“是非成敗轉頭空”）的主題并無多大區別。在否定歷史的同時，也否定了積極有為的人生態度。正因為最后兩句就使得這首曲的境界大大高出同題材的其它作品。這首曲可貴之處在于它有深切的人文關懷，有對老百姓疾苦深切同情與關懷。
“亡，百姓苦”好理解。王朝滅亡之際戰亂頻仍，民不聊生。“興”，怎么也“百姓苦”呢？王朝之“興”必大興土木，搜刮民脂民膏，百姓不堪其苦。像秦王朝興起時，筑長城，開馳道，造官室，勞役繁重，百姓受盡了苦。“興，百姓苦”一句，發人所未發，深刻而警策。興則大興土木，亡則兵禍連結，不論“興”、“亡”受苦的都是百姓。歸納總結：這首小令語言精練，形象鮮明且富有人民性，是整個元散曲中的優秀作品。
《潼關懷古》中對歷史的概括，顯指元代現實生活：懷古實乃傷今，沉重實乃責任。這種復雜的感情要結合作家的生平經歷才能理解。張養浩自幼才學過人，曾向平章不忽木獻書，被提拔，后任堂邑縣尹、監察御史等職，因評時政，得罪當權者被罷官，為避禍不得不隱姓埋名；后被召起，官至禮部尚書。50歲時辭官歸隱于濟南云莊，關中旱災時被重新任命，趕赴陜西救賑災民。多年的宦海沉浮，讓他把功名富貴都參破，不再在意統治者對自己的評判；濟南云莊的歸隱生活，不僅讓他欣賞禮贊自然的風光，更讓他體察民生只艱辛；尊奉孟子民本之思想，讓他深深懂得民生之重要；剛正不阿、仗義執言的性格，讓他有勇氣面對現實說出心中真實的想法。元代百姓生活之苦被作家以懷古的形式表現出來。這種憂民之心使他“到官四月，傾囊以賑災民，每撫膺痛哭，遂得病不起。”這是一個有良知的讀書人真實的本性和真實的生活，也是當時社會所難得一見的。
張養浩特殊的仕途經歷，決定了他的懷古散曲中有一種參破功名富貴的思想，《驪山懷古》中寫到“贏，都做了土；輸，都做了土。” 《洛陽懷古》中寫到“功，也不長；名，也不長。” 《北邙山懷古》中寫到“便是君，也喚不應；便是臣，也喚不應。”這些曲中張養浩把勝負之數、功名之分、生死之際，看成了毫無差別的，只是借古人古事述說富貴無常、人生如夢。只有《潼關懷古》以難得的沉重，以深邃的目光，揭示了封建社會里一條顛撲不破的真理“興，百姓苦；亡，百姓苦。”
元代的統治者對讀書人實行民族歧視政策，直到元仁宗延祐二年（公元1315年）才正式實行科舉取士制度，況且這種制度也是不公平的，這就造成下層讀書人在很大程度上對元統治者失去信心，對社會缺少責任感，所以同時期其他作家懷古作品都深刻地打上時代地烙印：他們或感傷古王朝之覆，發一通思古之幽情；或感嘆古今之巨變，流露對世事人生把握不定之惶恐；或有感于歲月流逝，抒發個人沉淪不遇之憂情。惟有《潼關懷古》洋溢著沉重的滄桑感和時代感。
從作品內容、作家其他懷古作品、同時期其他作家懷古作品三個層面上看，《山坡羊·潼關懷古》都表現為 一份難得的沉重。
