元上都由宫城、皇城、外城和关厢组成。宫城为长方形,东西宽570米,南北长620米,内部的宫殿有三十余处。宫城开三个门,南门为御天门,东门为东华门,西门为西华门(明清故宫的东、西华门应源于此),元朝诗句“东华西华南御天门,三门相望凤池(指中书省)连”便是真实的写照。御天门前是宽阔的广场,元朝人有“御天门下闻诏书,驿马如飞到大都,九洲四海服训诰,万年天子固皇图”的描绘。
皇城呈正方形,边长为1400米,皇城内以儒、释、道建筑为主,东南角是孔庙,东北角是喇嘛教的大龙光华严寺,西北角为佛教的乾元寺,西南角有八思巴帝师府、道观和清真寺等。元朝皇帝每年夏季在上都时,全国各教派的宗教领袖也都要来到上都。
从皇城东北角的角楼向北延伸800米,西南角的角楼向西延伸800米,围拢起来就构成了呈L型的外城。外城又分为两部分,北部为皇家野生动植物园(又称禁苑),西部既建有能容纳数千人的大型蒙古包失腊斡尔朵(又称金顶大帐或竹宫),又建有行宫。
当时的百姓大都住在城外的东关、南关、西关。皇城南门明德门前是2公里长的南关,“明德门前万骑过”,“滦水桥边御道西,酒旗闲挂木檐低”,“滦河美酒斗十金,下马饮酒不计钱”,便是对当时南关繁华景象的描述。外城的西边是1公里多长的西关,是以手工作坊和牛马车市为主的工商业区。皇城的东边为1公里多长的东关,为宗王贵族的住地,搭建着许多蒙古包。元朝诗人宋本对东、西关的描绘是:“西关轮舆多似雨,东关帐房乱如云”。北关为军营。
作为元朝的统治中心,元上都南临上都河,北依龙岗山,坐落在广阔的金莲川草原上,形成了以宫殿为中心,分层、放射状分布,即有土木为主的宫殿、庙宇建筑群,又有游牧民族传统的蒙古包式建筑的总体规划形式,体现出一个高度繁荣的草原都城的宏大气派,是农耕文明与游牧文明的融合的产物,是草原文化与中原农耕文化融合的杰出典范,是古代城市规划与生态文明建设结合的突出代表。