南宫在汉以前就存在，初为新成周城，秦皇灭周统一天下后，将此城封给吕不韦，吕不韦精心经营，使此城规模雄伟，宏丽壮观。
高祖初都洛阳，继续沿用此城，并不断地修葺，使其保持着繁华的景象，到光武帝重兴汉室之后则进行了全面整修，正式作为皇宫。
南、北宫城均有四座同向同名的阙门，门两侧有望楼为朱雀门，东为苍龙门，北为玄武门，西为白虎门。
南宫的玄武门与北宫的朱雀门经复道相连，南宫朱雀门作为皇宫的南正门与平城门相通而直达城外。
由于皇帝出行多经朱雀门，故此门最为尊贵，建筑也格外巍峨壮观，远在四十五里外的偃师遥望朱雀门阙，其上宛然与天相接，堪称洛邑之奇观。
南宫是皇帝及群僚朝贺议政的地方，建筑布局整齐有序，宫殿楼阁鳞次栉比，主体宫殿坐落在南北中轴线上，自北而南依次为：司马门、端门、却非门、却非殿、章华门、崇德殿、中德殿、千秋万岁殿和平朔殿。
宫中中轴线东西侧各有两排对称的宫殿建筑，西侧两排自南而北依次排列，东排为鸿德门、明光殿、宣室殿、承福殿、嘉德门、嘉德殿、玉堂殿、宣德殿、建德殿；西排为云台殿、显亲殿、含章殿、杨安殿、云台、兰台、阿阁、长秋宫、西宫。
东侧两排，西排为金马殿、铜马殿、敬法殿、章德殿、乐成门、乐成殿、温德殿和东宫；东排为侍中庐、清凉殿、凤凰殿、黄龙殿、寿安殿、竹殿、承风殿和东观。
中轴线两侧的四排宫殿与中轴线平行，使中轴线上的建筑更加突出和威严，这南北五排建筑若按与中轴线直交的横向排列，又可分为八排。
这样，每座宫殿建筑的前后左右都有直道与其他宫殿相通。因此俯视南宫地面，会看到一个格子形的布局，表现了建筑规整、对称的风格。
北宫主要是皇帝及妃嫔寝居的宫城，地位比南宫更加重要，因而建筑极尽豪华气派，章帝时有个叫梁鸿的人，一次与妻子孟光路过洛邑，看到都城宫殿壮丽宏伟的情形，又想到服役人们所受的痛苦和无休止的繁重劳动，于是就写了一首《五噫歌》。
歌词说：“陟彼北邙兮，噫!顾瞻帝京兮，噫!宫阙崔嵬兮，噫!民之劬劳兮，噫!辽辽未央兮，噫!”，章帝看到自然是下令捉拿梁鸿，梁鸿从此改名换姓，东逃齐鲁，隐居起来了。
北宫的宫殿少于南宫，建筑也没有南宫的规整和对称，坐落在中轴线上的建筑依次为：温饬殿、安福殿、和欢殿、德
…。。