汉高帝时期，先把秦的离宫兴乐宫改建为长乐宫，后来在长乐宫以西建筑了未央宫，在未央宫以北草创了北宫，在长乐与未央之间是长安军械大库所在地，称武库。到汉惠帝时，长安城墙才基本完成修筑，并建立西市。
早期的国都长安，只利用秦时的旧宫加以改造，并以此为基础加以配套工程完善，从东到西，太仓、长乐宫、武库和未央宫，形成一横排的大小建筑群，布局也都是坐西朝东，加上汉惠帝时期的城墙，基本上形成了早期长安的规模。
当时长安城内，南部和中部除了宫殿外，还有宗庙、中央官署、三辅官署及各种仓库，这样一来，城中剩余的空间就很小了。加之诸侯、大臣、富豪的住宅，长安城内没有什么空地。因此，后来长安的发展，逐渐越出汉惠帝城墙的界限，开始向外发展，这样一来，早期长安逐步成为广义长安的内城。长安城的扩建，与帝国政治经济的恢复、发展是密不可分的。
建章宫是汉武帝时期建造的一个大型宫殿群，性质上虽属于离宫，但日后逐步具有政治性办公职能。它位于长安城西，在直城门外的上林苑内，其宫殿楼台之多，远非长乐、未央所能比拟，号称“千门万户”。
据说，汉武帝修建建章宫的理由是源于一场宫廷火灾和一个荒诞不经的南方风俗。太初元年（前104 年），未央宫附近有名的柏梁台失火被焚。
事后有一个南粤巫师站出来告诉汉武帝，他说：“在他的老家，失火之后要建一座比失火建筑更大、更华丽的建筑将火魔活活气死后，就可保平安无事。”
汉武帝听完这话，便信以为真。在太初元年（前104 年）开始兴建建章宫。由于其设计规模宏大，加之长安故城中用地紧张，因此选址在故城以西。实际上，汉武帝是把建章宫当成他的新皇宫来兴建的。从建章宫的布局来看，从正门圆阙、玉堂、建章前殿和天梁宫形成一条中轴线，其他宫室分布在左右，全部围以阁道。宫城内北部为太液池，筑有三神山，宫城西面为唐中庭、唐中池。