隋文帝杨坚即位后曾经营建了新都大兴。到杨广登基的时候，大兴城还没有完全竣工。但在杨广眼中，父亲的大兴城已经落伍了，满载不了自己的勃勃雄心。他把目光投向东方。之前，尉迟迥和杨谅造反都曾给远在关中长安地区的朝廷措手不及的打击。杨广吸取教训，决定营建洛阳作为新都，以防“关河悬远，兵不赴急”。部分大臣同意朝廷应该加强对东方的统治，但反对在已经有都城的情况下再造一个新都。杨广反问，谁规定天下不能有两个都城？结果，杨广的这句话为中国创建了“两都制”。洛阳成了隋朝的“东都”。

国家还没改元，仁寿四年（604）年底，杨广就下令征发数十万民工开始建造东都洛阳。

洛阳早在商周时期就是东方重镇，威震黄河中下游的诸侯，在东周正式成为都城。后汉、曹魏、北魏继续以洛阳为都，建设成人口百万、住户阜密、通衢繁华的大都市。遗憾的是，这座恢宏的都城在南北朝的连年鏖战中惨遭攻伐，乃至多次被屠城，几乎沦为废墟。

杨广决心恢复洛阳的光芒，他先在地图上画了一条线，命令在洛阳以北挖掘一道长逾千里的长堑，用于预防突厥骑兵南下，以拱卫规划中的新都。这道长堑，在第二年（605）年初就完工了。紧接着杨广放弃了汉魏洛阳城的故址，在原址以西十八里的地方重新建造都城。他任命宰相杨素担任营建东都的大监，全面负责营建工作，同时命令将作大匠宇文恺负责具体施工。杨广几乎是倾全国之力来建造洛阳，每月役使工匠超过两百万人，发长江之南、五岭以北的奇材异石输运洛阳。杨广看得重，杨素等人催得也急，结果劳工的劳动强度很大，死亡率在百分之四十到五十之间，装载劳工尸体的大车在东至城皋、北至河阳的广大地区内“相望于道”。最后，一座比大兴城更加宏伟的洛阳城在十个月内就完成了。

完工后的东都洛阳城规模巨大，“前直伊阙，后据邙山，左瀍右涧，洛水贯其中，以象河汉”，是个南宽北窄的不规则长方形，“周回五十二里”。洛水自西南向东北穿城而过，分全城为洛北、洛南两部分。

洛阳城延续了大兴城的分区设计，城郭分为宫城、皇城、外郭城三部分。城北的宫城是皇帝居住和处理政务的地方，殿堂错落，其中最壮观的是即使在百里之外都能望见的干阳殿。殿庭周围遍种枇杷、海棠、石榴、梧桐等奇花异木。在宫城西南还有占地辽阔、风景优美的上阳宫；宫城南边是皇城，即官府衙门所在地；外郭城是官吏私宅和百姓居住的地方。

洛阳城西是广大的御花园——西苑。整个西苑周长二百余里，“其内为海，周十余里；为蓬莱、方丈、瀛洲诸山，高出水百余尺，台观殿阁，罗络山上，向背如神。北有龙鳞渠，萦纡注海内。缘渠作十六院，门皆临渠，每院以四品夫人主之，堂殿楼观，穷极华丽”。西苑有山有海，建筑品类丰富，规模远远超过了洛阳的城郭。杨素、宇文恺等人搜求到的海内嘉木异草、珍禽奇兽，都放在了那里，杨广看了以后，又下令全国各地州县定期贡献花木鸟兽，以充实园苑。他还命人剪彩绫为叶，编丝绸为花，保持苑内“四季如春”。

洛阳城致命的问题和大兴城一样：没有居民。它是在图纸上规划出来的又一个首都，就像杨广的玩具，需要主人把居民人偶“放”进城内。城郭筑成的第二个月，杨广下诏迁徙豫州的百姓和数万家富商大贾，充实东都。在大业二年（606）五月、大业三年（607）十月，杨广又分别迁徙 江南富户六千余家和河北工匠三千余家，充实东都。

杨广迁徙政策的力度很大，洛阳城很快就成了人烟密集的都市。隋朝后期，洛阳鳞次栉比的酒楼和客栈表明这座新都的成功——商业往往是一座城市繁华度的晴雨表。洛阳“北通涿郡之渔商，南运江都之转输”，其市场上有各种各样的商品，如金、银、珠宝、瓷器、皮毛、丝绸等。来自西域各国和来自东方日本的商人，与洛阳本地的小商小贩一起交易，将这些商品辗转运到世界各地。

随着杨广在洛阳的时间越来越长，长到超过了他在大兴城的时间，洛阳城逐渐发展成了文化和政治中心。每次科举考试的时候，全国各地的举人都聚集在洛阳。