杨玄感是老丞相杨素之子，出身显贵之家，官至礼部尚书，这个被杨广委以重任的人怎么会造反呢？一切都得从头说起。

杨素既是隋朝的开国功臣，又是杨广夺取太子之位、登基、平叛的关键功臣。杨广当皇帝后，杨素权倾朝野，无形中对杨广形成了巨大威胁。杨广内心非常忌惮，对杨素“内情甚薄”，表面上礼遇有加，却找借口让杨素多休息，不让他参政议事。太史官说隋地所属的分野将有重大的丧事发生，杨广马上把杨素从越国公改封为楚国公，因为楚地和隋地属同一分野，杨广想借杨素来拦挡丧气。

大业二年（606），杨素病重不起，杨广频繁派遣名医前去诊治，还赏赐许多药品。但暗地里，杨广逼问太医：“杨素什么时候死？”病榻上的杨素不肯吃药，弟弟杨约就劝他要吃药养病。杨素悲哀地说：“我难道还要活下去吗？”杨素死后，杨广对近臣感叹说：“杨素不死，终当灭族。”现在杨素死了，杨广可以放心地给他立碑颂功，赞扬杨素“垂名迹于不朽，树风声于没世”，是“竭尽诚节”的“茂绩元勋”。

杨素没了，杨广依然提防着杨家。

杨玄感是杨素的长子，长得体貌雄伟，有一副漂亮的须髯。但他小的时候呆头呆脑，有人就怀疑杨玄感的智商不正常。杨素坚定地对众人说：“我这儿子一点都不痴。”长大后，杨玄感文武全才，很快升为二品官，在朝堂上和父亲杨素并列而立。杨坚看到后，给杨玄感降了一等官衔，杨玄感拜谢说：“想不到陛下如此宠爱微臣，在公廷之上让我有机会敬奉父亲。”转任地方官后，杨玄感表现出很强的组织能力，对地方上的大小事务知道得一清二楚，属下官吏不敢有丝毫隐瞒。杨素死的时候，杨玄感正在担任宋州刺史，因为父忧去职。翌年，杨玄感被起用为鸿胪卿，继承了杨素楚国公的爵位，不久又升迁为礼部尚书。

杨玄感和杨素一样，感觉到了杨广的猜忌之心，内心十分恐惧。但杨玄感和消极害怕的父亲不同，采取了积极反抗的态度。再加上显贵的家世、顺畅的仕途，这让杨玄感产生了不切实际的念头。他看到朝中遍布父亲的门生故吏，而朝政越来越紊乱，就和几个弟弟阴谋推翻杨广的统治，先拥立秦王杨浩，再取而代之。

大业五年（609）夏，杨玄感跟随杨广出巡吐谷浑。六月初八，行进到大斗拔谷这个地方的时候，山路隘险，风雪晦暝，车驾狼狈混乱，杨玄感就想袭击杨广的行宫，发动政变。叔叔杨慎拉住杨玄感说：“现在的隋朝，民心统一，国内没有大乱，尚不可图也。”杨玄感觉得有理，这才没有动手。

杨玄感知道要起兵首先要有军队，所以四处活动，想谋个军职领一支部队。他找到兵部尚书段文振说：“玄感世荷国恩，宠逾涯分，自非立效边裔，何以塞责！现在地方上不稳，我愿意执鞭行阵，追逐军功。段公负责兵部，能否通融一下？”段文振告诉了杨广，杨广很赞赏杨玄感的态度，对群臣说：“将门必有将，相门必有相，此言不虚。”于是杨广重赏了杨玄感，开始让他参与部分朝政，有时也交付部分军队。

隋朝处于鼎盛时期，杨玄感不敢贸然动手，当隋朝国势衰落，杨玄感动手的机会就到了。

大业九年（613）春，杨广二征高句丽，命令杨玄感在黎阳督粮。

这时，杨玄感看到百姓怨声载道，人心思变，就和武贲郎将王仲伯、汲郡赞治赵怀义等人密谋造反。他计划先让杨广率领的前线大军没有饭吃，饿得他们打败仗，到时候好浑水摸鱼。因此杨玄感截阻后方的粮草，不及时发送前方。杨广派使者逼促，杨玄感就托词“水路多盗贼，不可前后而发”。杨玄感的弟弟武贲郎将杨玄纵、鹰扬郎将杨万硕都在辽东军中打仗，也被杨玄感秘密派人召了回来。

当时，来护儿的水军还聚集在东莱海面，没有按期出发。杨玄感决定抓住这件事情作为起兵的借口。他让家奴伪装成朝廷使者，从东北方向匆匆赶来，谎称：“来护儿造反了！”接着杨玄感就以勤王防贼的名义，关闭黎阳城，正式起兵。