仁壽四年，八月十三日，一代開國皇帝隋文帝駕崩，享年六十四歲。
隋文帝取代北周，建立大隋，結束南北分裂局面，開創了輝煌的“開皇之治”。在隋文帝執政初期，他勵精圖治，割除積弊，廢除九品中正制，創建了五省六曹制度，是為后世三省六部制之藍圖。朝廷選官不再看重門第出身，平民也可出仕為官，建立了科舉制度的雛形。此舉可謂居功至偉，輝映千古。
十八日發喪之時，官員宮眷全部身著白衣，進宮掛喪。放眼望去，若大的宮城在一片縞素。李淵和眾官員一起跪在大寶殿前，默默垂淚。太子楊廣在隋文帝棺木前痛哭流涕，幾欲昏厥。可在李淵和裴寂眼中，那不過是太子殿下在裝模作樣罷了。
隨后，楊素適時的拿出隋文帝遺詔，向眾大臣宣讀。
“……朕今年逾六十，不復稱夭，但筋力精神，一時勞竭。如此之事，本非為身，止欲安養百姓，所以致此。人生子孫，誰不愛念，既為天下，事須割情。勇及秀等，并懷悖惡，既知無臣子之心，所以廢黜。……皇太子廣，地居上嗣，仁孝著聞，以其行業，堪成朕志。但令內外群官，同心戮力，以此共治天下，朕雖瞑目，何所復恨。……”
太子殿下在隨從的攙扶下，慢慢起身。隋文帝遺詔已經說的很清楚了，傳位于太子楊廣。眾臣三呼萬歲，李淵和裴寂對視一眼，只能在心中默默嘆息，跟著諸位大臣，一起叩拜新帝。
并非李淵愚蠢，他不是沒懷疑過隋文帝死因，以及今天這份“遺詔”的真假。但是他無力反抗，為了家人，他不得不裝聾作啞，委曲求全。
那日他和裴寂分別后，李淵回到了家中，妻子竇氏早已從丈夫沉重的表情中猜出了什么，她輕聲問道：“可是朝中出大事了？”
“沒什么，一點小事，不必擔心。”李淵怕妻子多想，急忙勸解道，而后轉移話題，“孩子們都睡了嗎？”
竇清薇深知丈夫是不想讓自己操心，也只好裝作不知情，她笑道：“二郎三郎都睡了，他們今天玩了一天，跑累了。老大還在書房看書，四郎讓奶娘抱去哄了。”
“你辛苦了。”李淵拉著清薇的手，這時，一個十來歲的小女孩跑來進來，“爹爹，你終于回來了。”
這個小女孩是李淵的第三女，名叫李秀寧，生性活潑開朗，最得李淵的疼愛。李淵看見愛女，一掃心中煩憂，抱起她笑道，“秀娘，怎么還不睡？”
“我在等爹爹回來。”李秀寧調皮地說道，“爹爹有沒有帶禮物？”
“當然有。”李淵拿出了精致的點心，“只能吃一塊，吃完就去睡覺，好嗎？”
清薇在一旁微笑，這個女兒就是饞嘴，最喜歡那些市井小吃。她擔心那些東西不干凈，不讓下人們給李秀寧吃。不過李淵帶來的，肯定是大興城里最好的糕點。
李淵看著自己的妻子女兒，想著一家人能夠平安，自保才是上策。
隋文帝喪禮結束后，太子楊廣繼位，次年改元“大業”，冊封蕭氏為皇后，立嫡長子楊昭為皇太子。
楊廣繼位后，以隋文帝遺詔為由，逼迫兄長楊勇自盡。其親弟蜀王楊秀被他誣陷使用巫蠱詛咒隋文帝及幼弟漢王楊諒，被剝奪官爵貶為庶民軟禁于內侍省，后與諸子一起被軟禁。
楊廣登基后的一連串行為，徹底滅了楊勇楊秀造反的苗頭，新帝手段凌厲，讓眾位大臣心生膽寒。
而李淵冷眼旁觀著這一切，看著楊家父子相殘，兄弟相殺，默默感嘆他的姨夫隋文帝一生功績，最后卻毀在了兒子手中。
楊廣掃平了潛在的威脅后，終于開始大展身手。他剛一登基便提出了兩項大工程，一是營建東都洛陽，二是修建大運河。
此提議一出，朝野反對。大隋開國不過幾十年，正當是休養生息的時刻，可是楊廣不顧百姓疾苦，偏要勞民傷財。群臣紛紛反對，可是楊廣不是隋文帝，他剛愎自用，固執己見，怎么可能聽取朝臣們的意見呢？很多勸諫的大臣都被楊廣訓斥、貶官，李淵明白，徒勞的上疏沒有任何作用，只會給家人帶來災難。
楊廣讓宇文愷負責東都洛陽的修建事宜，任命他為營東都副監。開皇二年，隋文帝下詔營建新都大興城時，也是由宇文愷擔任營新都副監。開皇十三年，隋文帝要在岐州修建仁壽宮，再度任命宇文愷為檢校將作大匠，后又拜為仁壽宮監、將作少監。可見此人有著豐富的營建修城的經驗。
至于大運河要如何修建，派何人修建，楊廣還沒有拿定主意。畢竟這是一個大工程，對于人選，楊廣不得不慎重考慮。
這一日，楊廣召楊素進宮問策，他問道：“修建大運河之事，派何人總管為好？”
楊素心中早有想法，他向楊廣進言：“臣舉薦一人，可擔此重任。”
“是誰？”楊廣問道。
“李淵。”楊素說道。
“李淵，他行嗎？”楊廣皺皺眉頭，滿臉不信任的樣子。他對自己這個大臣兼表兄沒有過多關注，在他眼中，李淵不過是一個碌碌無為的唐國公，在朝堂之上毫不起眼，這樣的人，怎么能夠擔任修建運河的大事？
楊素道：“李淵也算是出生貴族，名門子弟，其祖父李虎乃西魏‘八柱國’之一，其父李昞承襲了爵位，并任安州總管、柱國大將軍。其母和陛下的母親還是親姐妹。李淵七歲襲封唐公，先帝時，李淵曾為千牛備身，而且為人豁達寬容，才華橫溢，修建運河應是綽綽有余。”
楊廣驚奇的看了一眼楊素，玩笑道：“卿從未如此贊賞過一個人，這個李淵有何德何能，讓卿如此看重？”
楊素知道，楊廣自小聰慧，早就明白自己瞞不過他。他義正言辭地說道：“李淵出仕多年，無功無過，匿影朝廷，沒有任何存在感。此人隱忍不發，靜水流深，如今陛下初登基，我們用修建運河之事測測他的態度，看他是否真心支持陛下。”
楊素說話做事果然嚴謹，楊廣就知道他推薦李淵必有道理。于是楊廣點頭道：“就按卿的意思去辦吧。”