楊素前文有提到過，他在楊廣立為太子事件中闡揚著首要的感化，厥後楊素代替高穎做左仆射成為大隋第一宰相。楊廣即位後安定漢王楊諒的兵變以功成為職位超群的尚書令，大業元年（605）三月，楊素與將作大匠宇文愷修建洛陽新城，七月，楊素升為太子太師，餘官仍舊，前後犒賞，不成勝數。大業二年（606）六月，楊素升為司徒，改封楚國公。厥後楊素病重，楊廣就常派名醫診斷，並賜名藥醫治。大業二年（606）七月二十三日，楊素在洛陽家中歸天，約六十六歲。這在《隋書》中是如許記錄的：“素雖有建立之策及平楊諒功，然特為帝所猜忌，外示殊禮，內幕甚薄。太史言隋分野有大喪，因改封於楚。楚與隋同分，欲以此厭當之。素寢疾之日，帝每令名醫診候，賜以上藥。然密問醫人，恒恐不死。素又自著名位已極，不肯服藥，亦不將慎，每語弟約曰：‘我豈須更活耶？’”就是說楊素在厥後的時候因為權勢的啟事非常被楊廣所顧忌，以是楊廣很但願楊素早死，而病重的楊素本人也在看懂了楊廣的意義後便不再喝藥，最後病死。