袭封了襄垣县公。 而且他那时候的眼光很不错,投靠了当时是丞相的隋文帝杨坚,授了一个大都督的职位。 隋朝建立隋文帝即位,迁左直斋、车骑将军、晋王杨广的王府参军。 后来跟着一起参与平定了江南之乱,迁开府仪同三司,他是杨广的人,还参与了告发太子杨勇。 隋炀帝即位后,迁到了左翊卫将军,参与攻打吐谷浑,加位金紫光禄大夫,镇压各地起义立下了不小的功劳,升到了左骁卫大将军