量着这座寺庙。这座寺庙始建于晋武帝时的长安城，初称遵善寺。后来北周明帝在原址建了陟岵寺，瞻望其岳父。

杨坚开皇二年，诏建大兴城，营建新都，就特别敕令迁寺于新都，还命为国寺。因为杨坚在北周时为原为大兴郡公，而寺址位于靖善坊内，故取大兴二字和靖善坊的善字命名。

寺建成之后，寺中的正殿崇广殿是京城最大的佛殿，大兴善寺的开山祖师灵藏大师，因为是杨坚的布衣知道交，故又担任了隋朝管理全国僧