记载，当时上清宫规模宏伟，殿堂巍峨，门外有石狮石马，内有画圣吴道子所绘的五圣千官像，十分辉煌壮观。杜甫曾经来这里游览过，一览洛阳的山河形势，写出山河扶绣户，日月近雕梁的名句。宋代的苏东坡也曾于此刻石题句。

从唐代开始，再到五代宋元明清，上清宫几度兴衰，至少规模格局仍在。可是在抗日战争时期，却惨遭日军炸弹破坏，唯有几间殿堂幸免于难。所以现在王观等人进入道观中参观，自然感受不到古代的恢弘壮观