上清宫位于今洛阳市老城西北约4千米的邙山翠云峰上,相传是老子炼丹的地方。唐高宗乾封元年(666)追尊老子(李耳)为玄元皇帝,玄宗开元二十九年(741)诏令两京诸州置庙祭祀,所以唐代称上清宫为玄元皇帝庙,又为避玄宗讳,改称元元皇帝庙,或称太微宫。老子被人尊为太上老君,故又称“老君庙”。
宋靖康二年(1127),上清宫毁于战火。后经重修,金元时又废。明伊王(太祖第二十五子朱㰘)妃方氏捐资重修。明代吴三乐《上清宫碑记》说,嘉靖二十四年(1545),道士张玄恭又募钱修建,把梁、柱、椽、瓦换为铁铸,配殿覆盖琉璃瓦,所以明代以后又称上清宫为铁瓦琉璃殿。沿中轴线自南向北依次为:舞楼、山门、四帅殿、老君殿、三清殿、翠云洞、玉帝殿。四帅殿东为灵官殿,西为玄坛殿;老君殿前东为钟楼,西为鼓楼;三清殿东为圣母殿,西为火神殿;翠云洞前为东西寮房。嘉靖三十四年(1555)地震,殿宇被震毁(今尚存铁瓦等少量构件)。清康熙二十一年(1682)巡抚阎兴邦、雍正八年(1730)知府张汉均曾予以重修,民国初年又修过,新中国成立后洛阳文物部门也曾先后两次维修。今上清宫保存有玉皇阁、翠云阁、东西寮房等。另有石狮、石马各一对,明清碑刻40余方
上清宫坐落在邙山之巔,海拔250米,是洛阳北郊的制高点,地势险峻,风景秀丽,既是消夏避暑胜地,又是历代兵家必争之地。古代这里树木葱郁、苍翠如云,故称“翠云峰”。抗日战争期间,上清宫内外的古柏、柿树、榆树等数十株,多被日寇飞机投弹炸毁,殿宇也遭破坏。唯翠云洞和洞顶平台上的3间老君殿巍然犹存。站在殿前平台向南眺望,古城洛阳尽收眼底。
历代有很多文人学士登临老君庙,留下了不少歌咏上清宫的诗文。隋炀帝在仁寿四年(604)冬曾登邙山南望伊阙,决定在翠云峰正南跨洛河修建新城,翌年迁都洛阳,定为东都。大诗人杜甫在天宝八载(749)登上玄元皇帝庙,观览了洛阳山河形势,写出了“山河扶绣户,日月近雕梁”(《冬日洛城北谒玄元皇帝庙》)的名句,极力描绘了洛阳山河的壮丽和皇城的宏伟。唐代大画家吴道子曾在这里绘过《五圣图》壁画。宋代文学家苏东坡也曾来这里刻石题句。惜沧桑多变,岁月流逝,这些宝贵的壁画、碑碣、石刻多遭毁弃。今庙内新存的明、清重修碑,记载了上清宫的历史沿革和明代重修前的位置以及地震情况等有价值的资料。
在上清宫南边和邙山岭下,原有中清宫和下清宫。而今中清宫已无迹可寻,下清宫却幸存至今,为一座青砖小院,规模不大,紧凑幽静。