城北十里敬亭山南，唐大中初（约854）宣城刺史裴休建广教寺，因卜静室于此，元末毁。明宣德中（约1430）里人于故址建庵曰翠云。嘉靖中圮陈希美改建凭虚阁，曰凌云，崇祯戊辰年，知县陈泰来又于最高处建额珠楼，四方文士游观题咏无虚日，清康熙丙申（1667）郡守佟赋伟重修，乾隆戊午（1738）邑人詹上彩捐资修云齐阁、灵异居、佛殿、山门凡四处，又建穿云阁于山半，寻址镇岸商汪成龙改建额珠楼为亭，又旧有亭曰凌丹梯今废，续因游人不戒于火,楼阁皆墟。辛丑岁（1781）署府萧登生率邑绅士复建诸胜迹如故，今又渐圮。明人贡安国曾赋诗曰：“小阁虚岩畔，回溪古松端。玥晖开锦眺，秋色在雕阑。花鸟图书出，溪山水墨看。夕阳宾主罢，聚乐到骚坛。”

唐代原系禅门，至民国八年（1919）始改住黄冠（道士），此为抗日战争后仅存一座道教处所，住持者时人称为“耿老道”。解放后至1957年庙毁，道教未再兴起。

1987年，经县人民政府批准重建，现由观音宝殿和观音堂组成，殿、堂内均观音化身32尊塑像和画像供奉，依次是辟支佛身、帝释身、乾达婆身、宝庆王身、人龙人身、比丘尼身、长者身、童男身、天龙身、妇女身、阿修罗身、夜叉身、执金刚神身、菩提神身、天大将军身、军官身、声闻声、若有诸天说法身、化诸天而为说法身、梵王身、居士身、童女身、婆罗门身、优婆夷身、小王身、自在天身、长老身、迦楼罗身等。面积达688平方米，现在尼姑6人。重建后经常举行佛事活动，常年香火不断，香客众多。此庵正处敬亭山风景区腹地，每年接待香客和游客达万人次以上。

庵内有一古钟，高1.4米，径1米，原为城内东平庙子明成化六年（1470）所铸，后流落市区人武部院内，1988年秋，迁入新建的庵内，尼众大乐。

另据1989年5月，宣州市佛教协会为建筑翠云庵嵌碑记载：相传，唐玄宗之妹玉真公主因避安史之乱，步李白行踪，在此出家数年，号称持盈法师，圆寂后葬于敬亭山南麓。