城北十里敬亭山南，唐大中初（約854）宣城刺史裴休建廣教寺，因卜靜室于此，元末毀。明宣德中（約1430）里人于故址建庵曰翠云。嘉靖中圮陳希美改建憑虛閣，曰凌云，崇禎戊辰年，知縣陳泰來又于最高處建額珠樓，四方文士游觀題詠無虛日，清康熙丙申（1667）郡守佟賦偉重修，乾隆戊午（1738）邑人詹上彩捐資修云齊閣、靈異居、佛殿、山門凡四處，又建穿云閣于山半，尋址鎮(zhèn)岸商汪成龍改建額珠樓為亭，又舊有亭曰凌丹梯今廢，續(xù)因游人不戒于火,樓閣皆墟。辛丑歲（1781）署府蕭登生率邑紳士復建諸勝跡如故，今又漸圮。明人貢安國曾賦詩曰：“小閣虛巖畔，回溪古松端。玥暉開錦眺，秋色在雕闌?；B圖書出，溪山水墨看。夕陽賓主罷，聚樂到騷壇。”
唐代原系禪門，至民國八年（1919）始改住黃冠（道士），此為抗日戰(zhàn)爭后僅存一座道教處所，住持者時人稱為“耿老道”。解放后至1957年廟毀，道教未再興起。
1987年，經(jīng)縣人民政府批準重建，現(xiàn)由觀音寶殿和觀音堂組成，殿、堂內均觀音化身32尊塑像和畫像供奉，依次是辟支佛身、帝釋身、乾達婆身、寶慶王身、人龍人身、比丘尼身、長者身、童男身、天龍身、婦女身、阿修羅身、夜叉身、執(zhí)金剛神身、菩提神身、天大將軍身、軍官身、聲聞聲、若有諸天說法身、化諸天而為說法身、梵王身、居士身、童女身、婆羅門身、優(yōu)婆夷身、小王身、自在天身、長老身、迦樓羅身等。面積達688平方米，現(xiàn)在尼姑6人。重建后經(jīng)常舉行佛事活動，常年香火不斷，香客眾多。此庵正處敬亭山風景區(qū)腹地，每年接待香客和游客達萬人次以上。
庵內有一古鐘，高1.4米，徑1米，原為城內東平廟子明成化六年（1470）所鑄，后流落市區(qū)人武部院內，1988年秋，遷入新建的庵內，尼眾大樂。
另據(jù)1989年5月，宣州市佛教協(xié)會為建筑翠云庵嵌碑記載：相傳，唐玄宗之妹玉真公主因避安史之亂，步李白行蹤，在此出家數(shù)年，號稱持盈法師，圓寂后葬于敬亭山南麓。