齐云山又名白岳，在安徽省休宁县城45公里处，道教活动颇为兴盛。齐云山作为道教圣地，始于唐代。据史料记载，唐朝乾元年间（公元758—760年），道士龚栖霞，云游至齐云山，隐居于天门岩修炼传法；虽无建迹，却留下道教遗踪。南宋宝庆年间（公元1225—1227年），道士余道元自黟北（黄山）游至齐云山天门岩，得潜师天谷子印记“宜我室此”，遂拜请于居士金安礼、金士龙，建佑圣真武祠于齐云岩。相传真武帝神像为百鸟衔泥塑立，显应于昭。此后云游道士纷至沓来，道教宫官日益增多，齐云山遂成道教名山。崇拜道教的居士信徒，纷纷献地输财，筑祠建观，香火日盛，道士渐增，从而创立了齐云山的道教基业。
明朝，“山岳效灵”，道教活动日趋兴盛，永乐十年（公元1412年）以后，宫观道房，次第落成；十八年（公元1420年），辟齐云观于齐云岩；宣德四年（公元1429年）建三清殿于拱日峰下。道士频繁往来于武当山，间或去武夷等山访师求学，以致齐云山宫殿建筑、道规道制，亦多仿效武当。正德十五年（公元1515年）养素道人汪泰元仿武当山建玉虚宫于紫霄崖，建静乐宫于桃花涧；其门徒方琼真继师志建榔梅庵，并往武当取榔梅树植之。武当亦名太和，齐云亦名中和，齐云山道教渐具规模，并成为武当山全真派的一个门派，故古人称之为“江南小武当”。明代中后期，齐云山道教进入鼎盛时期，嘉靖皇帝下旨醮建了“玄天太素宫”，齐云山从此更加声明远播。明嘉靖帝等多次派使臣来山朝拜，并且亲自为宫观撰写碑铭、匾额，一时成为道教正一派的活动中心，来自皖、浙、赣等地的香客达三千之众。