白云寺并不奢华，作为一处具有悠久历史的道家文化圣地，它并无高大巍峨的殿堂庙宇，也无旺盛的香火，而是一直默默地隐蔽在六盘山脉腹部的褶皱里，朝沐甘露，夕听松涛，与日月同在。据传说，先有白云寺，后有崆峒山；另有一种说法，认为白云寺与崆峒山一脉相承，具有一定的仙体神灵联系。
自古以来，白云寺的全部文化内涵和精神实质都体现在一孔神秘的石洞上，它清净、天然、朴拙。这孔石洞名曰灵官洞，它雄踞于悬崖峭壁之间，掩蔽在松林箭竹当中，洞口天然形成，状如窑洞，与山体浑然一体，无斧凿刀刻痕迹。于是这石洞便充满了神秘，而更为神秘的是石洞窑坳又有一口小孔。当地有人曾经进去过，据说此洞漆黑风紧，深不可测，需持火把探进。行不了丈余，便觉两耳风吼，不远处流水哗哗。火把熄灭了，就不敢再前。也有人说这洞叫四十里黑风洞，直通隆德境内的清凉寺。传说赵灵官就是在这里修炼成仙的，因而叫灵官洞。其实最早在这里修炼的要算是广成子，这里还有广成子的一段煮羊的美丽传说呢。
据说广成子在崆峒山修炼了很长时间，认为自己还未成正果，于是就到天上去问玉皇大帝自己何时成仙，玉皇大帝便赐了他一只山羊，说你如果将这只羊煮熟了，不仅能够成仙，而且会成为济世的第一大仙。同时叮嘱广成子，羊必须煮够七天七夜，这七天七夜还要绝对清静，不能有任何打扰。在这期间你要一心一意修行真功，不能心急，直到天上升起朵朵白云时羊就煮熟了。
广成子回到崆峒山之后，由于此山香火格外旺盛，善男信女成天熙熙攘攘，吵杂无比，就决定到离崆峒山西边不远的白云山一边煮羊一边修行。这里是个绝好的清静之地。因为这是玉皇大帝钦赐的神羊，因此煮起来谁也不敢掉以轻心。煮羊的地方就选在白云寺旁边的干海子。这干海子是一片大草甸，周围全被峰峦叠翠的群山包围着，从高处俯视，这里犹如一个天造地设的翡翠状的巨大香炉。每当春夏之际，这里绿草如茵，鲜花遍地，蜂飞蝶舞。一进入秋天，六盘山时常阴雨连绵，此地便成了一片汪洋，青山倒映，日月星辰出没其中，蓝天白云荡漾其里，形成一副“山上湖泊水上山”胜境。在这里煮羊，蒸气不易外散，实在是一种造化，因此广成子相当满意。于是，广成子让弟子从山下凡人那里借来大铁锅，砌好锅炉，备足柴火。一切准备就绪，他将山羊交给两个最得意的弟子，选好日子，动手煮羊。一切吩咐好之后，由弟子代行煮羊，他就在这个山洞里认认真真地炼起丹来。
广成子的两个弟子按照师傅的吩咐，一个扇风，一个架火，一刻也不敢懈怠。那情景真是“炉火照天地，红星乱紫烟，白云山月夜，燃声动寒川。”此时，白云山上烟云萦绕，一股蒸气袅袅上升。煮到第六天后，其中一个弟子实在压抑不住自己强烈的好奇心，就偷偷地半揭锅盖看生熟，闻香味。煮到七天七夜之后，广成子从石洞里出来准备吃羊。当他把锅盖一揭时，一只白花花的山羊便一跃而出，迅速沿山而下，师徒三人便急忙追赶。当他们撵上时，发现山羊在山下的川道里卧着，他们正要逮住时，羊竟然跳起来跑了。于是，后来人们把这一片形似山羊乱石川的地方叫“卧羊川”。羊是向东跑掉的，崆峒峡口是它的必经之地，当他们连忙赶到峡口时，发现羊在一块大石头上站立着，四处张望。他们正要捕获时，羊却猛然钻进了前面的一座大山逃了，随后在山背后的一片绿草地上停了下来，看上去极是悠闲自在。后来人们把这只山羊站过的那块巨石叫“站羊石”，至今那块石头上还留着四个深深的羊蹄印；把羊穿过的那个山洞叫“钻羊洞”。
羊在那里停了一会儿，若无其事地去吃草，看见广成子师徒三人慌慌张张追来时，便一下腾空而起，四蹄拉展又向远处奔去。他们在后面大呼小叫，穷追不舍，追呀追，到追上时，仔细一看，发现这是一只绵羊，才知道自己情急之下看错了。于是人们就把广成子他们抓住绵羊的地方叫“绵阳”。之后，他们才明白这只狡猾的山羊给他们使了障眼法，让他们追错了地方。当他们师徒三人返回来以后，经过千辛万苦，终于在一片水草肥美的地方把这只山羊逮了个正着，然后气急败坏的把它拉到一处地方去审问。你为什么要跑？为什么那么旺的熊熊大火烧了七天七夜把你还煮不熟呢？山羊说，这你不能怪我，要怪就怪罪你那两个徒弟，他们是急猴性子，不时地揭开锅盖，让蒸气露了，没有把我煮熟，时间到了，我能不逃命吗？现在你就是把我生吃了，已经太晚了。广成子又问，那天空为什么会出现云朵呢？山羊说，那不是云朵，是锅里冒出的一股股蒸气，要不信你们去看。他们正犹豫时，眨眼间山羊就变化成一股青烟消失了。
广成子看后，非常伤心，也极其无奈。怪罪徒弟么，已经没有用了，修成正果，成为济世第一大仙，已经是不可能的事，他决定不再回崆峒山修炼了。可是，他又觉得没有一个更好的去处，再三考虑之后，还是决定原回到自己近几天修行的那个白云寺洞穴中去。
数年之后，广成子吸日月之精华，采天地之灵气，经过一番潜心修炼，终于在这里修成了正果，他所在的这座山顿显灵气，整日云雾萦绕，白云朵朵升腾，气象十分壮观。后来，人们就将云雾缭绕的这座山叫白云山，将白云山建造的寺叫白云寺。而牵住羊的地方、审羊的地方和羊落下来的地方，分别叫做“千阳”、“沈阳”和“洛阳”。后来这些城市的名字，因为这个神奇的传说也就一代代流传了下来。