根据《帝京景物略》记载，凤凰岭所在的山体在金朝昌平州西南二十五里，金章宗曾到此游览镌驻跸字，人呼驻跸山。又因“西山三百七十寺”，驻跸山刻有“神山拱佑”，故又称为“神山”。
清朝乾隆后期，河北廊坊有一位得道高人魏公阳，来到凤凰岭龙泉寺，后在龙泉寺后山的仙人洞坐化，请他治好病的穷人为他捐资修庙，庙宇称老爷庙。为纪念魏老爷（魏公阳），人们把魏老爷坐化的山洞称老爷洞，他坐化的山称为老爷山。
民国二十三年（1934年）春，国民党保安司令田维村来到老爷山寻找“吉壤”，觉得老爷山属于风水宝地，买下百余亩山坡作为墓地。由于当地村民告知老爷山地属“豹窝”，故令田维村后悔，后田维村岳父梁百万把老爷山改名为凤凰岭，并书写“凤凰岭”三个大字。
民国二十四年（1935年），田维村花一百块银圆请当地石匠在老爷山山腰的石壁上凿刻三个大字：“凤凰岭”。
1996年，老爷山旅游开发为公园景区后，将老爷山正式定名为凤凰岭。
2003年，凤凰岭景区的桃源观重修，由中国道教协会副会长，河北道教协会会长黄信阳道长主持重修，原道馆于民国二十六年（1937年）被日寇焚毁。
2004年10月13日，凤凰岭景区的龙泉寺被北京市宗教局正式批准为佛教活动场所。