宝山寺原名梵王宫（玉皇宫），始建于明朝正德六年（公元1511年），距今已有500年的历史。清朝乾隆二十七年曾经重修，此后岁月更替，寺院迭经兴废。十一届三中全会之后，政府落实宗教政策，于1988年开始恢复道场。所惜当时因缘条件不足，未能从容总体规划，终存诸多缺憾。
进入新世纪，随着罗店老镇改造的启动，宝山寺也纳入改造规划之中。在区政府、镇政府的大力支持下，2005年5月宝山寺移地重建工程正式奠基。新的寺院历经五年的建设，现已基本完工。新寺院采用传统伽蓝纵轴式布局，为晚唐宫殿式建筑风格，以非洲红花梨纯木榫卯构造，结构严谨，古朴大方。寺院总建筑面积约12,000平方米，规模居沪上佛教寺院之首。其中宗教核心区占地20亩，建筑有天王殿、钟楼、鼓楼、大雄宝殿、观音殿、药师殿、伽蓝殿、祖堂、佛堂、藏经楼、法堂、方丈室、斋堂、僧寮等；山门、广场用地16亩，建筑有山门、东西侧门、连廊（总长471米）等。另外还将规划建设占地30亩的配套园林，其中有塔、阁、楼、台、水榭、水池、牌楼等，建筑同样采用非洲红花梨纯木结构。