解放前，道教、佛教、伊斯兰教，在本县较盛行，信教者甚多。天主教、基督教同全国一样，在鸦片战争后传入，信教者较少。解放后宗教一度被混同于迷信，活动基本停止。1978年，县革委设民族宗教事务科，落实宗教政策，归还了宗教界的部分房产，定期补助部分教徒生活费用，宗教活动逐渐恢复。
一道教
道教传入本县时间无考。
（一）教徒本县道教多属正派，全真派极少。民间习惯，道教徒出家的叫道人或老道，不出家的叫道士或俗家道士、火居道士。道士可结婚，吃肉食，多从事画符咒、斋醮、驱鬼降妖、祈福禳灾等迷信活动。本县出家道士极少，不出家的道士较多。解放后多改行，近年又有人暗地重燥旧业。
（二）道观以城南南岳山上的南岳庙为最著名。城北北镇庙，城东月魄山庙均毁。
南岳庙：清以前叫“南岳神祠”、“南岳祠”，位于海拔405米，城南约3公里的南岳山顶。（总面积约1815平方米），南岳山，又名天柱山，衡山、霍山。据《洞天记》记述，黄帝封五岳以湖南衡山偏远，故以霍山为南岳之副，舜南巡到南岳即指此山。《史记，武帝记》记述；“五年冬南巡狩至于盛唐，望把虞舜于九嶷，登灊天柱山（号曰南岳）”。故庙西山门楼上方有石刻横匾“汉帝敕封”四字。现存前大殿、后大殿、三官殿、观音殿等（砖木结构瓦房共16间）。前殿民国32年翻修，后殿和三官殿分别于27年和37年重修，观音殿是俞氏宗族于13年捐款重建。登山顶有“百步阶”（台阶120余级），东百米许有旗杆石一对，阶下右侧有大小风洞。上百步阶进东门，门楼宽5米，高6米，翘角飞檐，气势雄伟。进山门右侧有一水池名“天池”，水质佳美，常年不干。正殿正门上方嵌书法大师于右任手书“小南岳”三字的石刻匾。庙内5尊大菩萨，数尊小菩萨和观音、二祖等泥塑，均毁于“文化大革命”中。后山腰左慈隐居的石窗洞、焦状元读书楼和庙内原存的唐碑、元碑及明朗进士吴兰撰写碑文的石碑等均毁，惟明万历十年（公元1582年），乾隆二十六年（公元1762年），嘉庆二十四年（公元1819年），道光十八年（公元1838年），光绪八年（公元1882年）和民国13年（1924年）、34年（1945年）间重修庙宇捐款碑尚存。解放前，常有百里之外的香客来庙进香。解放后，香客几乎绝迹。1980年开始，又有少数香客来烧香拜佛。
二佛教
佛教传入时间无考，传入本县的是佛教大乘教。明代县衙设佛正司，清代县衙设僧官，民国期间有佛教分会，对佛教进行管理。
（一）教徒民国17年（1928年）有僧众48户178人（其中女2人）。31年，中国佛教会安徽省霍山县分会成立，会员有沈利川、吕佛眠、释实辉等100人（商界18人、政界16人、学界12人、军、医、农界各1人、释氏51人）。
（二）庙庵清顺治十七年（公元1660年），全县著名寺庙有50处，光绪三十一年仅存34处。民国19年，六霍暴动，苏维埃政权建立后，佛像大部被毁。红军长征后，各地庙宇陆续重修。重修的庙庵有20处；挂龙尖白云庵、落儿岭伏虎庵、流波重庆庵、东西溪依云庵、大冲庙寄云庵、李陵山西庐寺、李凹湾感应寺、舒家庙永兴庵、深沟铺永兴庵、太阳畈乐道庵、梁家滩九龙寺、观音冲观音崖、管家渡广庆庵、文殊院、复览山龙泉寺、小七贩西峰寺、西石门护国寨、扫帚河佛心庵、城郊回龙寺、印月庵。三五里一处的农村孤庵野寺无法统计。解放后庙庵多作学校、仓库，也有失修倒塌的。1955年，县委统战部对各区大小庙宇调查统计，全县尚存庙庵62处，共有和尚28人、尼姑14人。1958年调查，仅存庙庵各1处，和尚4人、尼姑4人。1978年后，政府拨款维修了几处庙宇。
白云庵（又名卿云庵）位于诸佛庵和大化坪两区之间，海拔847.4米的挂龙尖上。庵址占地约900平方米，传说始建于唐。现存木石结构，墙用片石砌成的瓦房16间和东西、北3个门楼。庵内有一约200平方米的院子。庵东北角有像同根生的银杏4株，高插云霄。庵西南角有一石叫龙角，上长一松似迎客松。庵北角有一水井，叫龙眼，水质佳美，终年不干。庵东门门框上刻“万里晴空红日近，一庵高踞白云深”，横楣“烟霞清静，水月空灵”。门楼下有石阶数十级，如云梯。西门楼门框刻“慈云深护龙听偈，法院时来虎应门”，横楣“花飞静界，金饰祗园”。前殿正门（南门）上方嵌“白云庵”3个大字，门框刻“千仞雾峰藏古寺，三乘妙法济寰区”，横楣“法轮常回，佛日增辉”。门框是条石制成，平滑光鉴，古朴典雅。殿内三尊大佛和其它菩萨数十尊，均毁于“文化大革命”中。相传明、清兴盛时期，每年旧历十月二十三日是庙会，远近来此进香的万人以上。近年仍有少数香客来烧香拜佛。现仅有和尚1人。
广庆庵位于汪家冲乡。明末和尚若相（常州人）和徒含润（合肥人，都是当时显宦）创建。曾焚毁，后由住持僧葆敦修复。有佛殿、僧舍99间，是僧尼剃度求戒圣地。庵前有林带长约1里，古木参天，绿荫蔽日。大门的青石门框上刻有常洲顾亭林手书的“道性参天灵石辟，松风遥接冷泉亭”对联。大门内两边有泥塑四大金刚坐像，屏风背面有金身弥勒佛一尊，过天井是大雄宝殿，供金身佛像三尊。屋角有子午钟，撞击时声传数里外。后殿有身高1.34米，形态各异的十八罗汉和佛像数十尊，是明塑中的杰作。第一进右侧依次是退寮方丈室（大和尚退休颐养处），法堂（讲经说法处）。左侧藏经楼，雕梁画栋，翘角飞檐，内藏经文、法器、供器等，是广大中兴法师梦贤于民国36年主持，本县木工戴克清领班建造。佛子岭水库建成蓄水后淹没。
三伊斯兰教
伊斯兰教，本县叫回教。传入时间无考。回教是代代相传，新入教的罕见。民国11年（1922年）由教友集资在县城小南门外建清真寺，有礼拜堂3间、水房2间。15年，天津教徒，郑兴德茶庄老板来本县买茶，出资扩建后，清真寺才初具规模。后因年久失修，荡然无存。当时有梅阿訇（寿县人）、法阿訇（霍邱县姚李人）主持教务。19年，从舒城请李联芳阿訇（河南开封人）来县主持教务。21年，李回开封，由马正东阿訇接任年余，因马年老，又请回李联芳主持教务到37年。1953年后，教务活动基本停止。现为马兰荣主持教务。28年，城关有教徒15家72人，毛坦厂、山王河的教徒也归霍山教区管辖，约百余人。1955年，县委统战部统计，教徒有128人，现有教徒仅20余人。1966年后，部分青年回民已不讲口忌，并和汉族通婚。老年人仍讲口忌，死后仍用棺罩落葬。解放前，在县西俞家畈有“义地”1处。民族宗教事务科成立后在霍山中学北镇庙实验农场划一山场，作回民义地。
四天主教
天主教大约在十九世纪六七十年代传入本县。解放前，安徽分蚌埠、安庆、芜湖3个教区。本县教堂属安庆教区六安总本堂辖的一个县本堂。传教初期，神甫不定期到各分教堂（又叫行堂、公所、客堂）讲解圣经和举行弥撒。
（一）教堂清同治五年（公元1866年），法国传教士金式玉从上海到鄂皖边界的英、霍、六3县勘察建堂地址，后由教徒李秋、林福恒在深沟铺（现古佛堂）建简易教堂1所。光绪七年（公元1881年），六安总司铎荣云锦和沈熏良来县接洽，买南门内曹姓宅基建分教堂。八年，在燕子河（今属金寨县）建楼房本堂（辖5个分堂）。二十五年，修女沈某、龚某（都是中国人）买城内分堂对面汤、俞、梅、黄4姓地皮，由工程师（西班牙人）和上海建筑工人承建法国天主堂（本堂，设计和工艺相当讲究，解放后改建，先为县卫生院，后为县政府招待所），民国3年，白朗军进城烧掉，后盖简易瓦房8间作为临时“圣堂”。本堂下辖城西分堂、管驾渡分堂（光绪二十六年建），诸佛庵分堂（光绪二十七年建）、太子庙分堂（光绪二十八年建）。本堂侧的女堂（光绪二十三年建），专收女教徒。修女先后有上海人沈、郭、曹3人。深沟铺分堂，光绪八年，简易教堂改建，附设义学，光绪二十六年又扩建5间为女堂。千箩畈分堂（今属金寨县，光绪九年建，附设义学）。黄栗杪分堂，光绪二十六年建。漫水河分堂，光绪二十六年建。烂泥坳、迎驾厂也先后建了教堂，到光绪末年，小型教堂已有10余处。
（二）传教士（又叫神甫或司铎）沈熏良（光绪七年）、戴尔第（光绪八年）、荣云锦（光绪九年）、鄂劳（光绪十四年）、谈师泰（光绪二十一年）、牧良、石资训（光绪二十二年）、庞树明（光绪二十三年）、盖赖襄（光绪二十五年）都是法国人。民国13年后。是家第禄和陶立咬。19年后，先后是易、狄、蔡3人和都光中、王通如、麻磊、满嘉禄（都是西牙人）。满嘉禄民国34年在霍山城关教堂内办上智小学和以眼科为主的小门诊。35年后，先后是丁惠如、孔乙志（都是哥伦比亚人，孔在解放初被驱逐出境）。
（三）教徒和活动光绪二十六年前是最盛时期，本县有教友496人，保守教友（未正式入教）1751人。光绪三十——三十二年，发生张正金教案，天主教受到很大冲击。土地革命时期，天主教的活动和发展受到限制。抗日战争爆发后，恢复活动。解放后，有的教徒改变了原来信仰，经商、务农或参加机关、学校工作。1950年，全国发起“天主教三自（自治、自养、自传）革新运动”，中共霍山县委派教徒曾庆皋、张寿出面组织，但影响不大。1955年统计，有教徒61人。1979年，政府改正天主教徒和神职人员中的冤假错案。1985年，落实他们的房产权，教产在北镇庙旧址（霍山中学农场）附近。信教人至今仍寥寥无几。
五基督教
基督教传教场所叫“福音堂”。城关福音堂（今团结农具厂西隔壁），建于民国24年（1935年），有屋12间，附设门诊。迎驾厂福音堂有屋6间，解放初拆除。两处均由陈开扬牧师（本县迎驾厂人）创办。陈平时经商，只在星期天传教。陈死后，由陈的儿子陈爱三接替，当时还有美籍华人范、刘、解3执事。解放后停止活动，1955年，县委统战部调查，有教徒39人，牧师1人。