一、地势
县境地势为北、东、南三面稍高，西部瓦埠湖沿岸稍低。县内平均海拔高度为50米上下，北部有东西走向的舜耕山脉，周围地势偏高，主峰洞山海拔216米，为县境最高点；南部有西南～东北走向的江淮分水岭（以下简称“分水岭”）地势稍高，最高处海拔90米；东部有一南高北低的纵向岗垄，最高处海拔80米；西部瓦埠湖沿岸地势较低，平均海拔20米左右，最低处湖底高程约15米。
县境地貌起伏较大。多处岩石裸露，为典型的侵蚀平原。按组合情况主要分三部分：一为沿淮河湖滩地平原，系瓦埠湖、高塘湖及其支流沿岸的近代沉积所形成的滩地，地面起伏较小，分布于杨公区及水湖区的大部分，蔡城塘区的孔店乡，朱巷区的戴集、沛河等乡，面积约占县境的四分之一。二为淮南阶地平原，位于沿淮河湖滩地后缘，地面平岗缓坡、略有起伏，分布于水湖区南部，朱巷区东部、南部，下塘区与杨庙区大部，约占县境三分之一。三为江淮丘陵台地区（台地即岗地），位于淮南阶地平原之南，分水岭两侧，地面岗冲交错，起伏较大，分布于下塘与杨庙区南部，双墩区大部，约占县境三分之一弱。另外北部舜耕山南麓有小部分带状残丘；南部与合肥市郊区接壤地带有小部分阶地平原。
二、山丘
舜耕山东自淮南市九龙岗以东的小东山，西到淮南市望峰岗的小庙山，绵延20公里，其中段为淮南市与长丰县的天然界线。凡山峰自东向西有小东山、慕口山、龙王山（海拔141米）、小陈山、茅山、九大山、石婆山、禹王山（海拔131米）、大通山、长山（北纬32°36′，东经117°20′）、朱山、东平山、魏家山、赵家大山、西草山、小团山、东洞山、西洞山、洞山（海拔216米为最高峰，这一带山岗重叠又称五层山）、后山、刘家山、张家大山、对石山、庙山（108米）、罗山（161米）、荒草山、金家岭（109米）、馒头山、佘家山、火石山、小庙山。
舜耕山主峰洞山南侧山腰，有一很深的石洞，旧称老虎洞。清乾隆《寿州志》载：“石洞深逢，峭壁峻，梵宇称胜。”说明古代这里建有佛寺，曾香火繁盛，后毁于战火。
青峰岭江淮分水岭的一段。旧志书称“龙干”。清嘉庆《合肥县志》载：“龙干非山，以地势隆起如脊，即山脉盘结流行之处，与垄道相似，俗名龙干，亦水源所由限而分流不相通者。故载之。”青峰岭横贯县境南部，海拔最高处为90米。
土山是蜀山余脉，在县域南部土山乡境内，海拔106.8米。土山乡以此得名。山上旧有古寺，抗日战争期间被毁。