市博物馆坐落在田家庵区信宜路。始建于1958年，隶属市文化局领导，“文化大革命”时期，并入市展览馆，1970年更名为淮南展览馆文物组，1978年恢复为淮南市博物馆。馆址占地784平方米，建筑面积650平方米，其中藏品库房60平方米，陈列展览室250平方米，考古资料修复室20平方米。1985年成立市文物管理所，与博物馆合署办公。
市博物馆下设陈列部、保管部、保卫科和办公室4个部门。分别负责文物征集、考古发掘、文物保管、陈列展览、宣传保卫及行政工作。全馆共12人，其中具有高级职称的2人、中级职称的2人。