西汉，谯县设材官领兵。东汉，豫州刺史治谯。东晋，祖逖设镇于谯城。北魏置都督府，北周改为总管府。隋置都尉、副都尉领兵。唐复置总管府、都督府，又置滑亳节度使、宣武军节度使，亳州节度散兵马使、游奕都知兵马使。五代后梁置宣武军、防御州，后唐改防御州为团练州，后晋复改为防御州。北宋，升亳州为集庆军节度，设都统制、副都统制领兵。金，建节镇于亳，设亳州防御节使治谯。元置万户，明设武平卫，指挥官并不下5000余人，兵丁有万人。清康熙十八年（1679），撤武平卫，置亳州专营。雍正九年（1731），改设都司，属狼山镇统辖。乾隆二年（1737)，改属寿春镇。
民国时期，亳县无正式军事建制，先后驻有毅军、安武军、国民革命军、新四军等。
中华人民共和国成立后，1951年2月设亳县人民武装部，属中国人民解放军建制。1954年9月，以人武部为基础成立县兵役局。1959年11月，复改人武部。1986年6月，由中国人民解放军阜阳军分区移交亳州市人民政府管辖，不再属于部队编制。