秦、汉宿地无镇防，以沛郡都尉治蕲。
隋代因汴水通航，宿地当漕运要道，因而驻军于甬桥镇。
唐天宝中属河南采访使。至德后改采访使为观察徐、泗等州都团练观察使。贞元年间设徐、泗、濠节度使，后改名武宁军，又改名感化军。宪宗元和四年（809）建宿州后，改属淮西节度使。咸通年间属徐州观察使。
五代置宿州团练使，镇苻离。
宋建隆年间升宿州团练使为防御使。开宝年间建保靖军节度使，镇苻离。
元至元年间，置宿州义兵万户府。中统年间置统军司。
明洪武年间置宿州千户所，后改为宿州卫。正德年间设淮徐兵备道，分兵驻宿州。崇祯年间于宿州建中军守备署。
清顺治年间设守备驻宿州。乾隆年间改寿春游击为都司，移驻宿州。道光年间，改设宿州营游击。
民国时宿县设有保安司令部，属安徽省保安处领辖。除驻有部分国民党正规军外，并有地方武装，称县保安队或县自卫队。
抗日战争时期，中国共产党领导下的宿县人民抗日武装力量逐渐发展壮大。宿县国民政府设军事科（另设兵团部）。宿城内有日本警备队和宪兵队，并有伪保安总队部和警察局。东关崔园建有日本兵营，俗称“小东京”，是日本常驻军基地。
解放后，原宿东县总队管辖宿城，该总队兼宿城警备司令部，后成立宿县总队，不久县总队改为县大队。1950年县成立人民武装部。1954年县人民武装部改称兵役局。1960年恢复县人民武装部。1967年县人武部派出部分人员，与当时驻宿6408部队干部，组成“宿县军事管制委员会”，介入“三支两军”工作。1968年宿县革命委员会成立，县人民武装部派人参加。1977年8月县人民武装部进行整编，1982年县人民武装部再次精简、整编。