元朝，本县白塔镇(今半塔镇)设有巡检司。设巡检1名、兵士若干名，负责巡查盱眙、天长、来安、六合交界地区，保护商旅往来。
明朝，来安县城设有民壮和乡兵。
清朝顺治年间，本县设百总1名。雍正年间，裁百总改设外委把总1名，设马兵、步兵若干名。此期，县城也设有民壮。清末，县境设有铺司，有铺司兵23名。
此后，本县各类地方武装分载如下：
共产党地方武装
民国28年(1939年8月)新四军第五支队东进来安后，先后收编组建了3支游击大队。这3支游击大队是：
来安第一游击大队。民国28年(1939年)，由叶品三组织的游击队改编而成。委任叶品三为大队长，夏云廷(夏云飞)为副大队长，程启文为教导员。活动于来安、六合县境，部队发展到300余人。次年3月，改编为五支队特务营。
来安第二游击大队。由清水庵的一支游击队和爱国青年余一成在复兴集组织的游击队及其他几支游击队合编组成。民国28年(1939年)10月底，五支队正式任命夏云廷为大队长，余一成为副大队长，王凤歧为教导员，全队近300人。次年春，改编为五支队八团二营。
来安第三游击大队。民国28年(1939年)底，由收编水口镇的王守奎游击队百余人组成。王守奎为大队长，胡炜为教导员，后改编为来安独立营的一个连。
民国29年(1940年)，由特务营的2个连和第三游击大队改编后的十个连，合编组成来安独立营。营长夏云廷，教导员胡炜，直属五支队，担任来安城防。不久，1个连调回特务营，留下2个连在县西南一带活动。
民国29年(1940年)2月，五支队派田兰田带部队到来安组建来安县抗日自卫军司令部，不久解散。
民国29年(1940年)底，来安独立营撤销。其中第二连调回特务营，由第三连和天长调来的一个连以及部分地方武装合编为来安模范营，共300余人。营长田贤成，教导员陈明忠。
民国31年(1942年)，模范营第一连随纪立纲开赴江浦县，成立来江独立团，纪立纲任团长，田贤成任参谋长。次年2月，独立团撤销，第一连复归模范营。
民国32年(1943年)2月，来安、六合两县政府合并成立来六办事处。以路东分区独立三团为基础，加上来安、六合2个模范营组成来六支队，辖7个连，共1200余人。办事处主任江靖宇任司令兼政委，朱国华任副司令，谢曙光任副政委，田贤成任参谋长。
民国33年(1944年)10月，来六支队改为来安支队。司令程启文，政委谢曙光。次年8月，来安支队改编为淮南独立旅第五团，唐元田任参谋长，仍驻来安县境。同时，中共来安县委抽调各区队重建来安支队，辖2个营。9月，来安支队2个营编入独立旅第五团。从嘉山调一个连编为来安支队，约120余人，高英任副司令，直至北撤。
抗日战争期间，来安县委、县政府设有武装委员会、军事科及自卫总队。
民国38年(1949年)1月来安全境解放，建立了来安县大队，共有3个中队，300余人。余道全任大队长，县委书记李唯知兼任政委。1951年5月，缩编为县中队。1975年11月改编为武警中队。
1950年，中国人民解放军来安县人民武装部成立，负责兵役和民兵预备役训练工作，直属滁县军分区领导。1954年至1959年，县人武部增设兵役局，部长兼任局长。从1954年开始，历任县委书记均兼任县人民武装部(兵役局)第一政治委员。1950年至1985年，县人民武装部历任领导人如下表：

国民党地方武装
民国3年(1914年)，本县设地方警备队，置队长1名，士兵若干名。民国元年(1912年)至15年(1926年)，县城设有团防总局。局董由县知事兼任。各乡镇设有分局，团丁募本地人充任，经费自筹。
民国16年(1927年)，团防总局改为人民自卫团。县长兼任总团长，总团部成立特务排，自卫区设区队部，各区队都有队丁一二十名或三五十名不等。之后，省令改自卫团为保卫团，各区队部改为保卫团后各队区团部。县设保卫团常备队，枪弹分区摊筹。民国20年(1931年)，县有常备队队员150名，警备队队员40名，各乡自卫民团共1400名，快枪855支，土枪600支。民国21年(1932年)，保卫团改名为县保安队，由县集中编制训练并直接指挥调遣，经费由县财务委员会统收统支。自此，地方武装统一于县，各区则设有壮丁队。
民国22年(1933年)下半年，县保安大队成立，下辖两个中队、一个特务排。保安大队有官佐17名，士兵180名，枪202支，子弹2659发。县城有警察13名，枪8支。地方自卫则有壮丁队十个总队，5个区队，46个中队，121个小队；共有壮丁17925名，实有步枪1708支、马枪181支、手枪353支、土枪1445支、土炮60架、长矛706杆、大刀771把。
民国24年(1935年)1月，县保安队由县第五专区军区保安司令部管辖，全椒、嘉山、天长、滁县、来安五县保安队合编为保安十二团，下辖2个大队。第一大队大队长吴曙光，大队副张洛英。大队部驻来安，民国24年(1935年)以后，县下属各区由保抽调壮丁十名，在区署(公所)内成立壮丁巡察分队，各保出资2元，以充训练费。民国27年(1938年)，国民政府县长王毓英收编一部分抗日游击队，加上自己带来的一个中队，重建来安县自卫常备大队，下设3个连：一、二连分驻城南、城北，三连驻城内。与此同时，成立来安抗日游击司令部。司令周少藩。民国28年(1939年)奉令改为“国民兵自卫队”，县长兼总队长。民国29年(1940年)改为国民兵团。
民国35年(1946年)6月，国民党进占来安后，成立来安县保安大队，下辖3个中队，300余人。8月，派一个中队驻古城。民国37年(1948年)10月，县保安队划归省保安五旅十五团建制。次年4月调离。
民国36年(1947年)，县国民政府建立来安县民众自卫队，总部设在县城，乡有大队(又叫联防大队)，保有中队。
此外，抗日战争初期，国民政府军队节节败退，来安形成真空地带，地主、帮会、土匪、流氓乘乱拉帮结伍，自称“抗日游击队”。据不完全统计，来安县境有10多个中队，其中屯仓、舜山一带的周少藩、常乐山、蔡吉三、梁竹荪等拉起的队伍人数较多。
日伪地方武装
民国29年(1940年)4月，汉奸侯堂生任来安伪县长，成立了反共自卫团(又称自卫大队)，自任总团长，副总团长徐本一，下辖四个区团：第一区团有3个中队，1个特务中队，共有140余人，分驻来安城内外；第二区团有3个中队，140余人，分驻水口、板桥、汊河、相官一带；第三区团2个中队，共60余人，分驻伪三区区署及县城新庄；第四区团2个中队，共有30余人，分驻县城外杜圩子及黄泥岗。