一、地方武装
警备队(警备营)民国5年，县公署成立警备队，管带由县知事兼任，下辖6个分队，即左、中、右、前、后5队和1个马队。民国13年7月，警备队改编为警备营，王传禄任营长。10月，王卸职．由杨松山任营长，全营约300多人。民国16年，警备营被改编为国民革命军第三十三军第一师第一旅第三团，以杨松山为团长，参加北伐。县政府又重新募兵，组建警备营，蒋树屏任营长，全营400人左右。民国17年7月，蒋树屏免职，朱灿光为警备营营长。民国20年12月，警备营被缴械遣散。县政府再次募兵，重建警备营，以王在田为营长，继以苗观涛为营长，全营约400人。
人民自卫团(保卫队)民国18年，警备营改为人民自卫团，张季权为团总，全团约400多人。民国19年5月，人民自卫团改编为保卫总团，杨莲池为总团长，杨松山为总团副，下设4个分团队和1个游击队。第一队队长刘秀山，第二队队长杨松山，第三队队长朱孟弓，第四队队长权礼廷，游击队队长杨润田。
民国21年10月，县政府于上年募兵重建的警备营改编为保安总队，总队长由县长兼任，下设两个大队，9个分队1个独立排，共约600人左右。第一大队长龚光照，第二大队长张布泉。不久，保安总队改编为省保安第七团，团长庄则恭，下设3个营。民国22年12月，保安第七团改编为保安警察总队，张布泉任总队长，下设两个团和1个特务排，各团下设4个保安中队和1个特务队，共有875人。民国25年，保安警察总队改编为省保安第五团，官兵1528名。民国36年9月1日，本县4个保安中队被中国人民解放军击溃。县政府又组建两个自卫团，每团700人左右，第一团团长由县长李寿林兼任，第二团团长张布泉于民国38年1月24日率部起义。
赤卫军民国16年春，本县苏区农协会组建小型地方武装——别动队(又称模瓜队)。民国18年11月，独山起义后，区、乡苏维埃政府有一支2300余人的赤卫队，在独山、郝集、南岳庙、麻埠、七邻湾、徐集、许家庙、陶家河一带开展活动。民国20年，县苏维埃政府组建了赤卫军司令部，毛正初任赤卫军司令，驻防独山镇，下设4个团、13个营、3100余人；六区(金家寨)成立独立团，直属鄂豫皖军委会领导。赤卫军分常备队和预备队两种。常备队脱离生产；预备队聚则为兵，散则为民。到民国22年，县赤卫军400人以上单独对敌作战20多次，配合红军作战28次，参加战斗的共35514人次，转战本县11个区、108个乡、镇。
游击队民国18年11月9日，建立三区游击队；12月25日建立河西(四区)红军游击大队，六区(金家寨)红军游击大队和东特支游击队。民国20年2月，建立六安县游击师；民国21年红四方面军主力撤离后，建立三区(龙门冲)游击队、洪家大山战斗营等游击武装。民国22年1月，建立三路游击师等，在本县苏区打击反动武装。民国27年8月，日军入侵本县，县抗日民众总动员委员会，在张家店组建抗日武装——第八大队和新四军四支队第一游击队。年冬，在朱贝塘一带一次击毙日军20多人。民国36年，中共寿(县)六(安)合(肥)霍(邱)工作委员会领导的一支游击队，经常活动在本县马集、东桥集、木厂铺、潘店子、太平集、马头集、顺河集、郭店子、杨柳店、钱家集等地。民国37年，游击队又在东河口、毛坦厂等地打垮国民党驻防毛坦厂镇的地方武装。
县公安中队建国初，成立六安县公安中队。1966年6月1日，改编为中国人民解放军六安县中队，由县人民武装部管辖。1975年12月，县中队又划归武装警察部队。
二、民兵
组织1949年2月，本县全境解放。区、乡先后建立人民武装部和民兵基层组织。至1952年12月，全县已建民兵中队299个，民兵小队710个，有民兵23136人，其中基干民兵1447人。
1953年实行普遍民兵制。1957年开始进行预备役登记工作，民兵和预备役合组，30岁以下复员退伍军人服一类预备役，编入基干民兵组织。1958年6月，全县共有民兵137436人，其中基干民兵58776人，共编62个分队、330个中队、1022个小队、4884个班。同年9月29日，毛泽东主席发出“全民皆兵”、“大办民兵师”的指示。随着人民公社的建立，民兵组织通过整顿，全县共有民兵379200人，其中女民兵153201人，县设民兵师，下辖33个民兵团、349个民兵营、1983个民兵连、10027个民兵排、23761个民兵班，其中基干民兵排4363个，基干民兵99310人。
1961年，全县区、社体制进行了调整，12个区、9个公社(镇)均成立了人民武装部，配备专职武装干部。民兵组织进行了整组，把16岁至45岁的男性公民、16岁至35岁的女性公民编入民兵组织；16岁至30岁的男性公民、16岁至25岁的女性公民编入基干民兵组织。并以公社为单位建立民兵团，生产大队建立民兵营，生产队建立民兵连(排)，县直以部委办为单位建立民兵营，科局建立民兵连，工厂、公司建立民兵排。全县共有民兵320250人，基干民兵150430人。次年6月，毛泽东主席发出“民兵工作”要做到“三落实”(组织落实、政治落实、军事落实)的指示，本县每逢冬、春季节对民兵组织整顿。通过整顿，健全组织，落实制度，开展群众性的民兵活动。
1969年，实行武装基干民兵分编。公社(镇)、工厂建立基干武装民兵连，专职武装部长兼任连长，党委书记兼任指导员；大队建排，民兵营长兼任排长。到1975年全县共有民兵396310人，其中武装基干民兵11030人，县设武装基干民兵团1个，下辖97个武装民兵基干连。
1975年后，加强了民兵专业分队建设，先后建立了通讯连、侦察连、八二迫击炮连、高射炮连、高射机枪连，并配发了武器。1978年10月，根据民兵工作条例规定，民兵组织进行整顿，继续扩大武装民兵。多数公社、大队武装民兵占民兵总数70％，每一挺机枪，配备3名持枪人员，高炮、高机、地炮都配备了两套人员。1980年，压低民兵年龄，简化组织层次，基干民兵为男性18岁至28岁，女性18岁至23岁、通过全面整顿后，全县共有民兵209450人，共编基干民兵连86个、基干民兵排794个、基干民兵班2245个。1981年，恢复了复员、退伍军人预备役登记工作，将符合服一类预备役的28岁以下复员、退伍军人1966人，编入基干民兵组织，29岁至35岁的复员、退伍军人8570人编入普通民兵组织。
1986年，全县共有民兵营805个，基干民兵连91个，基干民兵排705个，基干民兵班13623个，内有复员、退伍军人1696人，专业技术民兵2156人。民兵中具有高中文化程度的1391人，初中文化程度的9694人，小学文化程度的2483人。
活动本县民兵正常活动，一般每月不少于一次，并利用“八一”“十一”“元旦”“春节”等节日和纪念日，对基干民兵进行集中教育。1964年全县共培训民兵政治教员2173人，其中区级干部43人，公社级干部327人，大队干部1760人；民兵集中上课1399次，受教育民兵158855人次，其中武装基干民兵13355人次，基干民兵66476人次，普通民兵74258人次。
在民兵组织中开展评选“民兵工作三落实”先进单位和先进个人活动。1979年，全县共评出先进武装基干连22个，民兵营88个、民兵排681个、民兵班899个、先进民兵8316人。1984年全县共评出先进基干民兵连24个、先进兵器室37个、先进专职武装部长27人、兵器室优秀保管员20人。
民兵组织绐终坚持劳武结合的原则，每年都要安排军训一次。1957年以前，每年安排5至7天，培训对象是民兵干部和基干民兵，内容是民兵基础知识。1958年全县共培训基干民兵87556人，普通民兵160543人。1964年，在民兵中开展大比武活动。共培训基干民兵15213人，培训地炮、防化卫生、军械技术兵638人。1969年民兵培训内容有射击、投弹、刺杀、地雷爆破、打坦克、打空降、打飞机、防原子、防化学、防细菌等。培训对象是民兵排以上干部，武装基干民兵和各类专业技术分队。时间是15至20天。1977年县人武部集中培训民兵军事教员135人，打坦克骨干45人，通讯、无线电骨干45人，六○炮骨干21人，四○火箭筒骨干9人，司号员40人，高机、高炮、八二炮骨干210人；还分点培训民兵营长938人，司号员57人；以大队培训基干民兵62730人。1979年全县共有民兵11026人，参加步枪实弹射击4140人。参加手榴弹投掷实习；还抽高炮、高机分队108人，参加省军区在巢湖靶场实弹射击。
民兵配合解放军和公安部门在剿匪、镇压反革命、打击各种刑事犯罪活动中起了重要作用。1949年，毛坦厂区组织6个民兵分队共300多人，配合解放军进行剿匪、1957年4月，舒城县柏林乡反动会道门暴乱，本县双河、毛坦厂两区组织民兵425人参加平息叛乱，逮捕了暴乱的首恶分子。