清末时期，全县各乡镇组办团练，各守其里。民国初期，县城商界曾组办商团武装，自防自卫。
【民国县政府地方武装】
▲宣城县人民自卫团民国16年(1927)11月组建，县长孙传轩兼团长，下辖1个大队、3个中队，共有团丁300余名。民国18年(1929)，改称为警备队。
▲宣城县保安队民国21年(1932)组建。本县为乙种总队，辖6个中队，计567人。次年整编为5个中队、3个特务排，计583人(其中官佐33人)，共有步枪、马枪等472支、机枪4挺。民国22年(1933)4月，改称为安徽省保安第一团。
▲宣城县壮丁队民国24年(1935)组建，计有土枪2354支、长矛4010把、大刀6182把。民国25年(1936)秋，改称壮丁训练总队，下设壮丁训练分队。次年改称为社会军事训练总队。
▲宣城县保安警察队民国26年(1937)春组建。
▲宣城县抗日人民自卫军民国26年(1937)秋组建。县设司令部，县长郭吉兴兼司令。下设常备队、后备队。
▲宣城县国民自卫总队民国28年(1939)春组建(由县抗日人民自卫军、壮丁训练总队改编)，县长胡钟吾兼总队长。下设3个常备中队，合计380余人枪。全县6个区编组6个预备队，46个乡镇各编组1个后备队。
▲宣城县国民兵团民国29年(1940)2月组建(由县国民自卫总队改编)，县长王介佛兼团长。兵团下辖一个自卫大队，4个自卫中队，每个中队辖3个分队，每分队设3个班，合计420余人枪。此外，还设有一个壮丁常备队，下辖3个分队，1个中队和1个独立分队。
▲宣城县民众自卫总队民国34年(1945)底组建(由原县国民兵团改编)，下辖4个常备中队，县长车慰文兼总队长。民国35年(1946)3月，改编原汪伪宣城县保安总队(2个大队、6个中队)设3个常备自卫大队、10个常备自卫中队。同年9月，缩编为1个大队、6个中队，大队长由县政府军事科长金敦厚兼任。民国37年(1948)秋，全县划设5个联防区署，每联防区组建两个自卫常备中队，每中队有六七十人枪。
▲宣城县自卫团民国37年(1948)底组建(由原县民众自卫总队改编)，县长马垌兼团长。下辖4个直属营和5个联防区署的10个自卫中队。民国38年(1949)4月，副团长黄汉臣率直属营余部，在本县南乡溪口子孙堂向挺进皖南的中国人民解放军第27军前卫师投诚。
【共产党领导的地方武装】
▲宣西农民赤卫队民国16年(1927)冬在西乡团山一带组建，受中共宣城独立支部领导。
▲庙埠暴动赤色先锋队民国19年(1930)秋组建，受中共宣城临委领导。军事指挥张宅中、胡兴奎、陈应笙。赤色先锋队计500余人，武器以土枪、刀矛、棍棒为主，步枪仅10余支。同年12月10日庙埠暴动失败，先锋队随之解体。
▲宣南红军游击队民国20年(1931)冬在南乡溪口一带组建，计30余人枪，司令凌霄，政委刘文龙，受中共宣城特委领导。民国21年(1932)冬，因国民党自卫团、保安队数百人围剿，被迫转移到外县。
▲新四军宣(城)当(涂)芜(湖)游击大队民国28年(1939)9月于宣北金宝圩创建游击小队，人枪不足20，队长庄景余，指导员谷传昆。同年底改称“宣当芜独立游击区警卫连”。民国29年(1940)春，扩编为新四军宣当芜游击大队，辖3个排，计100余人枪，大队长缪德胜、大队副庄景余、指导员周峰。同年9月，遭国民党军108师和当涂常备队数百人围袭，全队由金宝圩转移至当涂大官圩内板埂于村，后被打散。
▲宣当警卫团民国32年(1943)底，宣(城)当(涂)办事处成立后，组建了抗日武装——宣当自卫大队，大队长陶家才，副政委徐德建。民国33年(1944)春，宣当自卫大队扩编为宣当抗日自卫总队，总队长由办事处主任朱昌鲁兼任，总队副甘士杰、政委方休。下辖5个区大队，其中宣城境内有4个区大队(即金宝圩、新丰、横涧、昆山)，每区大队有100余人枪。民国34年(1945)8月，宣当自卫总队改称宣当警卫团，团长朱昌鲁、政委彭炎、副政委兼政治部主任徐德建，全团700余人枪，同年10月，奉命撤至苏北整编。
▲宣城游击大队民国31年(1942)夏，经中共宣城县委决定，由县委委员向阳(原名张禾)负责，在宣东组建一支游击队。1943年冬，经县委批准，扩编为宣城游击大队，大队长段广高，大队副向阳，陈洪、彭海涛任正、副政委。时全队共30余人枪，分设3个区队(即南山区、沈村区、西进区)。1945年春，全大队发展到近500余人枪。同年10月，全队奉命开赴江苏淮阴与新四军第七师会师整编。
▲宣南武工队民国32年(1943)7月，中共皖南山地中心县委派吕辉率5名武工人员来宣南溪口、华阳一带恢复革命活动建立武装组织。1944年2月在章家湾、塔泉一带组成游击小队，民国36年(1947)10月，改称宣南武工队，下设两个班，计20余人枪，由张克标、汪芳荣、汪振发负责。1948年3月，改称泾(县)旌(德)宁(国)宣(城)县独立大队第2连，连长汪振发，指导员李桂英。1949年4月22日，汪振发率部收缴了港口、水东一带国民党溃兵近500支长枪。26日全连随中共旌宁宣县委进入宣城县城，配合华东野战军某部接管县城。
▲宣(城)郎(溪)独立游击中队民国37年(1948)10月，原宣城游击大队队员方全胜、张启龙在宣东重新组建了一支武装，在宣城孙埠、水东一带开展活动。1947年春，中共郎广工委派彭海涛等人到宣东与方全胜取得联系，并确认方全胜领导的武装为宣城武工队，队长方全胜，副队长张启龙。同年底，改称为宣郎独立游击中队，中队长方全胜，队员发展到近70人，属中共郎溪县工委领导。1949年4月下旬宣城解放，游击中队一部分队员编入中国人民解放军并随之南进。
▲宣城暂编第三游击大队民国37年(1948)6月，经中共宣当芜工委决定，在宣城沈村一带建立了以凌伟堂等7人为骨干的沈村游击小组。9月改称宣城暂编游击第三大队(30余人)，大队长徐振亚(化名徐雷)。到1949年春，发展到300余人枪，下设3个中队。工委派季海波任副队长，陈厚英任指导员。解放后，编入当涂县大队。
▲宣城县大队民国38年(1949)5月27日成立。以宣南游击队为基础，扩编为3个直属连，大队部设城内济川桥东，大队长孙朝庭、副大队长唐俊、政委由县委书记马祥兼任。军事上接受皖南军区领导。县大队领辖16个区中队，每个区队为10人枪左右，全大队合计干部、战士390余人枪。统一实行供给制，经费由县财政支出。其主要任务是：肃清匪特、维护秩序、保卫新生政权。1950年2月31日，宣城县大队奉令编入中国人民解放军序列，改称中国人民解放军宣城军分区独立第1营。营长项彩云、政委仍由马祥兼任，副营长唐俊、副政委凤岐山。
▲宣城县武警中队民国38年(1949)4月下旬成立，时名宣城县公安队，以原宣南游击队成员为骨干，计有30余人枪。队部驻北门东头湾。全县各区均设有区小队，由县公安局指挥。队员实行薪金制，经费由县财政支出。1966年划归县人武部领导，实行义务兵役制。1975年12月复归县公安局领导。1983年12月，改称宣城县武警中队，受宣城地区武警支队和宣城县公安局双重领导，由县公安局指挥。全队干警计30余名。主要任务是：担负看押和协助公安部门执行处决、追捕、解送徒犯以及治安巡逻等。