一、国民政府地方武装
民国初年，区内无为、巢县、庐江等县办“商团”、“民团”。
民国17年，区内各县成立了自卫团或自卫总队。
民国19年后，为“绥靖”地方治安，县自卫团改称保安队。
抗日战争爆发后，各县成立人民抗日自卫军或自卫总队、自卫队，后扩大为国民兵团，直至抗战结束。解放战争时期，县国民兵团改为县自卫大队，不久，复称国民兵团。
二、人民地方武装
民国19年(1930)6月，中共桐城县委及庐江区委为举行庐江罗家嘴农民暴动，成立中国工农红军独立团，陈雪吾任团长，章逐明任政委。暴动失败后部队散失。同年11月，中共无为县委为发动六洲农民暴动，成立中国工农红军皖南第三游击纵队，辖3个中队。暴动失败后部队散失。
民国21年2月，中共党员沈其德组建红四方面军庐(江)北地方抗日游击队。其后，庐南、庐北还先后组建4支红军游击队。
民国27年5月，冯文华、张恺帆在巢县烔炀河组建巢县民众抗日游击队，6月更名为黄山抗日游击队。8月，马忍言、舒政海等组建巢南抗日游击大队。
民国28年冬，在中共舒无地委、新四军江北游击纵队的领导下，改造巢南封建迷信组织“大刀会”获得成功，次年2月将其部分武装，改组为巢南独立团。6月，编入新四军江北游击纵队。
民国29年6月，中共巢湖地委组建巢湖独立营，辖3个连队。同年8月，中共含和中心县委组建含和独立连。新四军第三支队五团三营到达庐江后，与桐庐独立大队编为桐庐独立团，不久，编入新四军第三支队挺进团。
民国30年5月，无为县抗日民主政府组建无为县人民抗日自卫军总队。11月，第七师在含山成立和含指挥部。
民国31年4月，在无为成立巢无独立团。秋，巢湖独立营扩编为团。
民国32年2月，无为县及临江行政办事处(县级)成立人民抗日自卫军总队，湖东行政办事处成立子弟兵团，中共巢无县委成立巢南大队。
民国34年9月第七师北撤后，中共桐庐工委书记刘健民、庐巢工委书记张家英等在庐北组建一支游击队，活动在庐北、庐西南及巢县槐林嘴、高林桥等地。
民国35年，中共党员黄大荣在庐(江)南建立一支游击队。
民国36年7月，成立巢无游击大队，属中共巢无工委领导。10月华东局国区部派唐晓光等在巢县大祝村成立和含工委及和含支队。次年2月，巢无游击大队分编为临江游击大队及巢无独立大队，成立无南游击大队。6月，和县、含山县游击队合编为含和独立连。10月，成立湖西基干团、桐庐基干团，年底上述2个团合编为湖西独立团，随人民解放军南下。
民国38年春，本区全境解放，各县均成立了县大队。