一、组织建设
民国29年，在中国共产党领导的凤阳县抗日民主根据地内，各乡、村普遍成立青年队(即民兵)，他们站岗放哨，递送情报，配合主力部队作战，保卫家乡。到民国34年抗战胜利时，全县民兵已发展到8084人，其中基干民兵4035人。解放战争期间，中国共产党地方组织北撤后，民兵组织遭破坏。民国37年，解放军打回路西解放区后，民兵组织有所恢复。民国38年1月，凤阳全境解放。1951年成立凤阳县人民武装部，加强了对民兵工作的领导。1958年实行全民皆兵，全县民兵共有60475人，其中基干民兵20458人，建立28个乡队，151个中队，466个分队，1468个小队。1962年6月，民兵组织实行“三落实”(政治落实、组织落实、军事落实)，全县每年进行一次民兵组织整顿，使民兵的政治素质和军事素质明显提高。1974年全县民兵已发展到135468人，其中有武装基干民兵7251人，编为43个连，有通讯、工兵、炮兵、防化及打坦克班43个。
1981年，中央指示对民兵工作进行改革，要求降低民兵年龄，缩小范围，减少数量，提高质量，取消师团建制，民兵年龄规定18岁至35岁，其中，基干民兵18岁至28岁，普通民兵18岁至35岁。通过改革，全县民兵减为58900人。
1980年重新恢复一度中断的复退军人预备役登记制度，凡符合预备役条件的复、退军人全部编为一、二类预备役。基干民兵服一类预备役，普通民兵服二类预备役，服一类预备役的28岁以下退伍军人，全部编入民兵组织。
二、主要活动
1、参战
抗日战争时期，境内的各乡、村民兵不分昼夜站岗放哨，观察日、伪军的活动，用长矛、大刀、土枪等武器协助新四军主力部队打击敌人。如在民国29年秋，伪军连长刘开山带领45人到周圩扫荡，被当地民兵发现，立即向主力部队报告，和主力部队一道，打退了敌人的扫荡。在抗战中，民兵“身不离枪，人不离乡”，担任侦察敌情，封锁敌人，张贴抗日标语的任务，还毁坏敌人的公路、铁路交通，使敌人的军事物资不能正常运输。
解放战争时期，民国35年8月，中共路西地方武装北撤后，凤阳山区的部分民兵留下坚持地下斗争。他们住山洞，吃野菜，与国民党军周旋。民国37年7月，在“百日反清剿”斗争中，凤阳山区基干民兵组织突击队、爆破组，和游击大队一道深入敌后，在津浦、淮南铁路线上炸毁桥梁2座，火车头2个，破坏铁路30公里，拔掉电线杆，切断国民党军的电讯联络。民国38年3月，在渡江战役开始前，为支援解放大军渡江，凤阳县民兵报名参加解放军，被批准编入部队的就有1155人，还有上万的民兵参加担架队和担任运送粮草、修路等支前工作。
建国后，民兵组织参与地方武装部队的剿匪活动，为剿匪部队带路，侦察敌情，配合作战，出现很多英雄模范。殷涧民兵马新邦，在剿匪中英勇顽强，奋不顾身，一人活捉匪特18名，获得剿匪模范的称号。抗美援朝运动中，马新邦积极响应党的号召，报名参加了中国人民志愿军。
2、执勤防范
土地改革中，民兵除带头斗争恶霸地主外，还加强对地主、反革命分子监督和控制，保卫土改顺利进行。在镇压反革命运动中，积极协助公安机关破获案件，逮捕反革命分子，送交政府惩办。各区民兵成立防护队，夜晚巡逻放哨，在山区进行防匪护林，有力保证党的中心工作顺利进行。
1953年，中央对民兵任务规定为：(一)消灭空降特务；(二)维持地方治安；(三)保卫生产。全县认真贯彻执行。1982年，亮岗乡基干民兵连在社会主义精神文明建设中和民兵工作“三落实”中荣立三等功，获省人民政府奖励。1984年9月，宋集乡民兵宋华书协助公安机关捉拿逃犯，将顽抗的罪犯击毙，荣立一等功。
三、军事训练
1951年3月，县人民武装部成立后，加强了全县民兵的军事训练工作，每年由县人武部组织民兵定期进行军事训练或实弹演习。
1951年，全县民兵贯彻“劳武结合”方针，有组织地把民兵基层干部和基干民兵纳入正规化军事训练，县人武部每年用20天左右时间训练基层干部和专业技术骨干。1975年1月，首批装备自动半自动武器，随后又增加各种口径的火炮和通讯设备，民兵开始由单一的步兵训练发展到有通讯、炮兵、四零火箭筒、高射机枪、侦察等多兵种、多科目的综合性训练。1978年9月，上级规定民兵训练时间每年15天至20天，1981年“关于民兵组织调整改革会议”规定民兵训练内容为射击、投弹、战术、爆破、三防(防化学武器、防原子弹、防细菌武器)、三打(打飞机、打空降、打坦克)和政治教育。1984年侧重民兵干部和专业技术兵种的训练。