抗日战争和解放战争时期，民兵多用大刀、红缨枪、土枪、土炮打击敌人。后来，民兵就地取材，自制各种简单武器和从敌人手中夺取武器武装自己。建国初期，本着有利于战备，有利于训练，有利于管理的原则，在各个不同时期，采取多样的配备方法，做到上分散，下集中，保证重点，兼顾一般，布局合理。民兵武装配备的范围，主要根据民兵人数和民兵所担负的任务，视武器数量而定，一般配备到基干民兵连。建国初期至1957年，基本上“人手一枪”。1957～1958年，每支步枪和冲锋枪原则上配3至4人，每挺轻机枪原则上配4至6人。在武器配发中，对持枪民兵进行严格政治审查。持枪民兵先由民兵班、排推荐，党支部审核，报上级党委批准，以保证武器掌握在政治可靠的人手中。1958年开始在民兵中配备苏式“7·62”步枪、“50”式冲锋枪、加拿大轻机枪等，武器品种也由步枪发展到多种类型的半自动武器。1975年增配通信器材，1978年；旧杂式武器全部陶汰，代之以制式的常规武器。民兵武器配发后，建立了严格的管理制度，任何人、任何单位不得随意调动民兵武器。如确需调动的，县(市)范围内，经县(市)人武部批准；地区范围内，经军分区批准，省范围内，经省军区批准，并严格执行报批手续。并确定专人保管使用武器，不得擅自转借他人，如因训练、执勤需要借用时，乡(厂)范围内，由乡(厂)武装部批准，区范围内，由区武装部批准。训练或执勤结束，按期归还武器的保管。1965年前，枪支由民兵个人保管。“文化大革命”中，民兵武器全部集中到县(市)和军分区军械仓库保管。“文化大革命”后，随着民兵训练的恢复，武器集中于县保管有诸多不便，又将武器重新配发到区、乡基干民兵连，由持枪民兵个人保管。从1983年下半年开始，全区民兵武器集中到区、乡保管。在武器保管中，各地均建立了规章制度。彻底改变了过去“墙上挂，橱里装，分散保管”的局面，形成了集中、统一、安全正规的保管制度。