民国18年（1929年）5月6日，中共商城、罗田、麻城边界特委领导河南商城南部地区（今安徽省金寨县南溪区和斑竹园区）农民举行立夏节起义。10日，在南溪黄鹤湾成立临时办事处，行使政府职权。经过连续武装起义，至8月间，初步形成以南溪、斑竹园、吴家店为中心的豫东南革命根据地，摧毁国民党区、乡（镇）、保各级政权，建立具有临时政权性质的区、乡、村农民协会，不久即正式建立区、乡、村苏维埃。
同年11月，中共六安中心县委领导六安县独山农民武装起义，成立六安县三区工农革命委员会。此后，六安、霍山、英山、潜山各地由共产党领导的农民武装起义不断取得胜利，至民国19年4月，皖西革命根据地共建立10多个区、100多个乡及数百个村苏维埃政权或临时苏维埃政权。
民国20年4月，皖西北特区苏维埃政府成立。7月，鄂豫皖边区第二次苏维埃代表大会通过的《苏维埃临时组织大纲》规定，县以下设区、乡、村工农兵代表大会（即苏维埃），分别为区、乡、村最高权力机关，分别选举产生区、乡、村执行委员会。在各级工农兵代表大会闭会期间，负责执行大会决议，推行政令。区、乡、村苏维埃执行委员会互推若干人组成常务委员会，由常务委员会推选1人为主席。区执行委员会由13至15人组成，下设内务、土地、裁封兼肃反、财政、文化、粮食、赤卫、交通等委员会；乡执行委员会由11至13人组成，下设内务、土地、裁判兼肃反、文化、粮食、赤卫、交通等委员会和财政委员；村执行委员会由5至7人组成，设内务、土地、财政、文化等委员。区、乡、村苏维埃政府的主要职责为：发动群众，支援红军；组织地方赤卫队，开展武装斗争；镇压反革命分子，防范敌特；开展土地革命；发展农、工、商业，征收税赋；兴办文化教育事业；解放妇女；禁烟、禁赌、禁娼等。
全民国21年5月，皖西北根据地扩大到东起舒城附近，西抵固始县，南至太湖、宿松，北临淮河的广大地区，拥有六安、霍山等8县和舒城、潜山等4县部分地区。根据地内普遍建立区、乡、村苏维埃政权。
民国23年11月，第五次反“围剿”斗争后，红军主力实行战略转移，皖西北根据地内区、乡、村苏维埃不复存在。