北宋至清末，县教育行政机构为儒学，或称儒学署。儒学署设教谕学正、训导各1人，主持儒学事务，掌管春秋二季的祭孔和童子试。光绪三十一年1905取消科举制度，设立劝学所。本县劝学所设立于文庙东原儒学署，设董事5人、坐办1人，总管全县的学务。
民国元年1912改劝学所为教育公所。3年，增设视学员。4年，成立县学款经理处，设董事2人，专管全县学校款产。7年，恢复县劝学所，设所长1人，劝学员2人，职责是劝办地方教育。所长每学年周历县内务区一、二次，劝学员每学期周历所辖区域二次以上。后学款经理处奉省令并入。民国11年，成立芜湖商埠义务教育事务所，掌管教育行政，推行城区义务教育计划，教育款产仍由教育公所管理。14年10月，撤销两所，成立教育局，统管教育行政和教育款产。教育行政事宜曾由县知事主持。教育局设董事会，负责审核教育方针及计划，并筹划教育经费和保管校产。董事任期三年。全县划分为若干学区，每学区设教育委员1人。教育局内设总务、学校教育、社会教育3股。民国18年3月，芜湖城区设市政筹备处，市、县教育分开。市政处第二科掌管市区教育，商埠义务教育事务所奉令归并。次年11月，市政处撤销，划归第二科掌管的教育事业，经省政府接收后仍交县教育局管理。民国23年2月，县教育局并入安徽省第二区行政督察专员公署第四科为教育股。26年改称教育科。年底日军侵入，教育科随县政府迁往县区边境。汪伪时期，先设第三科分管教育，民国28年成立县教育局。全局有员工13人，内设总务、学校教育、社会教育3股。抗战胜利后，先设教育科，民国36年5月改为教育局。教育局先设3科，后并为两科。一科主管总务和社会教育，二科分管国民教育和中级教育。全县分为城区等4个督导区。
1949年4月，县设文教科。1956年增设教研室。此间曾一度分设教育、文化两科。1959年6月，文教科改为教育局，同时设立业余教育办公室。1962年5月，教育局改名文教局。1967年3月，成立县抓革命、促生产第一线指挥部文卫小组。1970年2月，成立县革命委员会政工组教育小组。1971年2月文教局革命委员会成立，下设政工、教革、办事组。1975年8月，恢复文教局。1979年夏，文化、教育分开，同时成立教育局和文化局。教育局内设人秘、教育、计财和工农教育股，同时设立教研室。1987年，教育局升格为教育委员会，1名副县长兼任主任。1989年3月，政府换届后，由原教委第一副主任任主任。1989年，教委内设人事、教育行政管理、计财、成人教育股，同时设立教研室、办公室、招生办公室、勤工俭学办公室、电教馆和教学仪器站。