清末、民国时期，司法行政工作由政府直接管理，或由法院兼管，未专设机构。
1949年芜湖县人民政府成立，设立民法科兼管司法行政，后转归县法院代管。1981年3月，司法局成立。1982年5月和1983年3月，县公证处和县法律顾问处分别成立，隶属司法局，为二级机构。1985年局设宣传、调解、政秘三股，人员定编6人实有6人，后增编为13人，实有11人。至1985年，定编21人，实有14人。1984年司法助理员仅三元乡1人，1985年初，全县29个乡镇配备助理员30人。
1989年底，局机关内设政秘、宣教、基层工作原调解股3股，在编25人，其中，含律师事务所4人，公证处5人。各区乡镇共有司法助理员34人，建立司法办公室34个，其中有18个乡镇成立了法律事务所。司法局局机关设县委大院内。