1981年成立阜阳市司法局，局内设办公室、宣传教育股、调解股。领导有公证处和法律顾问处。在各区(乡)配备有司法助理员，建有司法办公室，业务上受司法局的监督。
一、法制宣传
司法局成立之初，就与市广播站合办了新《婚姻法》讲座，撰写了七讲近1万字的讲稿。接着又编印了《司法简报》，创办了《法制宣传栏》，除了向单位部门介绍司法业务、报导政法动态，在闹市宣传法律知识外，还将宣传牌送到纺织厂、卷烟厂等较大工厂，进行轮流展出。为扩大宣传范围和效果，还开动宣传车流动宣传。1983年，司法局在地区体委设立了法律服务站，免费向群众解答各类法律咨询，宣传法律知识，提供法律帮助。先后聘请了150名法制宣传员，培训了500名法制宣传骨干，初步形成了法制宣传网。并且在印刷厂、纺织厂进行宣传试点，总结推广宣传经验。据统计：自1981—1985年，共办宣传栏36期，1101板；出简报32期，7600份；宣传车上街98辆次，260个小时；购置幻灯片47套，上映400次，受教37万多人次；上法律课45次，受教2.4万多人次；投宣传稿53件，采用22件；编宣传材料1万多份；培训宣传骨干650人。通过法制宣传，教育了广大干部、群众，挽救了一批有轻微违法行为的青年。据1983年第四季度统计，有29名违法犯罪分子投案自首，有15名干部、群众送子或亲友归案。对扭转社会治安状况和推动“严打”斗争，发挥了积极作用。
二、法律顾问
法律顾问处于1981年2月成立，现有律师和律师工作者5人，他们是国家的法律工作者。1981年担任刑事辩护56件，担任自诉案件自诉代理人1件，担任民事案件代表人30件，参与诉讼事件的调解、仲裁活动3件，代写诉讼文书和其它有关法律事务的文书106件，解答法律询问105件，接待来访305人次，共收费1600元。
随着社会主义法制建设的逐渐完善，国家机关、企事业单位和广大公民越来越认识到律师工作的重要性，业务活动也逐年扩展。自1982年至1985年，共办理刑民事诉讼案件318起，接待人民来访2900多人次，解答法律询问1500多件，代书各类法律文书278件，收取费用9900多元。
律师工作的局面已开始打开，法律顾问处接受企事业单位的聘请，有两名律师担任了3个企业单位的常年法律顾问。
为配合法制宣传、法律顾问处协助司法局办法制宣传栏8期，上法制课5次，编写各类法制宣传材料23件。
三、公证
公证处自1981年开始办理国内和涉外有关公证事宜。当年办理买卖房屋、贷款、建筑、订货合同等项国内公证71件。证明出生年月、亲属关系、婚姻关系、继承委托、死亡等涉外公证14件，其中发往美国的3件、发往香港的11件。两项公证共收费4027.72元。在办理东市区建筑队承包阜阳电业局济河变电所的基建工程事务中，由于经过公证，受到法律监督，使工程保质保量，提前竣工，达到双方满意。
1982年，办理国内公证59件，涉外公证20件，分别发往美国、日本、加拿大、香港等地，两项公证共收费1590.40元。1983年办理国内外公证285件，比上年增加198%，收费3306.50元，比上年增加108%。1984年，停止了涉外公证业务。办国内各类公证214件，收费6183.50元，其中经济合同公证占办证总数的85%以上，在一定程度上提高了合同的履行率。
四、调解
1985年全市已配备司法助理员5人，建立调委会99个，调解人员485人，共调解一般民事纠纷3963件，调解轻微刑事案件553件，避免非正常死亡76人。全市已形成三级调解网，调解干部还开展制订“街规民约”、“乡规民约”、创“五好家庭”、“建文明街”、“文明院”、“文明村”、“文明单位”活动。
五、普法教育
市委、市政府和有关部门组成了市普及法律常识领导小组，小组下设办公室，办公室设在司法局。全市大多数区乡、县级厂、主管局已建立普法教育机构，制定了工作规划。全市已培训各类宣传骨干1500人，其中发给宣传员聘书的200人，法制报告员500人。1985年，市财政拨给经费4000元，普法办公室1985年订购各类普法教材4万多本，自编辅导材料4期1400份。上法制课40场，出专栏3处45期，出动法制宣传车39次，出简报15期，自制录音带14盘。还在阜阳饭店、百货大楼进行普法教育试点，已宣讲了法学基础理论、宪法、刑法、经济合同法、治安管理处罚条例。普及面达90%。