安徽省的司法管理体制同国家的司法管理体制一样，随着政权的更迭和不同历史时期国家政治、经济形势的不同而几经变化。
清未，安徽省司法行政权由省提法司执掌，负责监督各级审判厅、高等检察事务。提法使为全省司法行政最高长官。
民国初期，国民政府设司法部，省设司法司，后改为司法筹备处。民国2年（1913年)10月又奉命裁撤，其职权分别归高等审、检两厅。民国14年前后，安徽省政府设司法厅。民国17年省司法厅撤销后，省以下实行司法行政与审判机关的“合一制”。司法院及司法行政部的指令由高等法院及地方各级法院执行。
第二次国内革命战争和抗日战争时期，皖西、皖中和淮北革命根据地政权均设有司法构，掌管根据地司法行政工作。
建国初期，除中央和大行政区设立司法部外，地方实行司法行政与审判机关“合一制”。1954年大行政区司法部先后撤销，中央司法部要求“今后应尽先将各省、市的审判机关与司法行政机关根据不同具体情况分别先后逐步分离”次年3月，安徽省司法厅建立。自此，省级司法行政与审判机关改为“分离制”。地市司法行政工作仍由专署、省辖市的司法行政科管理，县级司法行政与审判机关仍实行“合一制”。
1959年4月司法部撤销，同年8月3日，省司法厅也随之撤销。此后，从中央到地方，司法行政与审判机关由“分离制”改为“合一制”，并延续20年之久。
1978年12月，中共十一届三中全会后，随着国家民主与法制建设进程的加快，司法管理体制日趋稳定并不断加强，司法行政机关的组织体系逐步形成。