清朝德宗前的漫长封建社会，一直沿用司法与行政合一的体制，各级地方官吏兼理司法，“独立”审理案件，没有起诉程序。清光绪三十二年，颁行了《大理院审判编制法》，规定大理院下设各级审判厅，审判厅内设各级检察局。中国历史上审判权与检察权初步分离，创立了检察机关与检察制度。
北洋政府时期，检察业务的开展方面，比清朝有所发展，制定了一些法规，如《刑事案件须照检察制度各节办理通令》、《审检厅处理简易案件暂行细则》、《京师地方检察厅暂行处务规程》和细则。安徽省在执行中央政府制定的法律的同时，也制定了一些相应的法律文件，供检察机关办理刑事案件时遵循。
国民政府当政的22年期间，颁行了《刑法》、《刑事诉讼法》、《法院组织法》和一些单项法规。这些法律赋于检察官办理刑事案件都要遵照诉讼程序办事。
1949年10月中华人民共和国成立，揭开了人民检察制度的新篇章。
1966年至1976年“文化大革命”的十年浩劫，安徽检察机关被砸烂、取消。粉碎江青反革命集团后的1978年3月，根据新《宪法》精神，安徽各级人民检察院开始恢复重建，截止1985年全省共建有省院1、分院8、市院9、专辖市院6、省院派出劳改专门检察院3，县院67，省辖市的区院33。共设置127个检察机关。安徽检察工作进入了鼎盛以期。