一、民国时期检察机构
1910年，芜湖地方检察厅成立，同时开办芜湖初级检察厅。1914年，初级检察厅归并地方检察厅，改设简易庭，设检察长1人，检察员2人。1927年10月，检察机关裁撤，以检察官配置各级法院内，并设首席检察官，合审判、检察职能为一体，独立行使其职权。1937年日军入侵芜湖后，曾设立伪法院和伪检察机关。1945年11月，安徽省高等法院第三分院从泾县迁回芜湖办公。1947年12月改名为安徽省高等法院芜湖分院，到1948年，配有首席检察官和一般检察官，仍独立行使其职权。
二、中华人民共和国时期检察机关
1950年10月，芜湖市人民检察署正式成立，办公地点在市公安局内，隶属皖南人民检察署。翌年3月，市人民检察署迁至和平巷13号单独办公，内设办公室、调查组、批捕起诉组。1954年12月，市人民检察署更名为市人民检察院，行使侦查与侦查监督、审判监督、一般监督、监所监督等职能。1957年4月，长江水上运输检察院芜湖港院并入市检察院。1958年12月，地、市检察院合并办公。1960年地市检察院又分开办公。1963年9月，建立芜湖市人民检察委员会和检察院党组。1965年芜湖市检察院归属芜湖地区检察院领导。1966年“文化大革命”开始后，检察工作中断。
1978年，恢复了检察院建制，同年8月，筹建了市检察院并成立了检察院党组。1979年6月，组建各区人民检察院。1980年元月始，各区院同时办公。同年3月，芜湖县人民检察院划归市人民检察院领导。1983年8月，南陵、繁昌、青阳3县检察院划由芜湖市检察院领导。截止1985年底，芜湖市人民检察院下辖青阳、南陵、繁昌、芜湖4县检察院和新芜、镜湖、马塘、郊区、四褐山、裕溪口6个区院；内设刑事检察、经济检察、法纪检察、监所检察、控告申诉、装备技术、人事7个科以及1个办公室。