清·光绪三十一年（1905）夏，安徽公学增设速成师范学堂，留日学习师范教育回国的房秩五主持校务，陈独秀应聘为授课教习之一。这便是芜湖乃至安徽近代最早的师范教育。
光绪三十二年（1906），芜湖县劝学所附设师范传习所（师范讲习所），招收塾师入学，结业后回乡任教。徽州旅芜会馆在西门外二街创立徽州公学，教授初级师范生。同年八月，李德膏、阮强等创办安徽女子公学，初设女子速成师范班，并附属高初两等小学，在河南江口租借民房为校舍。两年后，迁至城内铁锁巷，改名安徽全省公立女子师范学堂，设师范、保姆、蒙养院三部，经费半由皖绅捐赠，半由当局补助。宣统三年（1911）秋停办。民国元年（1912）八月恢复办学，民国二年（1913）二月，改为安徽省立第二女子师范学校，简称“二女师”，学制四年，分本科和预科，明确规定办学目标是：培养“勤敏耐劳”的小学师资。
光绪三十四年（1908），芜湖县人吴云、尚光钺等以四乡办学缺乏师资，先办速成师范，名为芜湖师范学堂（一名芜湖速成师范，芜湖公立初级师范学堂），学生45人，经费岁入数3920两，岁出数626元，资产数20800元。宣统元年（1909），师范生毕业后，改为公立河南两等个学堂。
民国元年（1912）秋，改皖江中学堂为皖江初级师范学校（一称皖江师范学堂），未几，定名为安徽省立第二师范学校，次年，二次革命时停办。
民国十年（1921），省教育厅派员来芜筹办义务教育，同年在芜湖设师范讲习所。
民国十七年（1928）春，全省中等学校改组。二女师改为安徽省立第二女子中学，分设高中师范科和初中部，至民国二十年（1931）度，全校有教职员36人，8个班，在校学生304人（其中高中师范科一、二、三年级共计学生86人），全年经费为49260元。课程设置必修科和选修科，实行学分制。民国二十三年（1934），二女中改为安徽省立芜湖女子中学，高中部师范科停办。
抗日战争胜利后，民国三十五年（1946）冬季，芜湖县设立简易师范学校（通称“简师”），租赁东门外谢家花园房屋二十余间为校舍，于民国三十六年（1947）元月招生，设四年制一年级两个班，招收高小毕业生；一年制一个班，招收初（高）中毕业生，课程设有国文、数学、物理、化学、历史、地理、教育学、心理学、家事等科目。民国三十七年（1948）元月，简师一年制班40余人毕业，分配到县、乡小学任教。是年，续括新生三个班。民国三十八年（1949）二月，简易师范学校改名为芜湖县立师范学校。其时，全校教职员18人，工友9人，学生121人（含女生60人），分5个班。县立师范学校经费短绌，教职员待遇菲薄，生活困难，校长和教员对教学俱较认真，在学校开支和行政方面，讲求实效，避免浪费，曾获省教育厅颁发的乙等奖金。
1949年秋，市人民政府新建芜湖市师范学校，首任校长吴葆萼。校址设在儒林街夫子庙，招收后期师范班（中等师范），学制三年，原芜湖县立师范简师班学生编入该校。
1950年9月，皖南师范学校成立，校长由皖南人民行政公署文教处处长方向明兼任。校址设于小官山，招收中师1班，专科1班（学制二年）；还设有函授初级师范班，招生100名，此为本省最早设置的函授师范。1952年起，芜湖师范、安徽大学附属师范（皖南师范改名）相继向社会输送毕业生，给人民初等教育事业增添了新生力量，从根本上改善了芜湖市和周围县区小学师资队伍的结构状况。
安徽大学附属师范学校于1954年8月，改名为安徽师范学院附属师范学校（简称“师院附师”）。其时，附师的函授师范发展到3个班；分为当涂县、芜湖县及芜湖市郊等八个教学辅导区和一个直属小组，共有学员339人。同年夏，水灾严重，函授暂停，下半年，省教育厅通知将函授班工作人员、经费、设备、教材等移交芜湖师范学校继续办理。1956年，师院附师奉令停办，其最后一个班归并到芜湖师范学校，当年暑期毕业。1959年春，芜湖师范经省定为全省重点师范之一。
60年代初期，师范学校课程中的心理学、教育学被停授。“文化大革命”起，芜湖师范停止招生，1968年停办，1971年底筹备复校，初以神山原市农垦学校为校址，1980年起至1984年，分步迁入黄果山新校址。
1949年至1985年间，芜湖中等师范学校培养出中师毕业生约4000余人。其中大都已在教育实践中锻炼成长为芜湖市及省内各地小学、幼儿园的教学骨干与教育行政管理干部。