马鞍山市师范教育始于1958年，在这之前，马鞍山地区办学需要的师资全部由外地调入。建市后，教育事业发展迅速，单靠调进教师已无法满足办学需要。1958年，始建马鞍山初级师范学校，同时开始招生。1962年国民经济调整时师范学校停办。此后，马鞍山各类学校逐渐增多，为解决学校师资严重不足的困难，1964年和1970年，市文教局举办了两届师资训练班。
1971年，马鞍山复建师范学校。至1977年全国统一招生前，共培养师范生750人。从1978年起，马鞍山师范学校贯彻新的招生制度，按择优录取的原则招收新生，并统一学制、课程，开始走上师范教育系统化、正规化轨道。1983年实行市管县后，当涂师范学校划归马鞍山市教育局统一管理。马鞍山市师范教育发展很快，先后办有普师、幼师专业，同时举办教师进修班和幼师培训班。其中幼师培训主要为淮南、淮北等市代培幼儿教师。1985年，全市两所师范学校共有17个班722名在校生，教职工137人。