清末至抗日战争前夕，马鞍山地区小学教育主要有公立、私立、县立3种办学形式。抗日战争期间，地方办有少数半公半私性质的小学。抗战胜利后，国民政府资源委员会华中矿务局在马鞍山矿内开办了职员子弟小学。民国年间，慈湖地区还有南京基督教堂办的教会学校。这些学校，不少维持到马鞍山地区解放，成为该地区小学教育的基础。
1949年4月马鞍山地区解放时，有正规小学13所，学生1821人。建国后，人民政府接管了旧有学校，本着“维持旧有和积极改造”的方针，积极发展小学教育。到1956年，马鞍山地区已有小学45所，学生达8071人，是建国初期的4.5倍。
建市后，小学教育得到加强。1958年，通过贯彻党的教育方针，采取“两条腿走路”的办学形式，依靠群众，勤俭办学，全市小学增加到151所，学生1.8万人，教职工556人。1961年，根据国家“调整、巩固、充实、提高”的八字方针，对学校进行调整压缩，小学减到70所，在校学生减到1.4万人。1963年，市郊大力普及小学教育，积极开办耕读小学。至1964年9月新学期开始，市郊已有耕读小学71所，学生2133人。1965年，郊区以大队干部、贫下中农代表和教师组成校务委员会，办学形式更加灵活多样，出现大队办学、生产队办学和公办全日制小学附设耕读晚班等形式。这期间社队办的耕读小学已有75所，学生2136人；耕读晚班23个，学生656人；公办全日制小学耕读晚班25个，学生1691人；另有送字上门的学生192人，合计耕读小学学生4675人，占郊区全日制公办小学学生总数的86％。由于耕读小学的发展，郊区学龄儿童入学率由1964年上半年的23％上升到67％。是年全市公办民办小学共有368所（处），小学生达3.4万人，学龄儿童入学率达91.2％。
“文化大革命”期间，郊区农村公社小学下放到大队管理，城市小学下放给厂矿管理。随着城市人口的增加和厂矿兴起办学，学生人数不断增加，1973年在校学生达4.7万人，学龄儿童入学率达91.7％。中共十一届三中全会以后，小学教育经过调整恢复，得到稳步发展。1981年有小学102所，在校学生4.5万人，学龄儿童入学率达98％，教职工有2136人。1984年，经省普及初等教育验收审核，入学率为99.14％，巩固率为98.4％，毕业率为91.2％，普及率为97.03％。1985年有小学99所，在校小学生4.2万人，教职工2370人，其中厂矿办小学23所，占城市小学38所的63％，学生1.6万人，占城市小学生2.71万人的59.4％。
附表22—11957～1987年马鞍山市小学教育基本情况统计表