民国期间，国民政府提出普及社会教育。各地虽兴办小学，但到解放前夕，儿童入学率仍然很低。民国37年(1948年)，淮南矿区入学儿童5450人，只占学龄儿童总数的20%左右。
建国后，《共同纲领》提出要有计划有步骤地实行普及教育。淮南煤矿特区政府面向工农积极兴办小学教育，在农村鼓励村办小学，在城市鼓励厂矿企业单位或团体兴办小学，把有文化的农民、工人请到学校任教，解决师资不足的矛盾。同时，广泛动员学龄儿童入学，实行助学金制，对确有困难的学龄儿童实行免费上学。学龄儿童入学率不断提高。1956年学龄儿童招生数为5993人，在校学生为19774人，占学龄儿童总数的44.9%，入学人数比1949年增加了166.3%。
1958年，突击兴办民办小学和厂矿小学，儿童入学数量迅速增加，占学龄儿童总数的97.65%，完成了普及小学教育任务，但教育质量普遍下降。
1961年，在“整顿、巩固、充实、提高”八字方针的指导下，发展耕读小学和简易小学，小学教育又有所恢复。1965年，适龄儿童招生数32954人，在校生78036人，比1961年增长了1.7倍。
“文化大革命”初期，教育处于瘫痪状态，1967年10月有少数学校先后复课，到1969年下半年，学校才全部复课。1974年，市教育局布置普教任务。1975年，全市学校350所，招生44894人，在校生160021人，解决了适龄儿童入学的问题。由于着重抓普及教育而不顾客观实际，补充了没有经过专业训练、文化程度比较低的人员任教，加上“读书无用论”的干扰，教学质量下降，流失生增多。
1978年后，教学秩序逐步走上正规，市教育局采取一些普及教育的措施，使学龄儿童入学率有所提高。1981年，市教育局制订了普及小学教育规划，实行分级承包责任制，推动了普及教育工作的顺利开展。1984年，全市适龄儿童在校生达125945人，占适龄儿童总数的76%。
1985年，淮南市重新修订了普及初等教育规划，对各区下达招生任务，1987年底，根据《义务教育法》的规定，制订了《淮南市普及九年制义务教育规划》，1988年开始实施，田家庵区、大通区、八公山区先后普及了初等教育，入学率、巩固率、毕业率、普及率都超过国家规定的标准。1987～1988年度的适龄儿童入学率97.6%、巩固率为96.5%、毕业率为96.06%、普及率为97.2%；初中录取新生24683人，升学率为78.32%，其中淮河以南4区升学率为87.76%，比1986年上升10.1%。到1990年，全市实现了普及初等义务教育。