1974年8月，省革委会批准在淮北市创办安徽师范大学淮北分校。是年秋季招生，10月首批工农兵学员350名进校；10月28日，成立安徽师范大学淮北分校临时党委和革委会；1975年和1976年分别招生200人。1978年，国家恢复高等学校招生考试制度；3月首届本科生77级291人进校；10月第二届本科78级298人进校，同时在淮北地区招收函授生342人。为改变煤炭系统中等学校师资力量薄弱的状况，是年12月28日，国务院批准在安徽师范大学淮北分校基础上建立淮北煤炭师范学院，规定为：面向全国，双重领导，以煤炭部为主，规模2000人，开设中文、数学、物理、化学4个专业。
1979年，学院面向全国招生，来自全国8个省市的本科生230人进校，同年创办了学报。1981年，院报创刊，附小兴办。
1983年底，教职工575人，其中专任教师268人，中级职称以上79人，在校生达879人。教学实验设备等固定资产总和达118.6万元，图书资料24.1万册。1984年4月，煤炭部批准学院增设美术、体育、政治教育、英语4个专业，学制均为4年。5月，煤炭部教育局批准学院开办附属实验中学。1985年，首聘两名美籍文教专家来校任教，并与南京大学联合招收基础数学助教进修班。
1987年，校园布局与规模基本定型，累计建筑面积48986平方米，在校生2058人，在籍函授生406人，教职工2831人，专任教师348人，教学设备价值400万元。成立了高等教育研究室、煤炭普通教育研究室、古籍整理研究室，并主办杂志《高教研究》、《普通研究》、《古籍研究》，还建立了科研奖励基金和青年科研基金制度。
1988年，与美国西肯塔基大学签订了校际交流合作协议。1990年，历史系、生物系成立，学院有10个系12个专业。1991年，学院与华东师范大学研究生院签订了校际合作意向书。9月，学院与南京大学研究生院签订校际合作意向书。1992年，学院有12个系26个专业，还成立了科研处、科技服务中心、科技开发公司、校办产业公司等。