唐代元和三年（808年），唐宪宗在相地设宿州，筑城时发现“投火可燃”的石墨。又据《癸已类稿》载：黟县在唐代亦发现有煤。这是安徽淮北和皖南地区发现煤的最早记载。但是，当时未开采利用。
宋代宋代的手工业，特别是冶铁、砖瓦等消耗燃料较多的行业发展较快，而且大都用煤作燃料，封建统治者开始重视煤炭的开采和利用。北宋神宗元丰元年（1078年），苏轼任徐州知州时，当地柴薪紧缺，城市手工业乃至百姓生活用的燃料发生很大困难，于是派员在州之西南白土镇（时属江苏徐州）一带访得石炭，遂遣人“开煤燃用”。为此曾作《石炭歌》，（注：《石炭歌》刊于本志附录第246页）在诗序中称“彭城旧无石炭，元丰元年十二月始遣人仿获于州之西南白土镇之北。”即今萧县白土镇一带，今属淮北濉萧煤田。1960年、1961年在萧县白土镇石榴园子和高场发掘的宋代瓷窑遗址，分上、中、下三层，中层发现约有45厘米厚的炭渣，这一发掘与历史文献互相印证。宋代，在安庆地区也烧用石炭，据记载：“宋宝年间（1253—— 1258年），高邮军阮子博夜行安庆府九曲岭，迷不知径，望火光之茅屋一间，二士烧石炭，对坐观书。令坐附火，言笑一日。”（注：转引自《中国古代煤炭开发史》（煤炭工业出版社；1986年版））
明代煤炭的开发利用有了比较明显的发展。明洪武二十八年（1395年）十一月，为军队打造器械所需，“命中都留守司属士卒于洛河山采取煤炭。”（注：转引自《中国古代煤炭开发史》（煤炭工业出版社；1986年版））这说明淮南洛河山一带煤炭资源早在明洪武以前已被发现并开采利用。明万历年间的1615年和1616年，淮北地区发生灾荒，一些流民集结烈山一带，在山上打柴刨草根，发现了露头煤，遂进一步凿挖，发现“遍山皆煤也”。流民遂以挖煤谋生，而豪绅争相趋利，纷纷设窑，开始时“取煤者仅数十人耳，以后则行煤之地益广，取煤之利益多，而凿煤之人益众。”（注：转引自《淮北矿务局志》（工人出版社）1988年版）到天启初年（1622年前后），仅几年时间，“开窑已至七十有余”，“计众当不下三千人”。其开采方式，“有用力而操槌凿者，有辘轳引煤而上者，有荷担而出之水次者。”（注：转引自《中国古代煤炭开发史》1986年版）可以想见，当时淮北的采煤业是很兴旺的。皖中和皖南地区明代煤炭开采也有记载：“含山县牛头山在县北30里。山产煤，明正德中（1506—— 1521年）居民采以为业。”（注：引自顾祖禹《读史方舆纪要》卷29）巢城北20里峙刀山，曾取煤。宣城一带的煤窑，“有身家者据为利薮，无籍之徒不招自集”，业煤者，“指煤井为银窖”，（注：转引自《中国古代煤炭开发史》1986年版）开采也很兴盛。此外，皖南广德、贵池在万历初年也都曾开办煤窑。
清代安徽已是南方产煤较多的省份，煤炭开采范围更广，主要集中在淮南、淮北、宣城、池州、宁国、广德等地。开采规模更大，“一井大者可容数百人，小者亦数十人”，（注：引自《宣城县志》卷30）据光绪《广德州志》载，康熙年间（1662—1722）广德曾“聚众数万人”，入山采煤，但阻力较大，因矿禁而陷于停滞。乾隆十年（1745年）十月初八日，署两江总督尹继善、安徽巡抚魏定国联名奏请开采煤窑：“怀邑外窑地方，向曾采煤，甚有利于民用，乾隆四年因煤气化火伤人，暂行封禁，”“又宿州之徐溪口地方，有山一座，亦属产煤，乾隆五年曾请开采，未奉准行。该州县产煤处所，勘明俱无关城池、龙脉、堤岸、通衢以及古昔陵寝。似此天地自然之利，置而不取，实觉可惜，应请俱准开采”。（注：尹继善、魏定国的奏折，刊于本志附录，见第246页。）据《清高宗实录》记载，这一奏请于是年11月19日经工部议准。至此，明代后期就停开的淮北烈山、淮南一带煤炭又得到重新开采，并取得合法权利。据光绪《重修凤台县志》记载，淮南舜耕山开采的煤炭“旁郡邑资者甚多，舟车载运，百里不绝”。
光绪三年（1877年），贵池、池州先后设局开办煤矿。因开办时修路、制车，购买机器耗费巨资，若按旧章纳税，成本大高，有碍运销，且池州山多树广，当地又不用煤，非装运出口，别无它路。因此要求比照台湾、湖北减税、以畅销路，而敌洋煤。开始创办时由官办，因经营不善，改由商办，后又改为招商。据孙毓棠《中国古代工业史料》记载，至光绪九年（1883年），池州、贵池两处煤矿已使用机器开采，这是安徽煤矿使用外国机器的最早记载。但由于土法开采的煤，价格比官办煤矿便宜，又只要交纳厘金，便可通过关卡对外运销。因此，用机器开采的煤矿，无法与土法开采的煤窑相竞争。是年池州矿务局为振兴矿务，曾发行股票，光绪十四年（1888年）曾延聘一个英国矿师，并购买价值白银一万两的钻探机和抽水机等。但不到三个月，矿师因故被解雇，购买的机器未安装，任其生锈。光绪十七年（1891年）因销煤经纪人发生严重侵吞公款案件，该矿被迫停办。
据《海关十年报告》记载，池州煤矿1880年煤炭最高出口量达1．44万吨。此后十余年间，虽仍在产煤，然出口量远不如以前。
光绪年间，皖南除了池州、贵池煤矿业兴盛一时外，其它一些有煤炭资源的地方也已开采或准备开采，并开始引进外资。光绪二十七年（1901年）八月，日本商人土仓鹤松与招商总局合股500万元，以40年为限，开办宣城县煤矿，当时经路矿大臣批准在案，拟在矿山建造铁路一条，直达宣城专运煤斤，再由宣城转至芜湖用小轮拖运。光绪二十八年（1902年）四月，商务局与英商伊德订立安庆、池州、太平、宁国、徽州等勘矿合同，五月间又与英商男爵凯·约翰订立歙县、铜陵、宁国、广德、潜山等处勘矿合同。光绪二十九年（1903年），日商曹福来昔思葛开与华商任钦恒创设通裕公司，合同规定：日商自愿筹资垫讨买租矿山，禀准开办执照等费用，华商自愿先筹银5千两，作聘请矿师和勘察费用，等奉到执照后，再筹足华银5万两，建造运煤铁路等，并写明按政府规定照章纳税，所获利益作为120成，对半分成。同年七月，安徽地方当局与意大利公司代理人扬尼托签订试采安徽煤矿合同，合同共七条，各执英、中文本一份。
此外，宿松县高家洼煤矿、贵池县和岭煤矿与西班牙商人合开。全省的东流、贵池、怀宁、青阳、宣城、繁昌、广德等13个县内20多处煤矿，就有17处和外商合开，各地独自开办的煤矿不多。
淮北地区，光绪二十七年，山东、亳州、宿城的富商集股成立烈山煤矿合股公司，试图以现代技术和资本主义方式重开烈山煤矿，后几经变更矿主，到光绪三十一年（1905年）临涣镇大财主周玉山买得清廷道台官职，挤走了徐州道台袁大化，控制了烈山煤矿，改称普利公司，到光绪三十四年（1908年）最高日产量达到300吨。调查证实，至清末淮北萧县白土寨一带己开发遗煤井60余口，其中包括略具规模的孤山煤矿。
淮南舜耕山一带，光绪二十三年（1897年）寿州统领徐吉忠带人霸占民窑办起官窑，当时雇工300余人，年产1400余吨，光绪二十六年因井下透水，无法排出而停办。此后几年间，地主、商人及至清廷派官员到大通办矿，都因缺乏技术等原因，没有成功，或虽然见煤，日产很低。宣统元年（1909年），经营煤炭的大商家、怀远县大地主林文瑞，同山东中兴煤矿煤师田贯武、萧县官僚地主段书云等人，集资筹建大通煤矿公司，当时有工人五六百人，年产煤2700吨左右。后因辛亥革命爆发，寿州光复，大通混乱，田贯武带着中兴煤矿来的大部分矿工回鲁，该矿随即停办。
清代，特别是乾隆年间，开始放宽矿业政策，鼓励开办煤矿，但仍要经过一定的审批手续，对私自开采煤炭的仍然禁止。同时，实行了采照制度，开采者首先向官府申请报批，官府同意开采才发给采煤执照，作为合法凭证，并作为核查和征税的依据。招商开采在清末比较普遍，无论在皖南还是在淮南、淮北，都已出现。