安徽省古代矿冶业的管理机构，据史书考证可以追溯至汉代。
秦统一六国（公元前221年）后，在全国设置了“铁官”，专事管理矿冶业。
汉承秦治，西汉时期，仍在全国设“铁官”管理冶铁。据《后汉书·百官制》本注：“凡郡县出盐多者，置盐官，主盐税；出铁多者，置铁官，主鼓铸”。全国设铁官49处。据《汉书·地理志》载：皖县（今潜山县城）“有铁官”。汉代安徽境内还设置铜官官署，《汉书·地理志》“丹阳郡有铜官，吴有豫章郡铜山”。丹阳郡在今宣城县附近。
东晋与南朝齐梁之际，安徽境内设有官办采铜机构“梅根冶”铸铜币。梅根冶，今属贵池县，在铜陵县大通镇与贵池县城之间，“铜山出铜供梅根冶铸铜币”。南朝建元三年（480年），铜山（今铜官山）下亦专设铜官冶，监掌铸铜之事。
唐代工商业较发达，矿冶业发展较快．朝廷在全国各地设有“诸冶”，监掌铸铜之事。
《旧唐书·食货志》载：“开元以前，事归尚书省。开元以后，权移他官。由是有转运使、盐铁使、常平铸钱盐铁使、水陆运盐铁租庸使，随事立名，沿革不一”。唐开元年间曾有“铜官”来铜山监督开采。
宋代，朝廷放宽对民营坑冶的限制，取消私铸死刑令，放宽铜禁。民间可以自由制作铜器，并给予免税。但在重要产地仍设有官办机构，尤其是铸钱，朝廷控制很严。当时全国有10个铸钱监，安徽境内2个。北宋建隆二年（961年）在铜官山设置“利国监”监铸铜钱，至道二年（996年）改设永丰监。《宋史·地理志》载，熙宁八年（1075年），又在舒州同安郡设置同安监，铸造铜钱。乾隆《江南通志》载：同安监在潜山县八十里，据此，监址在怀宁县境内。北宋元丰元年（1078年），著名文学家苏东坡在彭城（今徐州）任太守时，州内设置利国监有三十六冶，其中炼铁规模颇大，安徽淮北地区属管辖范围。南宋时，同安监曾改铸铁钱，仅限制流通于江北。乾道六年（1170年）“舒州铁钱监，每岁以五十万贯为额”。到淳熙元年（1174年）又改铸铜钱。
元王朝统一中国后，安徽有和州、徽州、池州等地的金矿，安丰的银矿，铜陵的铜矿和颍州、徽州、宁国等地的铁矿。至元十七年（1280年）在铜陵设置“梅根监”管理机构，在其他地方设有课税机构，管理采冶和课税。
明太祖初年，朱元璋对建议开采金银矿的，都予以拒绝。洪武十五年（1382年），“广平府吏王允道说，磁州临水镇地产铁，请如元时置铁冶都提司辖之，岁可收铁百万余斤。明太祖给以杖刑，并流放海外”。明太祖反对开矿除反对元人的虐政外，对安徽来讲，还有一个重要原因，就是朱元璋认为大别山脉是凤阳皇陵的龙脉所在，因而禁止开采。南京守备太监曾到庐州，问六安有无矿脉，知府答复说：“六安有矿，高皇帝恐人盗采，有伤皇陵龙脉，故六安卫特重巡山之任，不敢妄议开采。”后来皖南、宣州、歙县等地，亦因南京钟山孝陵龙脉的关系，禁止开采。因此，明代矿冶政策常变，有时封闭矿穴，勒令停采，有时摊派矿税，强令采炼，冶炼管理机构亦时置时撤。明初，全国设冶铁所13个，安徽无据可考。
清初，在铜陵设有“铜官督”管理采铜业。道光二十年（1840年）鸦片战争以后，中国逐渐沦为半殖民地半封建社会。英、法、美、日、俄、德等帝国主义在武装入侵中国的同时，深入中国内地，侵占内河、矿山，开办铁路、工厂掠夺中国资源。光绪二年（1876年）九月中英缔结《中英烟台条约》后，安徽门户被打开，英人在皖贸易大加扩张。光绪二十九年，英商凯约翰在铜陵成立伦华公司，与安徽巡抚聂中芳草签二十三条勘矿合同，承办歙县、铜陵、大通、宁国、广德、绩溪等矿产。光绪三十年四月，凯约翰又与清政府外务部另订合同，专办铜陵铜官山矿务，伦华公司改名为安裕公司，占地38．4万余亩。订约定期100年，后改为60年。为“保全矿产”不被外人占有，“皖中绅民合力争之”，历时9年，最终于宣统二年（1910年）三月十九日由清政府向英方赔款5．2万英镑（合白银四十万银），收回矿权，并设民办“铜官山公司”。
北洋军阀统治时期，安徽省因连年内战，实业界一片萧条。实业行政管理最初亦无专司，仅于内务司附设一科，到民国7年（1918年）才设置实业厅，北洋皖系军阀倪嗣冲自兼实业厅长。民国2年至7年间，当涂、繁昌等地，相继成立有民办、官民合办的宝兴、益华、裕繁、福利民等采矿公司，还先后成立过振冶、昌华、振钜、宝华等公司，进行开矿活动。
日本侵占时期，民国26年12月日本侵略者侵入当涂后，为大肆掠夺矿藏资源，于民国28年4月在江南地区成立华中铁矿有限公司。同年12月，改名为华中矿业股份有限公司。苏、浙、皖三省的矿产资源都置于日本人的控制之下。当时华中矿业股份有限公司在铜陵、马鞍山分别成立了矿业所。民国31年，日本人又在马鞍山成立“日本制铁株式会社马鞍山制铁所”。制铁所下设：总务课、业务课、运输课、作业课、土建课、警备课。
民国34年8月，日本帝国主义投降。同年10月，国民政府成立“经济部苏浙皖特派员办公处”，下设“工矿接管组”负责接管伪华中矿业公司所属厂、矿。同年10月，派于瑞华、袁子英、陈昌蔚等30人接管马鞍山矿业所，12月派彭霞起等9人接管铜官山矿业所。翌年2月，“经济部苏浙皖特派员办公处”撤销，安徽境内矿业所接管事宜移交给国民政府资源委员会接办。同年3月，马鞍山成立华中矿务局筹备处马鞍山分矿，矿长卢焕云。下设总务、工务、储运、会计4个课和向山矿场、矿山警察所。在铜陵成立“华中矿务局筹备处铜官山管理所”。民国37年10月30日，国民政府行政院长翁文灏，指示资源委员会委员长孙越峰将曾与汪伪华中矿业公司合作的宝兴、益华、裕繁、福利民等铁矿公司，交由行政院敌伪产业处理委员会处理，“应收归国营范围，划归本会经营”。上述矿产的产权处理问题，一直延续到全国解放前，成为一桩历史遗案。民国37年12月，华中矿务局筹备处正式改名为华中矿务局。由于国民政府，忙于内战，直到解放前夕，马鞍山、铜陵等矿区已是破烂不堪的废墟。
民国38年（1949年）4月21日，铜陵解放。4月24日马鞍山也获得解放。同年5月2日，南京军事管制委员会主任刘伯承、副主任宋任穷先后派军事代表毛更、上官嵩华、宋养公、王耀堂等人，正式接管国民政府资源委员会华中矿务局马鞍山分矿和铜官山管理所。
1950年6月17日，马鞍山分矿改组为“华东工业部马鞍山矿务局”，铜陵设立铜官山分矿保管所，隶属马鞍山矿务局。同年5月，华东军政委员会财政经济委员会批准成立“铜官山铜矿工程处”，主任：袁慧灼，副主任：田风、简根贤。负责为开发铜官山铜矿资源进行一切修建准备事宜。华东工业部通知撤销“铜官山分矿保管所”，将马鞍山矿务局保管的设备器材及资财移交给铜官山铜矿工程处。
1952年7月4日，马鞍山矿务局改属华东军政委员会工业部矿冶工业管理局领导。同年11月，马鞍山矿务局正式移交给中共安徽省委工业部。省工业部派以崔剑晓为领导的工作组帮助工作。同时，铜陵“铜官山矿工程处”经华东工业部批准，予以撤销，成立“铜官山矿务局”，隶属中央重工业部有色金属管理局，局长吴伯文，副局长田风、李唯知；党委书记陈定一，副书记韦滨。
1953年2月19日，马鞍山矿务局改称马鞍山铁矿厂，同年10月，成立马鞍山铁厂。1955年又划归中央重工业部钢铁工业管理局华东钢铁公司领导。
1956年6月13日，经中共中央批准成立中共铜官山市委员会。1957年11月27日，经中共安徽省委同意，铜官市委与铜官山矿务局合署办公，由市领导兼任矿委领导。
1958年5月以前，安徽没有单独的冶金工业管理部门。
1958年中共安徽省委决定，为适应地方工业迅速发展的需要，做好中央下放企业的管理工作，对省级工业机构进行调整。同年6月14日省委决定：撤销铜官山矿务局，并以矿务局与原省工业厅管理冶金的机构为基础设立安徽省冶金工业局。在铜官山设办事处，作为省冶金局的派出机构。原隶属矿务局的单位改由省冶金局直接领导。同年8月1日，中共安徽省委决定：撤销马鞍山铁厂，成立马鞍山钢铁公司，隶属省冶金局领导。
1958年11月24日，中共安徽省委决定撤销冶金工业局，成立“安徽省冶金工业厅”。
安徽省冶金工业厅是安徽省人民委员会的一个职能部门，主管全省冶金系统的生产和基本建设，业务受冶金部领导。厅设厅长1人，副厅长6人，下辖办公室、人事处、基本建设处、财务处、地质矿山处、有色生产处、钢铁生产处、综合计划处、安全处、焦化耐火处和供销局11个处、室（局），全机关行政编制250人。1961年7月21日，省委工业交通工作部通知，冶金厅行政编制精简为140人。
省冶金工业厅对冶金系统内单位的管理是：直接领导省属单位；代管部属单位；对地、市、县所属单位通过地、市、县工业局进行业务指导。
中共安徽省委、省人委还于1958年7月成立“安徽省冶金工业指挥部”，领导全民“大炼钢铁”运动。指挥部由中共安徽省委、省人民委员会直接领导，负责全省钢铁生产的指挥、组织、调度、统计等工作。省委副书记李任之任指挥。指挥部下设办公室、设备制造处、建筑安装处、生产技术处、物资供应处、矿山焦炭耐火材料处、交通运输处、培训处8个办事机构。
三年“大跃进”，造成资金和资源的严重浪费，1962年起安徽冶金工业全面调整。省委决定省冶金工业厅与省化学工业厅合并办公，1963年6月5日省人民委员会通知合并后正式更名为“安徽省重工业厅”。重工业厅是安徽省人民委员会主管冶金、化工的职能部门，负责对全省冶金、化工工业的生产和基本建设，业务上受国家冶金部、化工部领导。重工业厅设厅长1人，副厅长10人，设冶金处、地质矿山处等9个处、室，行政编制101人，另设机关党委、重工业委员会，1965年又增设规划办公室。
1968年“文化大革命”期间，安徽省革命委员会遵照毛泽东主席关于“革命委员会要实行一元化领导，打破重叠的行政机构，精兵简政，组织起一个革命化的联系群众的领导班子”的指示，于8月21日撤销了安徽省重工业厅，一切业务分别由省革命委员会生产组下设的政治处和八大组接管。八大组又下设小组，重工业归口于工业交通小组，省革命委员会生产指挥组批复同意成立“安徽省革命委员会生产指挥组工交小组重工业临时业务组”。业务组由21人组成，实有16人搞业务，其余人员搞政治运动。
1969年6月17日，安徽省革命委员会批复正式成立“安徽省重工业管理站”，下设政秘组、生产组和综合组。
1970年5月1日，安徽省革命委员会决定：省重工业管理站管理冶金的机构与省地质局合并，成立“安徽省冶金地质局”。局内设组长1人，副组长8人，设冶金等6个业务组，行政编制83人。
1973年3月20日，根据安徽省革命委员会编制领导小组通知，撤销省冶金地质局，分别成立“安徽省革命委员会冶金工业局”和“安徽省革命委员会地质局”。冶金局成立革命领导小组，组长1人，副组长7人。下设办公室、政工组、冶金组、基建组、计划财务组、供销组。行政编制75人。1975年10月15日，局内设机构改为政治处、办公室、生产处、计划财务处、基本建设处、安全劳资处，行政编制调整为70人。1977年3月11日经省编委批复增设科技处，与省冶金科学研究所一个机构两块牌子。
1980年元月，中共安徽省委决定，“安徽省革命委员会冶金工业局”更名为“安徽省冶金工业厅”。省冶金厅设厅长1人，副厅长6人；内设机构：办公室、政治处、安劳处、计财处、生产处、基建处、科技处。
1983年8月，在安徽省机构改革中，安徽省冶金工业厅改为“安徽省冶金工业总公司”。省冶金总公司不再作为政府部门，系经济组织机构，由省经委代管。冶金总公司设经理1人，副经理4人，处、室11个，企业编制77名。11个处室分别是：办公室、政治部、计划财务处、科技处、生产处、安全劳资处、基本建设处、教育处、机动能源处、机关党委、纪检组。
改为总公司后，由于只有金光钢厂、铜陵冶金原料运输处两个直属企业，再收回一些地方重点企业也不可能。因此，总公司没能进行实质性运转，属于行政性公司。
1985年3月1日，安徽省人民政府根据政企分开、简政放权的精神，并报经国务院批准，安徽省冶金总公司改为“安徽省冶金工业厅”，厅内设机构不变，厅机关编制由企业编制改为行政编制。
从1958年省冶金局成立起，由于机构的不断变化，所属企业也不断变化，直到1974年再度成立冶金局后，企业变化才相对稳定。发展到1980年底，全省冶金系统单位有76个，其中部属4个，省属10个，地（市）县属62个。
根据1979年关于对国民经济进行“调整、改革、整顿、提高”的方针，全省冶金系统停、缓建了一些重点项目，关、停、并、转了一些企业，又新成立了一些单位，到1985年底，全省冶金系统单位有54个，其中部属6个，省属11个，地（市）县属37个。