1954年5月以前，铜官山地区的司法工作由铜陵县人民法院管辖。同年6月成立安徽省人民法院铜官山矿区法庭，隶属于安徽省人民法院。1956年6月，撤销安徽省人民法院铜官山矿区法庭，成立安庆地区中级人民法院铜官山派出庭，隶属于安庆地区中级人民法院。
1956年10月18，将铜官山派出庭改设为铜官山市人民法院，内设刑事审判庭、办公室。1957年附设法律顾问处和公证室。
1958年10月，撤销铜官山市人民法院和铜陵县人民法院，成立安徽省铜陵市中级人民法院，并设立大通区、顺安区、铜官山区三个基层人民法院。1959年4月，市县分开，市中级人民法院及各区人民法院予以撤销，成立铜陵市人民法院。1960年5月，撤销铜陵市人民法院，恢复铜陵市中级人民法院，下设铜陵市矿区人民法院，后改称为市区人民法院。1961年又将市区人民法院改设为铜官山区、铜港区两个基层人民法院。1963年4月，市中级人民法院和铜官山区、铜港区人民法院予以撤销，又恢复成立铜陵市人民法院。内设刑事审判庭、民事审判庭。1964年12月，随着铜陵特区的建立而成立铜陵特区人民法院。
“文化大革命”期间，铜陵特区人民法院被“砸烂”，人员被下放或调离，由中国人民解放军铜陵特区公检法军事管制委员会行使审判权。
1973年7月恢复成立铜陵市人民法院，内设刑事审判庭、民事审判庭、秘书科(后改为办公室)。与1975年4月成立的铜陵市中级人民法院(内设第二审判庭，后改为巡回审判庭)，实行两块牌子，一套机构。
1976年3月，撤销铜陵市人民法院，成立铜陵市向阳区人民法院和铜陵市红星区人民法院。1978年4月，撤销铜陵市向阳区人民法院和铜陵市红星区人民法院，恢复成立铜陵市人民法院，与铜陵市中级人民法院实行一套机构，两块牌子。内设第一刑事审判庭，第二刑事审判庭、第一民事审判庭、第二民事审判庭、司法行政科和办公室。
1979年11月30日，铜陵市中级人民法院与铜陵市人民法院分开办公。1980年8月撤销铜陵市人民法院，分别成立铜官山区、狮子山区、铜山区、郊区4个基层人民法院。
至1985年底，铜陵市中级人民法院内设五庭二室一科和一个分部。