马鞍山建市初期，未设专门的科技管理机构，科技工作一度由省科委主管。1959年2月，始设马鞍山市科学技术委员会，编制6人，下设办公室，负责管理全市的科学技术工作。1962年，在国民经济调整时期，由于精简机构，下放人员，市科学技术委员会随之撤销。直至1965年10月，始恢复市科学技术委员会机构，编制11人。1966年5月，经市编制委员会批准增加行政编制9名。1966年“文化大革命”开始后，编制计划落空，全市的科技管理工作被迫停止。1968年3月，市革命委员会成立后，科技工作由市革委会生产指挥组下设的综合小组兼管。1970年9月，马鞍山市实行政企合一新体制，市革委会生产指挥组设科技质量小组，分管全市科学技术工作。1975年12月，始设马鞍山市科技局，下设办公室和业务科，隶属市计划委员会领导。1978年1月，成立马鞍山市革命委员会科学技术委员会，同时撤销市科技局。市科委内设机构有办公室、业务科和政工科，1985年底，撤销政工科，新设综合科。1987年机构改革后，又撤销综合科，增设科技干部管理科。
马鞍山市科学技术委员会成立后，陆续组建（含划拨代管）一些下属单位。至1985年底，辖有市科学技术情报研究所、市地震局（代管）、市科技开发中心、市电子计算机中心、市科技干部培训中心等5个单位。