马鞍山濒临长江，地处南京、芜湖二市之间，扼南北交通孔道，地理位置优越，水陆交通方便，早在秦汉时期就形成了水陆交通网。市区西南的采石矶，绝壁临江，地势险要，自古为兵家必争之地，又是重要的长江津渡。公元前210年秦始皇东巡，乘舟浮江而下，在采石登岸，向东横穿马鞍山境内，经丹阳（今小丹阳镇）前往浙江。东汉末期，随着江南经济进一步开发，马鞍山地区的交通日渐发达。建安二十四年（219），孙权派兵在采石修建堡垒，并在江边修造停泊战船的船坞。北宋开宝七年（974），宋将曹彬用樊若水计，在采石江面搭建浮桥，一举攻占采石，直取金陵（南京），灭掉南唐。元末明初，一些徽商筹集资金，修筑皖南山区至金陵的道路，使得马鞍山地区北接金陵，南经芜湖可达皖南，促进了与这些地区的经济文化交流。到了清代，陆路交通已有以金陵至芜湖的官道为主干道的6条主要道路。民国时期，马鞍山地区蕴藏的地下矿藏被陆续发现，矿冶业的发展，刺激了铁路、公路的建设。本世纪初，私营铁矿公司出资修建了矿区至码头的轻便铁路，以利矿石运输。民国21年（1932）马鞍山地区第一条由采石至江苏秣陵关的采秣公路建成通车，境内全长39华里（中溪至江苏界一段实际并不通车）。此后，南京至芜湖的铁路和公路相继建成通车，马鞍山成为京芜交通线上一个重要站点。
建国后，交通运输事业发展很快。经过30年的建设，到1987年，马鞍山已形成比较发达的铁路、公路、水路交通运输网，可通达江苏、上海、浙江、江西、湖北、福建等省市。马鞍山火车站是皖赣铁路线上的二等站，日接发旅客列车8对，货车24对，直达苏、沪、赣、闽、皖四省一市。此外还有厂矿铁路专用线270多公里。市内公路已形成网络，并与省际公路相连，通车总里程176公里，其中38.5％为二级以上公路。长途客运由独家经营发展到多家经营，开辟了68条班线，通达苏、浙、皖、沪三省一市。长江航运可达沪、皖、苏、赣、鄂、湘、川等地。马鞍山港是长江重要港口，现为外贸发货点和装卸点。1987年，全市有各种民用汽车4720辆，船舶147艘，专用铁路机车93辆。全年货物运输量5777万吨，其中铁路5206万吨，占90％左右。在铁路货运量中以厂矿专用铁路为最大，年货运量4800多万吨。公路、水路货运量分别为236万吨和334万吨，占货运总量的4.1％和5.8％。全年客运量672万人次，其中公路374万人次，占55.6％；水路209万人次，占31.2％；铁路88万人次，占13.2％。
马鞍山的交通管理部门有南京铁路分局马鞍山直属站、马鞍山市交通管理局、马鞍山港务管理局、马鞍山航政处、马鞍山市航运管理局，分别对铁路、公路、水路进行管理。马鞍山市交通管理局是市政府的职能部门，成立于1958年，曾一度改为交通运输局、交通运输管理局。1960年5月至1963年3月与市运输公司（后改名为搬运公司）合署办公，机关设12个科室，下属单位有汽车队、大板车队、小板车队和马车运输队等12个站、厂、队。1963年4月起，下属单位只有金家庄、向山交通管理站和汽车队（站）、搬运公司等8个单位。1969年2月，安徽省马鞍山市交通支队成立，全市的交通、邮电、公交、市政统归交通支队领导，支队机关设4个组（所），下辖汽车连等11个连队。1970年8月，恢复马鞍山市交通局建制。局机关设交通运输科和联运办公室等12个科室，直属单位有市搬运公司、省直汽车八队、交通管理站等11个司、站、队。1987年2月，马鞍山市交通局改建为马鞍山市交通管理局，实行政企分开，进行全行业管理，以加强对全市铁路、公路、水路运输的规划、指导、协调和服务。局机关设综合计划科、运输协调科、政秘科，定编25人。