本区现辖各县、市皆历史悠久：早在秦时，已置历阳县；隋开皇初，改潜县为庐江县。北齐天保六年（555），改历阳为和州。唐武德六年（623），以历阳县所属之旧龙亢县地置含山县。唐武德七年（624），改襄安为巢县。北宋熙宁三年（1070），再析巢县、庐江地置无为县。其后直至清末，各县的称谓、境域、隶属关系虽有多次更迭，但其建置仍基本未变。
民国元年，巢县、无为县、庐江县、和县、含山县均直属安徽省。后各县隶属关系多次变更。民国36年4月至38年1月，上述5县均隶属安徽省第九行政督察专员公署。
民国期间，在抗日根据地和解放区内，现辖县、市均建立过人民政权。
民国31至33年，区内成立了无为县政府、和含行政办事处、湖东行政办事处，均隶属皖中行政公署。民国34年（1945）春，在皖江行政公署（由皖中行署改称）领导下，区内成立了皖中、和含2个专员公署。皖中专署（与行署合署办公）领导无为县政府、临江行政办事处、湖东行政办事处，无南行政办事处、江流船舶办事处；和含专署领导和县县政府、江全行政办事处、含巢行政办事处。上述机构至抗日战争胜利、新四军奉命北撤时而撤销。
民国37年（1948）春，成立皖西第四专员公署，辖无为、临江、无南、湖东、巢含、和含、肥东、肥西8县。民国38年1月，成立江淮第五专员公署。是时，原属皖西四专署之巢含、和含、肥东3县已划归江淮五专员公署，五专署遂辖含山、和县、江全、巢县、肥东、巢湖（为原肥东、巢县两县滨湖毗邻区域）6县。
民国38年6月，成立巢湖专员公署并撤销皖西四专署及江淮五专署建置，下辖巢县、无为县、庐江县、肥东县、肥西县、含山县、和县、三河市并巢湖水上公安局。1950年3月，三河市并入肥西县。1952年1月，全省行政区域有较大调整：巢湖专员公署与宣城专员公署合并成立芜湖专员公署；巢县、无为县、庐江县、和县、含山县划属芜湖专员公署；肥东县划属滁县专员公署，肥西县划属六安专员公署。1958年7月，庐江县划属六安专员公署；8月，巢县改属合肥市；11月，和县、含山县划属马鞍山市；12月，和县、含山又合并为和含县；次年4月，和含县再划属芜湖专员公署；5月，和含县重又划为和县、含山两县。1961年4月，巢县由合肥市划出，仍归芜湖专员公署。
根据国务院1965年5月批复，巢湖专员公署于同年7月25日恢复建置，署治巢县城关，辖巢县、无为县、庐江县、肥东县、和县、含山县6县。1971年3月专区改称地区。1983年7月，肥东县划归合肥市建置。1984年1月4日，经国务院批准，巢县撤县改市，属地区管辖。