春秋，本县属吴地。战国，吴灭属越，越灭属楚。秦属鄣郡。
西汉初至武帝元封二年（前206～前109）间，置陵阳县，属鄣郡。元封二年，鄣郡更名丹阳郡，属丹阳郡。县域包括今本县南部陵阳、南阳、抄济等乡及石台东半部（六都、七都、河口、七井、广阳等乡）。
三国吴赤乌八年（245），置临城县，与陵阳县并存。临城县包括今本县东堡、杨田、城东、朱备、新河、蓉城、庙前、九华、杜村、木镇、竹阳、丁桥、乔木、酉华、童埠、五溪等乡镇及南陵丫山、河湾乡，铜陵董店乡等。时陵阳县包括今本县陵阳、南阳、沙济，石台县的广阳、七都、河口、七井乡，泾县部分乡村及黄山市岭上苏、岭下苏等地。
西晋太康二年（281），析丹阳郡以南为宣城郡，陵阳、临城同属宣城郡。东晋成帝咸康四年（338），因避杜后讳，改陵阳县为广阳县，仍属宣城郡。
东晋义熙中，侨置定陵县，县域包括今本县丁桥（古定陵乡）、竹阳、木镇等乡镇，南陵丫山、河湾乡及铜陵部分乡村，面积约600平方公里，属淮南郡。
宋齐时，定陵属淮南郡；临城、广阳属宣城郡。
粱时，同属南豫州、南陵郡。
陈时，于南陵郡置北江州，临城、定陵属南陵郡；广阳郡仍属南豫州宣城郡。
隋时，避扬帝讳改广阳县为南阳县。后南阳并入泾县，临城、定陵并入南陵县。
唐天宝元年（742），析泾县、南陵、秋浦部分地域置今县，因其在青山之阳，故名“青阳”。辖陵阳、临城故地，面积约1900平方公里。代宗永泰元年（765），析青阳县南地域（今六都、七都、河口、七井、广阳等乡），置石台县（原名石埭县）。时蓉城东至南陵县城68公里，过金山铺社桥为南陵界；西至贵池市40公里，过五溪桥玉山田为贵池界；南至石台县广阳乡（今属黄山市）45公里，至硫璃岭过河为石台县界；东南至泾县70公里，至黄箔岭（原名黄蘖岭，又名黄柏岭）脚为泾县界。面积1180平方公里。青阳、石台两县并属池州。唐太宗后至今，县域均无大变更。
五代初，属吴。后晋以后，属南唐，隶江宁府。
宋代，属池州，隶江南东路。
元代，属江浙行省池州路。
明代，属池州府，南京直隶。
清代，康熙六年后，属安徽省池州府。
民国初年（1912），属安徽省芜湖道。民国21年（1932），安徽省划为10个行区，本县属第八区。
1949年4月21日，属池州行署。
1952年撤池州行署，改属安庆专区。
1965年恢复池州专区建制，属池州。
1980年撤池州专区，改属宣城行署。
1983年7月，实行市辖县体制，改属芜湖市。
1988年9月，恢复池州行署，划属池州。