凤台早期属徐扬二州(淮北为徐，淮南为扬)之境。
周代，属青扬二州(青、扬以淮为界)之境。
西周时为州来国，后被楚国所灭，为楚之州来城。周简王二年(公元前584年)秋8月，吴入州来。周景王七年(公元前538年)楚冉丹城州来。周景王十六年(公元前529年)吴灭州来，季札封延陵后辖州来城，故名延州来。周敬王二十七年(公元前493年)冬十一月，吴把蔡昭侯由河南新蔡迁都于州来，遂改名为下蔡。历经昭侯、成侯、声侯、元侯、侯齐五代，历时47年。战国时，蔡世家侯齐四年(公元前446年)，楚惠王灭蔡，蔡侯齐亡，下蔡仍属楚地。
秦代，秦灭楚后统一中国，实行郡县制。置下蔡县，属泗水郡，九江郡。西楚时项羽立英布为九江国王，下蔡属九江国。
汉代，汉初高帝五年(公元前202年)立淮南国，下蔡属淮南国。元狩元年(公元前122年)淮南国废，为九江郡，下蔡县属沛郡。后汉俱属九江郡。
三国时，属魏国的淮南郡。
晋代，晋初下蔡属淮南郡。晋末南北分裂，战事颇繁，县境来去无常，又在县境内设置了很多屯兵的城戍。南北朝时，下蔡属北魏，太和十九年(495年)置下蔡郡。
隋代，开皇初下蔡郡废，仍置下蔡县，属淮南道。
唐代，武德四年(621年)于县置涡州，为州治。武德八年州废，仍为下蔡县，属颍州(今阜阳)。
五代十国，下蔡属颍州(今阜阳)，南唐、后周因之。周世宗显德四年(957年)三月，攻克寿州(今寿县)，世宗以其难以攻克，遂将寿州移治于下蔡，降为防御州并恢复其军为忠正军，原寿州为寿春县(今寿县)。
宋代，北宋下蔡为寿州，属淮南西路，政和六年(1116年)寿州升为府，名为寿春府，下蔡为府治，南宋乾道三年(1167年)府废。南宋与金划淮为界，下蔡为金之寿州，寿春为宋之寿州，故有“南北寿州”。
元代，下蔡县隶属安丰路。
明代，洪武二年(1369年)九月，寿春县、安丰县、下蔡县废，并入寿州。在下蔡镇设巡检司。
清代，寿州属凤阳府。雍正十年(1732年)两江总督尹继善呈奏清廷批准，于寿州北分设一县，添知县一员，典史一员，分疆而理，因县北有凤凰山而得凤台县名。雍正十一年正式分置，与寿州同城治理(县衙设在今寿县城东北角)。同治四年(1865年)冬移县治于下蔡，隶属凤阳府管辖。
中华民国，民国初，废州府，县直隶安徽省。民国3年(1914年)6月属淮泗道(道尹驻凤阳)。民国17年8月，废道，直隶安徽省。民国21年10月，属安徽省第四行政督察区，隶属寿县专员公署。民国27年属安徽省第七行政督察区，隶属阜阳专员公署。抗日战争胜利后属淮南专员公署。
1949年1月12日，凤台县解放，划属阜阳专员公署。
1977年1月20日，划属淮南市管辖。