清末民初，境内设有私塾、义学。光绪二十九年(1903)，林伯襄在林氏祠创办“明强学堂”，为县境第一所小学。宣统元年(1909)创办笔架山乙种蚕科学堂，为县境最早的职业技术学校。

民国18年(1929)立夏节暴动胜利后，苏区列宁小学遍布各地，开创了学校教育的新局面。

民国23年(1934)，全县有5所小学，16个班，632名学生。民国26年，本县与霍山合办1所初中，名霍立联中。民国34年秋至35年，县内先后创办私立皖西初级中学和立煌县初级中学。抗日战争期间，省教育厅在本县先后开办中小学校20多所、高等学校1所，抗战胜利后全部迁走。

1949年秋恢复7所小学，1所初中，共有41名教员，1072名学生。1950～1966年，采取公办和民办“两条腿走路”的方针，教育取得较大进展。“文化大革命”中教师受迫害，学校教学不正常，教育事业受到严重影响。

1978年以后，平反冤假错案，落实知识分子政策，调整中学布局，发展职业教育，建立安徽农学院农业专科班，开办函授和电大教育。1987年，全县有小学775所，完全中学10所(含农业职业高中2所)，初中59所(含农业职业初中1所)，师范学校1所，职业技术学校1所，共有学生11万余人，教职员工5000余人。1977～1987年，全县共为大专院校输送新生1066人，其中有32人大学毕业后考取研究生；为中专学校输送新生860人。