民国时期，县政府设建设科，管理农林、垦殖、蚕桑、渔牧等事项。
1949年5月，县人民政府设实业科，管理农林、水利工作。1950年11月，改实业科为建设科。1955年3月，以县农业技术推广站为基础，成立县农业局，内设行政、农政、农业、特产、畜牧兽医、水产6个组；计配干部34人，其中技术干部19人。1957年3月，县农业局与林业科合并为县农林局，内设农业、林业、畜牧、水产4个组，下辖6个区农技站，共有干部95人。1958年8月，撤销农林局，分设农业和林业两局。1961年11月，两局复并为农林局。1962年，县农林局内设行政、种子、农艺、经济特产、畜牧水产、公社经管、林业共7个股站，下辖9个区农业服务站，合计干部89人。
1966年9月，县农林局、县水电局合并成立县农林水办公室。1967年初农林水办公室陷于瘫痪；3月，县抓革命促生产第一线指挥部下设农林水组。1968年2月，县抓革命促生产第一线指挥部撤销。在中国人民解放军宣城县支左领导小组生产委员会内设农林水小组；8月，原农林水小组撤销，在县革命委员会生产指挥组内设农业小组，负责管理农业、林业、水利、农机、水产、气象等。1969年1月。将原县农林水办公室和县畜牧兽医站、森工站、城关木材站、气象站合并，成立县农业管理服务站；站内设政工、生产2个组，并下设测量队、水产畜牧站、气象站和木材供应站等机构。1970年9月，撤销县革委会内设的生产指挥组及县农业管理服务站，成立县农林局革命委员会，下辖县农业科学技术中心服务站、种子站、畜牧兽医站、水产管理站、家畜配种站、森保站以及9个区农业技术服务站、5个林业工作站、3个木材检查站等机构。1974年3月，农林分开，单独设立县农业局革命委员会，茶叶和蚕桑机构划归林业局领导。1977年2月，设立县革委会农林水办公室。1979年9月，原属县农业局的水产站划出成立县水产局。1981年3月，茶叶、蚕桑机构由县林业局划归县农业局领导。
1984年2月，撤销县农林水办公室；同时撤销县农业局，改设县农牧局，局内设人秘、农业、经作、计财4个股，下辖土肥站、植保植检站、畜牧兽医站、农科所、种子公司、县农牧场、水稻良种场和棉种场；9月，又增设农村能源办公室、经济作物工作站、农机管理站。
1986年3月，为了加强对农村经济工作的领导，县人民政府增设县农村经济委员会，在全县农口起综合协调作用。
1987年，县农牧局下辖15个事业单位(1个农科所，4个农牧场、10个农业技术推广站)、2个企业单位(县种子公司和县农机公司)，干部职工总数为579人，其中有技术干部78人。