1961年2月26日，设立农林局，主管市郊区所辖相山、杜集、高岳3个公社农业生产。1963年市农林水利局成立，取代市农林局，由内设的生产组负责农技、林业、畜牧、水利等业务。
1964年4月27日，组建农业委员会。1966年，设立农业办公室，作为农口的协调部门，同时撤销市农委。1968年，市农林水利局革委会成立，取代农办和农林水利局工作。随后，农林水利局被撤销，后又于70年代初恢复。
1975年12月10日，市农林水利局成立。1976年2月，成立市农业机械管理局。1977年2月，成立市农林办公室；4月，分别成立农林局、水利局取代农林水利局。1978年12月，成立市水产局。1979年，设立市农委，撤销市农林办公室。1980年9月20日，成立市社队企业管理局。
1983年底，机构调整，撤销市农委、农林局、农机局、水产局、社队企业管理局，于1984年1月正式合并成立市农林牧渔业局。1984年下半年，乡镇企业系统划出独立成局，杜集区、相山区、烈山区分别设农林水利局。1989年，成立农业、科技、教育统筹协调领导小组。三区一县均建立农科教领导小组及办公室。