早在土地革命时期，合肥地区就建立有儿童团和少年先锋队等少年儿童组织。1949年10月，成立合肥市少年儿童工作委员会。1950年8月，成立合肥市少年儿童队。1953年7月，根据中国新民主主义青年团第二次代表大会的决定，合肥市少年儿童队更名为少年先锋队。“文化大革命”开始后，各级校少年先锋队组织受到冲击，一度为红卫兵组织取代。1972年底，中共中央、中央文革规定“全国少年儿童组织统称红小兵”。自此，红小兵组织正式取代少先队组织。1978年10月，根据中国共产主义青年团十届一次中央委员会决议精神，合肥市少先队组织名称恢复，红小兵组织同时被取消，大部分红小兵被转为少先队员。1984年3月，成立合肥市少先队工作学会，由此，合肥市少先队工作步人新的发展阶段。至1985年底，全市少先队员总数达20多万人。