承担机车运用和检修任务的是铁路机务段。淮南铁路建成之初，即在九龙岗东矿设置机车房，属煤矿管理。民国24年（1935年）12月，成立九龙岗机务段，段址在九龙岗站东南。民国25年1月1日，淮南铁路通车，九龙岗机务段投入运用，运用从捷克进口的机车牵引九龙岗到裕溪口间的客货列车。民国27年6月，日本三井矿业会社和三菱矿业会社合组淮南煤矿有限公司，统管淮南煤矿和铁路，将九龙岗机务段划分为机关区和检车区，并从日本运来部分机车，加强客、货列车的牵引动力。抗战胜利后，国民政府接收淮南铁路，恢复了九龙岗机务段。1949年1月18日淮南解放，淮南市铁路被临时军管，6月划归济南铁路局。1958年1月1日，九龙岗机务段划归上海铁路局机务处，同时蚌埠给水领工区、九龙岗准备所、燃料厂以及合肥机务折返段、裕溪口机务折返段均并入九龙岗机务段。1959年9月17日，九龙岗机务段迁至合肥，更名合肥机务段，九龙岗设机务折返段，归合肥机务段领导。1986年12月淮南机务段成立，九龙岗机务折返段的人员、机车及设备均划归淮南机务段，九龙岗机务折返段撤销。1987年2月12日原属蚌埠机务段管辖的阜阳机务折返段的人员、设备也划归淮南机务段。
随着铁路的发展，淮南市铁路运用的机车类型逐渐进步，牵引区段不断地扩大。民国25年（1936年）前，九龙岗矿机车房使用的是从捷克进口的小型机车，牵引区段仅有九龙岗至洛河12公里。淮南线通车后，九龙岗机务段机车牵引区段扩展到九龙岗至裕溪口。日军占领期间，先后从日本调来SL9型和SL型两种机车牵引旅客列车，调来KD5型机车牵引货物列车。民国31年淮南至蚌埠的铁路通车，九龙岗机关区的机车牵引区段为九龙岗至蚌埠区段。随着淮南线的修复，牵引区段又恢复了九龙岗至裕溪口区段。1950年，牵引区段又延伸至八公山，后再延伸至张楼。1970年以后日制SL9、SL型机车逐步由国产JF、JS型机车取代，1989年以后全部改用国产QJ型机车。货物列车1959年前用日本式KD5型，1960～1969年使用国产JF型，1970年以后全部改用国产JF、JS、QJ型机车。1987年后，随着阜淮线的建成通车，淮南机务段牵引区段增加了直通阜阳、裕溪口区段，牵引区段总长达466公里。
随着铁路的发展，淮南市铁路配属机车由最初的1台发展到1990年的66台。牵引列车对数由日均1列发展到日均48.5列。淮南机务段1987～1990年全段机车已牵引走行1106.98万公里，牵引总重达181亿吨公里。