民国元年（1912年），蚌埠即有警察署，当时属凤阳县管辖。民国3年，军阀倪嗣冲在蚌督皖，咨请北洋政府批准，改为蚌埠警察专局，不久即实行专局、分局的两级管理。
民国9年，在倪嗣冲被解职后，来蚌军阀轮换频繁，每换一路军阀，即更换一任警察机构长官。军阀在蚌统治时期，警察直接受制于军阀头目。北伐战争胜利后，蚌埠警察机构直属省政府管理，实行总局和分局两级管理制。
民国元年至24年，蚌埠警察机构除承担社会治安、卫生管理外，还承担司法职能。警察局对民事案件、违警案件有审判权，对刑事案件也有预审权和逮捕权（预审后解凤阳县政府审判）。民国24年，在凤怀地方法院、地方检察署设立后，司法职能转移。
沦陷后，警察机构初属凤阳县公署。民国28年，伪省政府设立蚌埠，亦直接在蚌设立省级警察机构，实行总局、分局、派出所三级管理制。民国36年蚌埠设市，警察机构属市政府管理，负责弹压警戒、社会戒严、情报搜集、社会调查、民众组训、交通管制、卫生管理、市容整治、建筑管理、消防及处理民事案件、侦查刑事案件等事宜。
蚌埠解放后，建立了人民公安机构，隶属市人民政府管理，业务上受省公安机构指导。同时，逐步实行市局、分局、派出所三级管理制。解放初期，公安机关主要行使社会治安、户政、交通、消防等管理工作，不再代管卫生管理事项。1950年初，辖区成立人民治安委员会，以派出所为单位组建治安分会和义务消防队、人民纠察队等组织，并以户籍勤区为单位设置治安小组，一些企事业单位设立保卫科，形成社会治安管理网。1950年至1951年9月、1953年6月至1962年8月、1963年至1971年7月，曾三度撤销分局建制，实行公安局、派出所两级管理制。1971年7月后，仍实行三级管理体制。
“文化大革命”开始后，人民公安机关受到冲击。1967年2月16日，人民解放军进驻公安机关，年底实行军管，并开始了公检法机构职能合一。1968年4月至1971年9月，一度成立市及市以下各级的“群众专政”指挥部，以取代公安机关维护社会治安的职能。1969年4月，市革命委员会设立人民保卫组，继续行使公检法职能。1973年4月，恢复公安局建制，属市革命委员会领导。1980年9月起，市公安局属市人民政府领导。
一、民国警察机构
蚌埠警察署民国元年（1912年）成立，隶属凤阳县管辖，至民国3年7月。
蚌埠警察专局民国3年7月20日成立，隶属淮泗道尹指挥监督。专局内设总务、行政、司法科和勤务督察处、捐务处及消防队，外设3个分局。一分局位于中，二分局位于东、三分局位于西。
蚌埠警察厅于民国10年7月12日由蚌埠警察专局改称，隶属省警务处管辖。民国12年3月12日，经安徽省长吕调元批准，并转呈北京政府内务部备案，设置厅长1人，警政6人，警佐12人，技士1人，督理分掌各项事务。厅内机构与专局时期基本相同，外设4个警察署。民国15年后，厅内又设卫生科和侦缉队、消防队。
蚌埠公安局于民国16年北伐战争胜利后，由警察厅改称，至民国19年。局内设总务科、行政科、司法科、卫生科、督察处、捐务处和侦缉队、消防队，辖4个分局。民国17年7月，增设第五分局，并在该分局内设消防队。
蚌埠警察局于民国19年由蚌埠公安局改称，至民国27年2月蚌埠沦陷。该局隶属省政府管辖，局内设总务、行政、司法科和督察处、秘书处、会计室、户籍室，辖2个保安警察队、1个侦缉队、1个巡查队，分设5个分局，任用警官200余名，警士500余名。
蚌埠市警察局抗日战争胜利后，国民党政府接收日伪蚌埠警察局，至民国36年1月蚌埠设市，成立市警察局。局址在二马路，设局长1人、秘书2人，下设督察处、司法科、行政科、总务科、户籍室、会计室、刑警队（原名侦缉队）、保警队（2个中队）、消防队、清洁队、盘查哨等。局辖4个分局，一分局驻国治街，二分局驻国庆街，三分局驻二马路（后移华盛街），四分局驻中正街。一分局下设太平里、小蚌埠派出所，二分局下设二马路、天桥派出所，三分局下设公园路、福寿里、中山街派出所，四分局下设蚌寿路、经三路、黄庄、老船塘派出所。全局共有警官108名，警员60名，长警750余名。蚌埠解放前夕该局解体。
安徽省长淮水上警察局于抗战胜利后民国34年9月设立，局址在国货路。民国35年4月至8月，一度因经费困难撤销。恢复后改设于二马路，直至蚌埠解放。该局下设秘书室、总务科、司法科、行政科、督察室、人事室、水巡队、刑警队，并在淮河上分设正阳关分局、田家庵分局、五河分局、盱眙分局及怀远、高家庵、老船塘直属所。
二、人民公安机构
民国38年（1949年）1月蚌埠解放，由市军管会接管原国民党市警察局及第一、二、三、四警察分局，成立市公安局，仍设于二马路（今凤阳路），为新组建的人民公安机关。初，局内设4个科、1个室及公安大队，辖一、二、三、四分局和1个消防队、1个清洁队，另设车站、轮船码头2个检查站。同时，设水上分局，旋即撤销，改在市船舶管理局（后改称市航政局）内设公安科，负责水上社会治安工作。同年4月，市公安局增设小蚌埠分局。7月，第一、二公安分局合并，称国安公安分局，三、四公安分局分别改称为中山公安分局和西市公安分局。建国后1951年3月，市区公安分局撤销，至9月再行恢复，并陆续建立20个派出所，即中孚里、东门、东安、天锡里、永安里、国安街、三马路、福寿里、中山街、华昌街、中荣街、顺河街、太平街、胜利路、经一路、新船塘、乐安街、纬六路、蚌怀路、黄庄派出所。1953年上半年，市区公安分局再度撤销，改派区特派员，同时合并掉5个派出所。
1955年4月，市公安局隶属市人民委员会领导，内设机构除政治协理员办公室和秘书科外，还设8个科和刑警队、交警队、消防队、武警队，辖派出所15个。1961年下半年，着手筹建市区3个分局，于翌年8月恢复成立东市、中市、西市区公安分局。1963年，市区3个分局再次撤销。1964年，消防队并入大队建制，下设3个中队。1966年9月，全局设8个科和政治处，辖郊区分局、消防大队、交通民警队及15个派出所和1个劳改队，共有干警465人。
1968年1月，市政法机关实行军事管制，开始称中国人民解放军蚌埠市公检法、淮河水上公安局军事管制委员会，后改为中国人民解放军蚌埠市公检法军事管制委员会，下设市公安、检察、法院和淮河水上公安局4个军管组。同年8月，撤销军管组。1969年4月，市公检法军管会与市革命委员会人民保卫组合并，组成市革命委员会人民保卫组，对外仍保留市公检法军事管制委员会名称。1971年7月，恢复区级公安分局，仍实行军管，各名为市公检法军事管制委员会东、中、西、郊区分局。军管期间，交警队名称未变，消防队更名为消防连。
1973年4月，重新组建市革命委员会公安局，内设政治处、秘书科、政保科、安保科、治安科、预审科、刑警队，辖各公安分局、派出所、看守所、交警队、消防连。1974年11月，消防连改称市公安消防大队。1975年8月1日，恢复称市公安局，仍隶属市革命委员会领导，至1980年9月，隶属市人民政府领导。1985年，内设委、处、办、科、室计13个，经济民警、治安交通民警大队各1个，辖东、中、西、郊、水上5个分局，33个公安派出所。
附：日伪警察机构
民国27年（1938年）2月蚌埠沦陷，7月，蚌埠自治委员会成立，并下设1个警务组。不久，自治委员会并入凤阳县公署，警务组改称为蚌埠警察署。
民国28年初，因伪安徽省维新政府设于蚌埠，伪安徽省警务处和伪安徽省警察局分别成立。伪警务处内设总务科、行政科、司法科、情报科及视察室、秘书室和警士教练所。伪省警察局属伪省警务处管辖，局址在国庆街。至民国34年8月，局内设秘书室、督察室和第一、二、三、四科，每科各设3个股。沦陷期间，蚌埠划分3个警区，各设一个警察分局。第一分局即国治街警察分局，管理横铁路东至火车站前后地段，辖太平里分驻所和二马路、天桥派出所；第二分局即中正街警察分局，管理西片地段，辖升平里分驻所和太平街、五叉路、老船塘路派出所；第三分局即中山街警察分局，管理中片地段，辖中荣街分驻所和国货路、公园路、新马路、小蚌埠派出所。
伪安徽省警察局在蚌还设有警察队、水巡队、消防队、侦缉队等。