清光绪二十九年(1903)设于安庆的安徽巡警总局，为全省最早独立设置的警察机构。安庆警政机关原附属于省警察机构内，民国16年(1927)安庆市公安局成立时分出。34年(1945)后，负责安庆警务的先后为安庆警察局、怀宁县警察局。
解放初期，市公安局先后开展清剿残余匪特分子、收缴武器弹药、对反动党团清查登记、镇压反革命、取缔反动会道门和禁毒禁赌禁娼等活动。社会主义建设时期，公安机关以开展基础工作、整顿社会治安为重点，发动和依靠群众，制止、打击反革命分子和其他刑事犯罪分子的破坏活动，监督改造地主分子、富农分子、反革命分子和坏分子，严格户口、交通、消防管理，加强防火、防盗、防特、防破坏的措施。“文化大革命”中，市公安局屡遭冲击，公安工作受到严重干扰，社会秩序混乱，打、砸、抢之风盛行。
1978年后，市公安局贯彻执行社会治安综合治理的方针，强化治安防范，稳定社会秩序，及时打击破坏社会治安的刑事犯罪分子。全市1981年发案率比1978年下降32.2％，已低于1966年前发案数；破案率为79.5％，达到1966年前最好水平。被公安部记集体一等功、二等功的有北正街派出所、大观公安分局；被省公安厅记集体二等功的有大观公安分局刑警中队、北正街派出所和市公安局刑警大队。1983年8月至1987年1月，市公安局与政法其他部门配合，连续开展打击刑事犯罪分子的斗争，依法从重从快惩办一批严重危害社会治安的犯罪分子。同时不断组织专项斗争和专项治理。1987年破案率达85.7％。刑事案件年万人发案率由1978年的39.8下降至1988年的6.12。市公安队伍逐步发展壮大，公安干警的素质有所提高，涌现出张新国(迎江公安分局指导员，1980年、1981年连续记一等功，1985年获二级英雄模范称号)、许健(市公安局长，1985年受省政府嘉奖)等优秀工作者。应用于侦察、审讯、交通、消防、通讯等业务工作的技术装备更新改善，并培养出一批技术骨干。