解放前，合肥是国民党反动派经营、控制的重要地区。据1949年4月调查，国民党在合肥的中统、军统特务机构有18个，反动党团组织4个，反动会道门组织13种，青红帮、封建把头组织14个，以及国民党省政府在溃退时作的“应变”部署，有计划地潜伏下来一批特务、政客等。他们勾结封建势力和土匪武装猖狂地进行暗杀、抢劫等恐怖活动。同时盗匪为患，烟毒流行，游民乞丐充斥街头，社会秩序混乱不堪。
新生的人民公安机关认真调查敌社情况，绘制了“国民党政情图”，对国民党、三青团匪特人员进行了自新登记；配合军事部门，在乡村开展剿匪反霸斗争。同时，在户口登记调查中，重点调查了匪特在市区旧的社会关系，侦查潜伏城内匪特，集中搜捕逃窜城市的散匪。
1950年3月，中共中央发出《关于严厉镇压反革命分子活动的指示》。同年7月23日，政务院和最高人民法院联合发布了《关于镇压反革命的指示》。合肥市委在党政负责干部会议上进行了传达贯彻，及时组织侦破了一批反革命案件。但由于在实际工作中一度存在“宽大无边”的偏向，因而，在1950年捕获的53名反革命分子，有的捉了放，放了捉。匪首韩家友4次自新3次叛变，当地群众称这是“放虎归山”，抱怨说“天不怕，地不怕，就怕政府讲宽大”。
1950年10月10日，中共中央发出了《关于纠正镇压反革命活动的右倾偏向的指示》(简称“双十指示”)，合肥市委及时召开会议，检查了镇反中出现的右倾错误，决定从12月中旬开始，有计划有步骤地开展镇反运动，并明确了运动打击的重点是土匪、特务、恶霸、反动党团骨干和反动道会门头子等残余反革命分子。
市委从实际斗争情况出发，镇压反革命运动分三个阶段进行：
一、(1950年12月至1951年10月)以行政镇反为主，迅速铺开运动。1950年12月，合肥市委召开全市干部会议，根据党中央“双十指示”精神，对镇反运动作了动员部署。同时，市公安局召开干部会议，检讨了过去对反革命打击不力的偏向，组织力量，对敌情材料进行综合研究和整理，结合土改、户口管理，发动群众密告检举隐藏的反革命分子，提出搜捕对象的名单和罪证材料，报市委审查批准。于1951年1月20日，第一次集中搜捕了浮在面上的五类残余反革命分子137人，其中重大反革命骨干分子52人，不法地主恶霸85人。
近郊农村在镇反运动中，采取城乡统一行动，使逃亡的特务、恶霸地主纷纷落网。截止1951年1月，市区协助邻近乡村捕捉恶霸地主35人。镇反运动开始后，反革命首恶分子受到沉重打击，动摇分子开始投案自首，坦白交待自己的罪行。市委针对前阶段对反动党团特人员自新登记纷扰较大，不够彻底的情况，抓住这一有利时机，再次进行了自新登记工作。截止1951年底，市区登记的反动党团特人员2043人。并加强了对自新人员的管理教育，进一步分化了敌人营垒。
二、贯彻《惩治反革命条例》，推动运动走向高潮。1951年2月21日，中央人民政府颁布《中华人民共和国惩治反革命条例》，合肥市委号召全市各条战线广泛学习、宣传镇反条例，通过召开诉苦会、控诉会、代表会、公审会，举办展览会等，大张旗鼓地宣传动员群众投入镇反运动。同年4月23日，市区第二次集中搜捕了81名反革命分子，并于4月27日召开了合肥市镇压反革命各界代表大会，控诉反革命分子罪行，公开宣判了27名罪大恶极的反革命分子死刑。在镇反大会上，有的苦主、街道居委会向政府送锦旗、献词，拥护镇反，赞扬政府为民除害。有位民盟代表说：“以前认为镇压反革命会引起社会波动，现在好人平静，震动的是坏人。”城南村苦主张梁民在镇压王继法等匪特大会上，向政府敬献了“为民除害”的锦旗。在南门外群众控诉惯匪周叶芝的大会上，双目失明的张老太咬牙切齿地控诉说：“民国36年，我儿张振斌因说了周匪不务正业的话，周得知后抄了我的家，将我儿拉到门外枪杀了。为此，婆媳流落外乡，直到解放才敢回家”。这血泪控诉，使全场群情激愤，“打倒土匪恶霸”的口号声此起彼落。全市以派出所警区为单位，召开了40场控诉会，由1560名群众代表控诉了99名在押反革命犯，使镇压反革命运动做到家喻户晓，妇孺皆知。许多群众消除疑虑，积极投身镇反运动。有的不顾病痛冒雨去挖埋藏的枪支弹药；有的检举隐藏的武器和未登记坦白的反革命分子；有的自带路费干粮到外地去捕捉反革命分子和搜集材料；有的大义灭亲，检举自己的父亲和亲友。截止同年5月底，先后检举揭发和捕捉81名隐藏的反革命分子，查获长短枪24支，以及一大批弹药等。
三、谨慎收缩，清理积案。随着镇压反革命情绪的高涨，在部分干部和群众中要求多捕多杀的“左”的思想情绪开始滋长，公安司法机关在办案中出现粗糙草率现象，捕了一些可捕可不捕，杀了个别可杀可不杀的反革命分子。同时，监狱内罪犯畏罪逃跑、自杀时有发生。1951年5月中旬，市委召开扩大会议，传达贯彻毛泽东主席提出的镇反要执行“严肃与谨慎相结合的方针”、中共中央批准的《第三次全国公安会议决议》以及皖北行署公安局关于镇反要适当收缩的电报。会议明确提出坚决贯彻立即收缩，严格控制捕人杀人的方针，并决定以清理积案，组织犯人投入劳动改造为突出的中心任务。5月23日，合肥市成立由市长树海、公安局长黄建中，以及党外人土童车五等9人参加的17人组成的反革命案件审查委员会，其主要任务是协助公安司法各部门审查反革命案件，参与量刑问题的讨论。该会成员每人一册《惩治反革命条例》，参加群众控诉会，认真审查案犯口供、证据等材料，依据条例定罪量刑。民主党派人士万选初、童车五参加南门群众控诉特务王继法血腥罪行后，义愤填膺，表示要积极协助政府做好镇反工作。在清案工作中，采取发动坦白、重点审讯、群众调查相结合的方针，通过区乡(街道)干部群众代表会、座谈会、以及个别查访等形式，补充、核实材料，吸收民主人士参加审议，然后由人民法庭在群众大会上审判处理。截止年底，共清理在押案犯529名，对被判刑的罪犯及时投入劳改，实行“改造第一、生产第二”，劳动生产与政治教育相结合，取得良好的社会效果。
1951年8月25日，市委召开第三次万人公判大会，依法宣判了103名反革命分子，处决了李本一等8名罪大恶极的反革命分子。当晚又组织全市人民收听了公判会实况广播。同年10月29日，市委采取分类部署镇反措施，派出两个工作组，配合郊区，采取召开群众大会、控诉会等形式，深入发动群众，结合土改，消灭镇反死角，经半个月的调查取证，于11月24日逮捕84名反革命分子。并及时召开公判大会，依法处决封建把头朱景熙等5名反革命分子。
1951年12月至1952年11月镇反运动进入第二阶段。这一阶段，开展清理中层和内层工作。合肥市于1951年9月成立了清理中层学委总会，12个学委分会。在全市机关、团体、企事业单位内部开展了“忠诚老实运动”。市委召开有关部门负责干部会议，强调采取慎重的方针，团结绝大多数，孤立和打击极少数混入内部的残余反革命分子。动员有历史和罪恶问题的人主动坦白，说真写实，讲清问题，同时互相开展批评和检举揭发。这一工作一直延续到1952年10月结束。据统计，全市经过政治清理的51个单位4134人，清理中暴露出有各种政治问题和其他问题的517人，其中清理出五类反革命分子身份的137人，逮捕法办43人，历史罪恶不甚大，解放后主动坦白交待，又有悔改表现而被留用41人，其余或待处理或调离原工作岗位。
1952年5月，公安、司法、检察抽调12名干部，成立了清理积案办公室，下设审讯、审查、判决、缮写组。至七月底，清理反革命案犯139名，其中判处死刑12名，死缓2名，判决有期徒刑97名，判处管制18名，教育释放10名。
1952年6月，政务院颁布了《管制反革命分子暂行办法》，合肥市采取群众提名，搜集证据材料，报请公安司法机关批准，对30名反动党团骨干、特务恶霸、地主等进行管制，实行管制改造。全市有被杀、关、管的反革命分子家属600余户，较普遍地存在不满情绪。为此，市委召开了14次反革命家属座谈会，讲明政策和政府对反革命家属的态度，讲解反革命分子的罪恶及应得惩处。先后有200余名反革命家属发言表态，有的还控诉、检举揭发亲人的罪行，转变了立场和态度。从1952年11月至1953年底为镇反运动的第三个阶段。1952年11月10日，市委召开公安系统、法院、检察署300余人大会，检查贯彻执行第四次全国公安会议精神情况，动员部署第三阶段的镇压反革命工作，要求在不同类型地区分别进行试点，实行分类指导。镇反已经彻底或基本彻底的地区，要不失时机地开展各项公安业务工作建设，转入经常性的对敌斗争，着重解决10％的结合部不彻底地区，深挖漏网反革命。为此，市公安局组织210名干部深入镇反不够彻底的3个市区派出所辖区和郊区2个乡进行典型实验后，以划分五类敌人的政策界限为标准，全面展开三期镇反调查摸底。通过调查，新发现的反革命分子达230余人，核实材料后集中逮捕95名反革命分子。镇反尚不彻底的郊区洪岗乡残存19名反革命分子，经查实5人负有1～4条人命血债，终于受到了打击处理。1953年，平息了“水鬼毛人”谣言，狠狠打击了现行反革命分子的破坏活动。
合肥市自1952年8月中旬开始，进行镇反复查判定，结合解决某些遗留问题。市公安局、检察院抽调干部组成了检查处理反革命案犯小组，检查3年来有无发生“四错”，即错捕、错杀、错判、错管的情况。通过检查，发现错捕21人，及时予以平反。并取消了一些不该管制和撤销了一些已经得到改造的管制对象。对漏管的重新予以管制，没有发现错杀现象。