合肥解放初，看守所隶属司法部门。1950年，看守所移交公安部门统一管理。当时有15人组成的看守班负责看守、警戒工作，并开始建立一些规章制度，如收押案犯时进行登记、检查、编号、发号牌后分别关押；收押案犯有物资时发给收据，案犯出所时凭据领物；每月灵活检查号房；找个别表现较好的人犯了解号房情况。1952年后，市看守所逐步建立健全收押、警戒、看守、提讯、押解、接见和生活卫生、物品信件检查等规章制度。
1953年9月上旬，市检察署对监所进行历时8天的检查，认为监所较整洁，无臭虫、跳蚤和虱子，无传染病，但还存在管教方法简单，偏重惩罚等缺点。对此，看守所进行认真整顿，加强管理和教育。1954年，对犯人开展了争取光明前途，认罪服法教育。一些人犯经教育后坦白余罪、检举他人。1956年，看守所兴建房屋54间，增设浴池、图书室、医疗室、理发室等设施，改善了人犯的生活条件。1958年，市看守所根据中央提出的“惩罚管制与思想改造相结合，劳动生产与政治教育相结合”的方针，组织一些在押犯生产自给，如挑土方、做钳锅、砸矿石等。老弱病残犯、女犯在室内做鞋底、织毛衣、磨豆腐、缝纫等。当年生产获利4814.85元。1959年，利用特赦机会，对看守所在押犯开展政治攻势。据不完全统计，在押犯检举监内外反革命和其他刑事案件线索材料327件，经查证属实199件。继续坚持生产自给，全年收入3468元。生产成果一般用于改善犯人生活。
1960年元月30日晚，发生18名行政拘留人员挖洞逃跑事件，看守所采取紧急措施组织追捕，并总结教训对监所进行检查，堵塞漏洞，消除隐患。1961年，4个公安分局均设置拘留所。第二年，西市分局拘留所并入北市分局拘留所。不久，又撤销其他分局拘留所，行拘人员与未决犯分别关押和管理。1962年以后，看守所在押犯一般不参加劳动，判刑后全部送往省劳改局所属劳改场所。
1973年，设立行政拘留所，市公安局颁布了《关于拘留所工作制度暂行规定(试行草案)》，明确拘留所关押管理依照《治安管理处罚条例》，收押时凭治安管理处罚裁决书，并规定其主要任务及教育、生活、卫生等制度。1979年，在检察院的配合下对监所进行两次全面检查和整顿。一是及时组织清理积案，解决关押超过法定期限问题。二是划分号房，包管包教，及时掌握人犯思想动态。三是开展政治攻势。通过宽严处理典型案件，促使在押犯认罪服法。四是抓监所环境卫生和生活管理。定期进行消毒、洗晒衣被、洗澡、理发和剪指甲。对病犯及时检查治疗，有急病和疑难病的，均经批准住院治疗。对在押犯的生活，按照规定的标准，本着平时略有节余，节日适当改善的原则，做到吃粗、吃饱、卫生。
1981～1982年，市看守所认真贯彻中央21号文件和全国人大常委会发布的3个法律，对在押人犯开展政治攻势，取得了明显效果。2年内，在押人犯共坦白交待各类案件205起。在学习、宣讲、教育阶段，采取集中宣讲和分组学习相结合，个别谈话和集体讨论相结合的方法。首先由“三长”(法院院长、检察长、公安局长)结合实际宣讲三个法律文件，然后将文件材料发至各个号房，进行分组学习，并根据不同对象，采取不同的教育方式，对轻微犯罪人员，立足于教育、挽救，通过摆事实、讲道理，进行感化。对多次逃跑，或几次拘留、劳教、劳改的，则着重讲明政策，晓以利害，启发他们主动交待罪行。
1984年始，看守所逐步实行以明确职责，考勤考核为主要内容的岗位责任制。管教干部分号包干后，做到“四包”，即包安全、包教育、包管理、包卫生。每月组织干警检查评比。干警的考勤办法：每天由本人签到，所领导查核，月终统计，张榜公布。年终结算评比，根据每人出勤和实绩，对照岗位责任制实行奖惩。与此同时，在看守人员中开展“搞好文明管理是不是全心全意为人民服务”和“假如我的亲属在关押期间被虐待，我是怎么想的”讨论。许多看守员在讨论后，自觉改变过去简单粗暴的管理方法，把人犯当人看，不打骂虐待，实行革命的人道主义。为了搞好监管秩序，在人犯中开展创“五好个人”、“五好监房”的活动。“五好”的具体内容是：①学习好。每天熟记监规，知道本人触犯《刑法》哪条，知道当天报纸、广播上刊播的重要新闻。②遵守制度好。遵守各项监规，发现他人违反监规及时报告管教干部。认罪服法，不搞串供，不将危险违禁物品带入号房。⑧文明礼貌好。不讲脏话、举止文明，不吵嘴打架。④卫生整洁好。不在墙壁、铺板、门窗上乱写乱画，讲究个人卫生、保持室内整洁卫生。⑤爱护公物好。爱护衣被、书刊、报纸，不损坏门窗，铺板等监房设施。每月由分包监房干部掌握，评比一次“五好个人”。经本人对照，大家评议，报所务会审批后给予奖励，有的建议办案单位予以从宽处理，有的结案后，将“五好”登记表转送劳改单位。对“牢头狱霸”，经报批给予加带戒具。对其中屡教不改的，将其表现材料送办案单位建议从严惩处。
1986年，看守所坚持依法管理、文明管理、从严管理。加强监所安全设施，加固和更换铁窗及破损铺板。严格收押、出所人犯的检查制度。清查危险物品，排除事故隐患。实行目标管理，管教人员对包干的号房人犯做到知姓名、知案情、知思想，特别对重点人犯严格控制管理，落实防范措施，并严格交接班制度。整顿监房秩序，实行文明管理，经常对在押人犯进行法制和前途教育，组织收听广播、阅报，学习文化知识，开展“假如我是受害者”的讨论。采用请人犯亲属规劝的办法，利用人犯亲属送衣探监等机会，介绍人犯入监后思想情况，请他们运用讲话录音或写信规劝，促使人犯认罪服法。加强对人犯的卫生防病工作，督促人犯搞好个人卫生，监房内外经常清洗消毒，保持整洁。把人犯当人看，严禁打骂体罚，严禁随意使用电警棍和戴戒具。
1987年后，看守所推行以定岗定责为主要内容的目标管理，实行教育经常化，管理制度化，生活规范化，促进人犯认罪服法，改恶从善，确保监所安全。此后，看守单位总的管理发展为“四四”目标管理。具体内容为：①无自杀、无逃跑、无行凶、无传染病蔓延。②组织落实、制度落实、措施落实、生活卫生落实。③与办案单位配合协调，抓耳目建设，完善监管设施，做好信息反馈。④严禁打骂体罚人犯，严禁接受人犯及亲属馈赠物品，严禁为人犯通风报信，严禁侵占挪用囚粮和人犯物品，严禁使用人犯为管教干部干私活。1990年3月，市公安局制定了《合肥市看守所、收审所目标管理实施方案》，从监所安全、管理教育、管教干部队伍建设等方面作出了明确的规定和要求，进一步完善了岗位责任制。
1992年，贯彻实施国务院发布的《看守所条例》，全面改进和加强看守工作。一是加强安全防范，在实行目标管理、岗位责任制基础上，坚持24小时双人坐班制度。全年组织28次安全检查，查缴铁钉、绳索等违禁品120余件，串供信42封，堵塞隐患漏洞100余处，确保了监所安全。二是严厉打击“牢头狱霸”，对查获的118名“牢头狱霸”依法予以从重处罚。三是物色建立治安“耳目”，提高狱中侦察破案能力，先后破案15起。市看守所利用“耳目”提供线索，破获李朝流氓杀人案，王正云抢劫杀人案和李炳桥拎包盗窃2.7万元的重特大案件。四是严格依法管理，文明管理，不断对人犯进行法制、道德、形势和劳动教育。积极做好防暑降温，防病治病工作，使在押人犯没有发生中暑、疾病传染和死亡等重大事故。五是加强监所建设，自1989年动工兴建的市看守所竣工投入使用，监控安装一期工程开通，成为全省一流的看守所。新看守所位于合肥市城东乡螺丝岗，占地面积13162平方米，其中建筑面积11148.1平方米，3幢监房，建筑所面积3635.4平方米，可关押600～800人犯。监房内设置有线广播，闭路电视，便于对犯人实施教育。监房设有铺板，冷、热水管及淋浴装置，放风场，电风扇等，通风、采光条件良好，监所内还设有理发室、医务室，改善了在押人犯的改造、生活环境。