秘密水牢是日军为迫害矿工和抗日人士修建的秘密地下监狱。原位于大通煤矿南门内，后按原样迁建于“万人坑”阶级教育展览馆院外西侧。
秘密水牢分地上地下两部分，地上部分为一灰砖结构转角瓦房，南墙立有高5米的烟囱，实为室内水牢透气通道。此建筑原为日军警备司令部。地下水牢位于地上部分的北端房内，地上为审讯室。地下水牢砖砌水泥抹面，与房间进深等长6.85米，宽3.3米，深2米，中有一隔墙，分为大致相等的两部分，每个部分都设有铁门，铁门另修1米见方的竖井，用铁架梯与地面相连，井口用铁板盖住。牢内昏暗无光，阴森可怖。
民国28年（1939年）冬，日本人为加强对矿区统治，从蚌埠招来9名泥瓦工秘密修建。为杀人灭口，修成后，把这9名工人秘密处死，直到1951年秘密水牢才被人们发现，因此死于牢中的人数亦无法统计。秘密水牢是日本帝国主义残酷迫害中国人民的一处重要罪证遗址。1986年被列为省重点文物保护单位。