Caraffova väznica je neskorogotická stavba zo začiatku 16. storočia, zakončujúca budovu dnešnej mestskej radnice. Ide o jednu z mála zachovaných gotických pamiatok v Prešove. Budova bola postavená v r. 1504 – 1509 na pozemku člena mestskej rady maliara Petra Molera, ktorého dom na Hlavnej ulici mesto odkúpilo a adaptovalo na mestskú vináreň. Budova slúžila vinárni ako skladisko sudov a iného príslušenstva pravdepodobne až do konca 17. storočia, no v archívnych záznamoch z r. 1530 sa spomína aj ako jedna z prešovských väzníc, a to vďaka svojej blízkosti pri mestskej radnici.

Budova dostala pomenovanie počas Prešovských krvavých jatiek r. 1687, kedy na základe nespravodlivého súdu cisárskeho generála Antónia Caraffu z Neapola (1642-1693) bolo na námestí pri evanjelickom kolégiu potupne popravených 24 uhorských zemanov a mešťanov.

Jedna z prešovských mučiarní, ktoré dal Caraffa zriadiť kvôli výsluchom obvinených, sa nachádzala aj v podzemných priestoroch dnešnej radnice, ktorá vtedy tvorila s budovou jeden architektonický celok. Obete Caraffovho súdu v nej však nikdy väznené neboli. Svoje meno dostala budova asi až neskôr, azda podľa jej charakteristického tvaru. Podľa niektorých písomných zmienok boli v budove uschovávané kontrolné mestské miery a váhy, ba dokonca sa tu istý čas nachádzala aj mestská zbrojnica. V druhej polovici 19. storočia v nej bola mestská väznica.

Od začiatku 20. storočia sa budova začala využívať na archivovanie mestských písomností, s jedinou prestávkou, a to počas 2. sv. vojny, keď koncom r. 1944 bol celý archívny materiál mesta Prešova kvôli vojnovým udalostiam a blížiacemu sa frontu presunutý do Opavy. V r. 1955-1956 sa uskutočnili adaptačné práce a celková úprava vnútorných priestorov, aby mohli slúžiť archívnemu uloženiu písomností mesta a pre Mestský archív v Prešove.