Rådhusgade (tidligere Provstegyden) var en uligevægtig gade. Ligesom de øvrige sidegader til Søndergade var den beboet af håndværkere, men overfor deres velholdte, hyggelige huse lå den utilnærmelige retsbygning med sine tilgitrerede arrestvinduer. Den smukke, respektindgydende bygning var rejst år 1900 efter tegning af byens førende arkitekt H. F. J. Estrup.
De umage naboer levede med hinanden, indtil de små huse sammen med Vandborg (på Polititorvet) i 1918 blev offer for den første store sanering i byen. På billedet ses for enden af gaden Horsens Trikotagefabriks udsalg. Datidens fabrikker solgte varerne fra egne butikker. I Huset skråt overfor på hjørnet af Rådhusgade (taget ses på billedet) havde Crome & Goldschmidt udsalg, og K. Madsen havde fabrik og butik få huse derfra i nr. 30 (hvor nu Byarkivet ligger).