I 1885 blev den første koncertforening skabt i Horsens. Dens formål var at vække og udvikle Sandsen for god Musik, og som til den Ende vil søge at foranledige hyppigere Optræden af Kunstnere her i Byen. Medlemsbidraget var 5 kr.
Koncertforeningens koncerter afholdtes i den nyåbnede Haandværkerforening, men også i Caroline Amalielund holdtes store koncerter.
Den første symfonikoncert blev afholdt 1. november 1885, og på programmet var bl.a. Beethovens første symfoni. Deichmanns orkester talte på dette tidlige tidspunkt kun 24 musikere, men det var alligevel en stolt dag for byen, da man første gang magtede en symfoni-opførelse.
I 1903 oprettedes et egentligt sym-foniorkester med 45 musikere under musik-direktør Marquards ledelse, og symfoni-orkestret nåede at fejre 25 års jubilæum.