I sin egenskab af Generaltolddirektør for Danmark aflagde den kendte statistiker og historiker Marcus Rubin besøg i Horsens den 15. august 1913. Besøgets skyldtes, at byens nye toldkammer skulle indvies denne dag.
Bygningen blev tegnet af arkitekt, professor Hack Kampmann, og opførelsessummen beløb sig – iberegnet inventar – til 194.000 kr.
Selve funderingen og byggeriet varede to år og mange udenbys og indenbys firmaer deltog i arbejdet og leverede materialer til bygningen.
Fra Horsens bidrog f.eks. Brødrene Nielsen med granitarbejde og Paasch & Larsen sørgede for de elektriske installationer. Den kunstneriske udførelse stod billedhugger Hansen – Rejstrup samt stukkatør og billedskærer Holm for.
Horsens Avis kritiserede i 1913 toldvæsenet for ikke at have lagt bygningen med bredsiden ud mod fjorden, og avisen bemærker, at toldkammeret tager sig bedst ud fra hjørnet af Havneallé. Det er da også herfra de fleste mennesker nyder synet idag, hvor besejlingen af inderhavnen er mindsket.