L'azienda fu ufficialmente fondata nel 1853 da Carlo Erba, laureatosi in farmacia presso l'Università di Pavia e già attivo da molti anni nella farmacia milanese di Brera.

Tra i motivi della fondazione indicati dallo stesso Carlo Erba vi fu la volontà di portare in Italia, allora priva di laboratori moderni e quasi isolata dalla ricerca scientifica dell'epoca, le moderne scienze farmaceutiche.

Il primo nucleo dell'azienda fu un piccolo laboratorio, situato nei pressi della farmacia dove aveva lavorato fino a poco tempo prima, dotato di vari strumenti tra cui un generatore di vapore a 4 hp che impiegava quattro operai.

Nel 1859 Carlo Erba decide di ristrutturare la produzione su larga scala e di espandere il proprio mercato al di fuori dell'Italia: nel 1860 furono acquistati dei terreni nei pressi dell'attuale via Solferino, dove sorsero nel 1864 i nuovi stabilimenti Carlo Erba, che pochi anni dopo impegnava 80 operai.

L'attività della società continuò a crescere negli anni: nel 1880 il campionario dei prodotti dell'azienda comprendeva più di 1700 diverse voci, mentre nel 1892 fu aperto un nuovo stabilimento nei pressi di Dergano.

Nel 1907 la società conta 1200 operai e la produzione è divisa nelle linee di "chimica pura", "chimica farmaceutica" e "chimica industriale".