Olin aloitti uransa vuonna 1913 isänsä Western patruuna Companyn, Olin Industries, Inc: n edeltäjän kemian insinöörinä. Vuonna 1935 Western Patrultin ostettua Winchester Repeating Arms Companyn hänet nimitettiin yhdistetyn Winchester-Westernin ensimmäiseksi varapuheenjohtajaksi ja Winchester-divisioonan johtajaksi. Hänestä tuli Olin Industriesin toimitusjohtaja vuonna 1944 ja kun yhtiö fuusioitui Mathieson Chemical Corporationin kanssa vuonna 1954, hänestä tuli uuden yhtiön hallituksen puheenjohtaja, joka sai nimen Olin Mathieson Chemical Corporation. Myöhemmin nimi lyhennettiin muotoon Olin Corporation. Mr. Olin eläkkeellä kuin puheenjohtaja hallituksen vuonna 1957 tulla puheenjohtaja toimeenpanevan komitean, kantaa hän toimi, kunnes hänet valittiin kunniapuheenjohtaja hallituksen vuonna 1963.
Olin oli keksijä tai osasyyllinen 24 yhdysvaltalaisen patentin keksijään aseiden ja ampumatarvikkeiden valmistuksen ja suunnittelun alalla ja oli vastuussa lukuisista ballistiikan kehityksestä.
John Merrill Olin kuoli 89-vuotiaana vuonna 1982 kotonaan East Hamptonissa, New Yorkissa.