Olin karrierjét 1913-ban kezdte vegyészmérnökként apja Western Cartridge Company-nál, az Olin Industries, Inc.elődjénél. 1935-ben, miután a Western Cartridge megvásárolta a Winchester Repeating Arms Company-t, az Egyesült Winchester-Western első alelnökévé és a Winchester divízió vezetőjévé nevezték ki. 1944-ben az Olin Industries elnöke lett, majd a Társaság egyesülése után Mathieson Chemical Corporation 1954-ben az Olin Mathieson Chemical Corporation nevű új vállalat igazgatóságának elnöke lett. Ezt követően a nevet Olin Corporation-re rövidítették. Olin Úr 1957-ben nyugdíjba vonult az igazgatóság elnökeként, hogy a Végrehajtó Bizottság elnöke legyen, ezt a tisztséget addig töltötte be, amíg 1963-ban az Igazgatóság tiszteletbeli elnökévé nem választották.Olin 24 amerikai szabadalom feltalálója vagy társfeltalálója volt a fegyver – és lőszergyártás és-tervezés területén, és számos ballisztikai fejlesztésért volt felelős.John Merrill Olin 1982-ben, 89 éves korában hunyt el a New York-i East Hampton-i otthonában.