1866년 헨리 A. 셔윈이 오하이오주 클리블랜드에서 셔윈윌리암스를 세웠다. 1875년 미리 혼합된 기성 페인트를 내놓아 곧 업계 표준을 만들었고, 1905년에는 'Cover the Earth' 로고를 채택했다.
1929년 대공황의 여파로 매출이 1933년까지 급락하고 인력을 크게 줄였지만, 1941년 수성 속건성 인테리어 페인트 Kem-Tone으로 성공을 거뒀다. 1977년에는 820만 달러 손실과 파산 위기 속에 사업부를 팔고 매장 100곳을 닫았고, 1979년 취임한 존 G. 브린이 16년 연속 이익 개선을 이끌었다.
2014년 캘리포니아 법원에서 과거 납 성분 페인트 판매로 11억 달러 배상 판결을 받았고 2019년 3억 500만 달러에 합의했다. 그 사이 2016년 발표한 113억 달러 규모 발스파 인수를 2017년 마무리했고, 2024년 하이디 G. 페츠가 10번째 CEO로 취임했다.