1951년 Herman Knaust가 냉전기 기업 문서를 지키기 위해 Iron Mountain Atomic Storage Corporation을 세웠고, East River Savings Bank가 첫 고객이었다(Wikipedia). 1970년대 초 초기 사업 모델의 한계로 파산 위기에 몰렸고, 1975년 Vincent J. Ryan이 회사를 인수하며 재도약의 발판을 놨다.
1988년 Bell & Howell Records Management를 인수해 12개 시장으로 넓혔고 1996년 뉴욕 증권거래소에 상장했다. 2000년 경쟁사 Pierce Leahy Corp.을 약 11억 달러에 인수해 기록 관리 1위가 됐다(Wikipedia). 2004년 Iron Mountain Digital을 세웠지만 2011년 Autonomy에 3억 8천만 달러에 팔았다.
2014년 REIT로 전환했고, 2017년 IO Data Centers의 미국 사업부를 13억 달러에 인수하며 데이터 센터로 방향을 틀었다. 2021년 ITRenew를 최소 9억 2천 5백만 달러에 인수했고, 2025년 마이애미에 첫 데이터 센터 MIA-1을 착공했다. 2025년 연 매출은 69억 달러였다.