1951년 농촌 경제를 위한 금융 기관으로 농업협동은행이 세워졌으나 이듬해 인민은행에 통합됐고, 1979년 국무원 결정으로 네 번째 재설립되며 현대 농업은행의 역사가 시작됐다(Wikipedia).
1993년 국유 상업은행 전환이 결정되고 1994년 정책금융 사업을 신설된 중국농업발전은행으로 넘겼으며, 1999년에는 부실자산을 중국장성자산관리공사로 이관했다(Milestones of ABC). 2007년 허베이성 지점에서 약 5,100만 위안 규모의 절도 사건이 벌어졌다.
2008년 주식유한공사로 개편한 뒤 2010년 상하이와 홍콩 동시 상장으로 당시 세계 최대인 221억 달러를 조달했고(Wikipedia), 2014년 금융안정위원회의 G-SIB로 지정됐다. 2025년에는 중소 농촌 금융기관 통폐합 개혁이 농업은행의 역할과 시장 환경에 영향을 주고 있다(글로벌이코노믹).