Asit yağmuru, kayadaki bazı minerallerle kimyasal olarak reaksiyona girerek suda erimesine ve bağlandığı yapıdan kaçmasına neden olarak erozyona neden olur. Bu özellikle kireçtaşı ve mermer gibi ondan türetilmiş kayalar. Kireçtaşının temel bileşeni, asidik bileşiklere karşı çok hassas olan kalsiyum karbonattır.
Asit yağmuru, endüstriyel ve diğer modern işlemler atmosfere kükürt bileşikleri salgıladığında oluşur. Bunlar suyla reaksiyona girerek asit yağmuru ana etken maddesi olan sülfürik asit oluşturur. Bu çözünmüş asit, yağmurlu olarak kireçtaşı veya mermer üzerine taşınır ve kayadaki kalsiyum karbonat onunla reaksiyona girer. Bu reaksiyon su, karbondioksit, kalsiyum iyonları ve sülfat iyonları üretir. Tüm bu ürünler daha sonra akan yağmur suyu ile taşınır. Bu hem kireçtaşından yapılmış doğal hem de insan yapımı yapıları aşındırır ve önemli kalsiyum bileşiklerinin toprağını tüketir.
Asit yağmuru çevreye başka şekillerde de zarar verir. Asit yağmuru göl gibi su kütlelerinde birikir ve onları daha asidik hale getirir. Bu, gölleri o kadar asitli hale getirebilir ki, artık çoğu balık ve diğer organizmaları desteklememektedir. Ek olarak, kalsiyum ve diğer bileşiklerin toprakta çözünmesi, çevreye toksik alüminyum ve diğer iyonları bırakabilir.