La lluvia ácida causa erosión al reaccionar químicamente con ciertos minerales en la roca, causando que se disuelva en el agua y de otra manera escape a las estructuras en las que está unida. Este es un problema particularmente con la piedra caliza y Rocas derivadas de él, como el mármol. El constituyente básico de la piedra caliza es el carbonato de calcio, que es muy vulnerable a los compuestos ácidos.
La lluvia ácida se crea cuando los procesos industriales y otros procesos modernos liberan compuestos de azufre a la atmósfera. Estos reaccionan con el agua, creando ácido sulfúrico, el principal componente activo de la lluvia ácida. Este ácido disuelto se transporta con lluvia sobre piedra caliza o mármol y el carbonato de calcio en la roca reacciona con él. Esta reacción genera agua, dióxido de carbono, iones de calcio e iones de sulfato. Todos estos productos son llevados con el agua de lluvia que fluye. Esto erosiona las estructuras naturales y artificiales hechas de piedra caliza y agota el suelo de importantes compuestos de calcio.
La lluvia ácida también daña el medio ambiente de otras maneras. La lluvia ácida se acumula en cuerpos de agua, como los lagos, haciéndolos más ácidos. Esto puede hacer que los lagos sean tan ácidos que ya no son compatibles con la mayoría de los peces y otros tipos de organismos. Además, la disolución del calcio y otros compuestos en el suelo puede liberar aluminio y otros iones tóxicos en el medio ambiente.