En la parte de poniente de la playa de Agua Amarga, en la ladera del Cerro del Cuartel hay una serie de cuevas que en una época fueron vivienda de hippies y anteriormente fueron utilizadas por obreros del "ferrocarril minero" que llevaba mineral de hierro desde los hornos de fundición de Lucainena hasta un embarcadero construido a poniente de Agua Amarga.
Las cuevas, sin embargo, parecen ser más antiguas y su creación se debe a la erosión, ayudada posteriormente por la mano del hombre.