En la isla de Gaztelugatxe hay una ermita consagrada a San Juan del siglo IX. También hay una pequeña edificación que permite resguardarse cuando llueve o está mal tiempo, si se tercia tomar un refrigerio y descansar de la larga subida.
Tiene un acceso espectacular, para llegar a ella tenemos que pasar por un estrecho puente de piedra hecho con dos arcos que da principio a lo que se parece una réplica de la gran muralla china y que trepa hasta lo alto del promontorio con 237 escalones que están marcados con las doce estaciones del viacrucis. La ermita de San Juan de Gaztelugatxe es de origen templario y en su patio interior se han encontrado restos de enterramientos medievales. Es tradición que cuando se llega a ella, tocar la campana de la ermita trece veces y pedir un deseo. El islote está totalmente atravesado por túneles y tiene numerosos arcos que se funden en el mar . Cuenta la leyenda que durante la inquisición en las cuevas del peñón se encerraban a los acusados de brujería. La ruta, que no presenta grandes dificultades, sigue la señalización de un sendero local balizado por el ayuntamiento de Bakio en Vizcaya.