Según Padre Flórez, Compostilla es un lugar en el Camino de Santiago. El estrechón de la Fuente del Azufre era un paso obligado para los peregrinos que procedentes de toda Europa necesitaban, al llegar a Ponferrada, cruzar los ríos Sil y Boeza.
A finales del siglo XI, el Obispo Osmundo mandó construir el puente que le da nombre a la villa facilitando el vadeo del río Sil, los peregrinos desde entonces se dirigían por la zona de las Huertas del Sacramento hacía Compostilla para continuar con su camino hacia Columbrianos. La imagen que presidía la ermita de Compostilla está datada en el último tercio del siglo XII lo que nos da una idea de la antigüedad de la propia ermita.
Una de las referencias más antiguas a Compostilla se encuentra en la Real Chancillería de Valladolid. Se trata de un documento del año 1557 cuyo título es: Ejecutoria del pleito litigado por Andrés Penado con Mendo González, vecino de Ponferrada, sobre la posesión de una viña en el término llamado Compostilla, que el dicho Andrés Penado compró a Rodrigo Ares.
En el Diccionario geográfico de Pascual Madoz, publicado entre 1845 y 1850, en la entrada relativa a Columbrianos, al hablar de Columbrianos da unas nociones sobre Compostilla al decir lo siguiente:
«…puede afirmarse que al fabricar el obispo Osmundo a últimos del siglo XI sobre el Sil, el puente que dio nombre a la villa, fue con ánimo de que los peregrinos siguiesen el camino de los romanos, abandonado sin duda por la destrucción del que estos tendrían no muy lejos sobre el mismo río pues de este modo se evitaba el rodeo, que antes daban pasándole más arriba y yendo a parar al antiguo de Compostella en la falda occidental del Castro de Columbrianos.[…]
En tiempos pasados tuvo mayor extensión por la parte del S., en donde se ven todavía restos de algunas casas que sirven hoy de cierro a varias posesiones; a él debieron venir, atendida su mejor posición, los vecinos de un pueblo sito al E. en la falda occidental de Castro de Columbrianos, llamado Compostella, y que en la actualidad es un hermoso viñedo con el nombre de Compostilla, en donde efectivamente se encuentran ruinas de una pequeña población»
En 1908 por la coronación como patrona del Bierzo a la Virgen de la Encina, se realiza un concurso que gana D. Silvestre Losada Carracedo con su obra «Ermitas Marianas en el Bierzo». En la página que habla de Santa María de Compostilla sitúa el lugar entre el Sil y Columbrianos que por aquel tiempo tenía Ayuntamiento propio.
Nos dice que la Ermita era un Santuario que celebraba su romería el día 12 de abril y que su nombre lo debe a que pasaban por allí los peregrinos camino de Compostela.
Según la investigación realizada por Amador Diéguez Ayerbe, a principios del siglo XX, María López Álvarez era la propietaria de una viña que llamaban del Cementerio.
Esta viña se formaba de otras dos menores, una parte había sido comprada a un tal Gabela de Columbrianos y la otra a una familia de San Lorenzo. En la parte baja de aquella viña se encontraba la llamada «Ermita de de Compostiella».
Al derrumbarse parte de esta ermita la imagen románica de nuestra Señora que en ella se veneraba fue trasladada a otra pequeña ermita situada en los pagos del Refugio, más exactamente en la Cuesta de San Martino.