La IA genera alucinaciones que invaden bibliotecas con textos inexistentes

Hasta hace poco, se pensaba que el impacto negativo del contenido erróneo generado por la inteligencia artificial —ese material abundante, poco fiable y de bajo costo— quedaría restringido al ámbito digital. Espacios en línea abarrotados de ruido, motores de búsqueda menos efectivos y plataformas creativas afectadas por la artificialidad. Sin embargo, la situación ha cambiado: ahora este fenómeno está afectando a un entorno que parecía a salvo de la desinformación automática: las bibliotecas.

Cuando los libros no existen, pero son buscados

Este fenómeno ha sido documentado recientemente por Scientific American y comienza a repetirse con una alarmante frecuencia. Personas se dirigen a bibliotecas y archivos en busca de libros, artículos científicos o capítulos específicos que no figuran en ningún catálogo. No se trata de un error de indexación ni de una edición perdida. Simplemente, esos textos no existen.

Además, la Cruz Roja Internacional ha señalado esta problemática y ha responsabilizado directamente a herramientas de IA generativa como ChatGPT, Gemini o Copilot. Aunque el problema no es nuevo, su magnitud sí lo es. “Estos sistemas no investigan ni verifican fuentes”, explican. Generan texto a partir de patrones estadísticos, lo que incluye referencias inventadas que parecen creíbles, pero que conducen a un callejón sin salida.

Bibliotecarios abrumados por citas fantasma

El impacto es evidente para quienes trabajan en bibliotecas, según Xataka. La directora de investigación de una biblioteca en Virginia estima que al menos un 15% de las consultas por correo están vinculadas a documentos generados por IA. El reto no es solo localizar información, sino demostrar que algo no existe.

Una bibliotecaria compartió en Bluesky cómo un estudiante le pidió que localizara una extensa lista de referencias. Tras no encontrar ninguna, se dio cuenta de que provenían de resúmenes automáticos de Google. El patrón se repite: títulos reales de revistas, autores creíbles y números de volumen que nunca fueron publicados. Según The New York Times, este problema ya había sido identificado anteriormente. La IA no crea desde cero: combina elementos reales para generar algo convincente. Esto se convierte en una pesadilla para los sistemas de catalogación tradicionales.

Libros y artículos académicos generados por IA

Las referencias falsas no son el único problema. También están surgiendo libros completamente escritos por IA que muchos bibliotecarios describen, sin rodeos, como “increíblemente malos”. Corea del Sur ya experimentó el fracaso de un programa de libros escolares generados por IA, que fueron retirados tras mostrar errores graves y falta de coherencia pedagógica.

Simultáneamente, el ámbito académico también empieza a verse afectado por este problema. Futurism ha revelado que muchos artículos sobre inteligencia artificial están elaborados… con inteligencia artificial. La producción ha aumentado y congresos como NeurIPS han tenido que fortalecer sus sistemas de revisión. Casos como el del investigador Kevin Zhu, con más de 100 artículos en un año, han encendido todas las alarmas: textos con errores básicos, citas inexistentes e incluso fragmentos ocultos para manipular revisiones automáticas.

El dilema de la inteligencia artificial

En la terminología técnica, se les llama “alucinaciones”, y son una de las debilidades más evidentes de los modelos de lenguaje. El problema no es que cometan errores (los humanos también lo hacen), sino que lo hagan con una confianza desmedida, concluye Xataka.

El caso de Deloitte, que presentó al gobierno australiano un informe con referencias completamente falsas, evidenció el riesgo: cuando confiamos en la IA sin realizar verificaciones, el error deja de ser digital y pasa a ser institucional. Las bibliotecas, históricas guardianas del conocimiento, están siendo una de las primeras instancias en notar este significativo impacto. Y su mensaje es claro: mientras la IA no logre diferenciar entre conocimiento y apariencia, el esfuerzo humano seguirá siendo esencial. Porque cuando todo suena plausible, la verificación se vuelve más crucial que nunca.