El fraude científico representa un desafío creciente para la comunidad investigadora, con la aparición de empresas conocidas como paper mills, que fabrican artículos de manera fraudulenta y los venden a investigadores para inflar sus publicaciones. Estas empresas utilizan la inteligencia artificial para crear textos que incluyen datos falsos o imágenes repetidas, así como frases elaboradas de forma confusa para eludir sistemas de detección de plagio. Ante esta situación, se han desarrollado modelos de lenguaje que actúan como herramientas para detectar este tipo de fraudes.
El papel de la inteligencia artificial en la detección del fraude
Uno de los modelos más recientes en este campo es BERT, creado por Adrian Barnett y su equipo de la Universidad Tecnológica de Queensland en Brisbane, Australia. Este sistema, similar al que utilizan los filtros de spam en el correo electrónico, ha sido diseñado para identificar artículos sospechosos en el ámbito de la investigación oncológica. Barnett y su equipo revisaron 2,6 millones de artículos científicos sobre cáncer publicados entre 1999 y 2024 en más de 11 500 revistas, detectando más de 260 000 documentos que podrían proceder de estas fábricas fraudulentas.
Los resultados de su estudio aún no han sido publicados en revistas científicas ni han pasado por un proceso de revisión por pares, pero fueron compartidos en el servidor de preimpresión bioRxiv en septiembre. BERT compara los textos con artículos que ya han sido retractados por ser fraudulentos; si encuentra coincidencias, los marca como sospechosos. Para llevar a cabo esta comparación, se han utilizado títulos y resúmenes de Retraction Watch, un blog dedicado a la integridad en la investigación.
El análisis revela que la actividad de estas empresas ha aumentado drásticamente en las últimas dos décadas. Mientras que a principios de los años 2000 solo el 1% de los artículos publicados eran sospechosos, esa cifra ha crecido a más del 15% en la actualidad, alcanzando un pico del 16% en 2022.
Retos y críticas a la utilización de la IA
La primera herramienta de este tipo fue desarrollada hace tres años por la empresa Clear Skies, que hasta la fecha ha identificado más de un millón de artículos y analiza más de mil prepublicaciones diarias, según su fundador, Adam Day. Este último destaca que la lucha contra el fraude debe apoyarse en tres pilares: «Herramientas, personas y supervisión». Además, enfatiza la necesidad de educar sobre la integridad en la investigación, instando a que los humanos utilicen estas herramientas en lugar de ser controlados por ellas.
Sin embargo, no todos los expertos comparten esta visión optimista. Joaquín Sevilla, catedrático de la Universidad Pública de Navarra, expresa sus dudas sobre la eficacia de la IA en este contexto. Considera que combatir el fraude científico con sistemas automatizados es «combatir el fuego con más fuego». Según él, el enfoque debería dirigirse hacia una ciencia más humana, donde los expertos lean y evalúen los artículos en lugar de confiar ciegamente en algoritmos.
Sevilla también advierte que ya se han encontrado artículos con instrucciones ocultas dirigidas a los sistemas de revisión por IA para obtener reseñas favorables. Este problema salió a la luz en verano, cuando la revista Nature reveló la existencia de 18 artículos en repositorios de prepublicaciones que contenían mensajes ocultos, redactados en color blanco para ser invisibles al ojo humano. Los autores de estos artículos pertenecían a 44 instituciones de 11 países en Norteamérica, Europa, Asia y Oceanía.
A pesar de las ventajas que la IA puede ofrecer en la detección de fraudes, Sevilla coincide con Barnett en que es fundamental contar con supervisión humana para evitar riesgos. «Confiar ciegamente en esta tecnología es suicida», concluye, subrayando que depender únicamente de la inteligencia artificial para vigilar el fraude en la ciencia podría acarrear consecuencias desastrosas.
