Un reciente análisis de la Universidad de Edimburgo ha puesto de manifiesto que los ciberdelincuentes están encontrando serias dificultades para integrar la inteligencia artificial (IA) en sus actividades delictivas. El estudio, que ha examinado más de 100 millones de mensajes en foros de ciberdelincuentes utilizando la base de datos CrimeBB, revela que, a pesar del interés por aprender a utilizar herramientas de IA, su impacto en la forma de operar no ha sido significativo.
Pese a que los foros clandestinos muestran una curiosidad notable hacia las herramientas de IA, los resultados del estudio indican que los delincuentes no consideran estas tecnologías especialmente útiles. «Muchas de las reseñas y debates describen estas herramientas de IA como no especialmente útiles», señala el informe. De hecho, los investigadores no encontraron «ninguna prueba significativa» de que los piratas informáticos hayan mejorado sus actividades con la ayuda de la IA, ni como apoyo para aprender ni para desarrollar herramientas más efectivas.
Limitaciones en el uso de la IA por parte de ciberdelincuentes
La investigación sugiere que los asistentes de programación basados en IA resultan ser útiles principalmente para quienes ya tienen experiencia en codificación. «Primero tienes que aprender por tu cuenta las bases de la programación antes de poder usar la IA y sacarle realmente provecho», se lee en uno de los mensajes citados en el estudio. Por lo tanto, los modelos que ofrecen asistencia para programar no proporcionan un «empujón» relevante para acceder a dispositivos o eludir medidas de seguridad.
El estudio también destaca que el principal impacto de la IA en actividades delictivas se da en áreas que son fáciles de automatizar, tales como la creación de bots para redes sociales, estafas románticas y fraudes de optimización en motores de búsqueda (SEO). Los comentarios de los foros apuntan a que incluso los piratas informáticos más experimentados utilizan chatbots para resolver dudas de programación o generar «chuletas» que les ayuden a escribir código.
El uso de modelos de IA generalistas y sus limitaciones
La inteligencia artificial que realmente se está utilizando en el ámbito del cibercrimen pertenece a la categoría de «productos generalistas y legítimos», como Claude de Anthropic o Codex de OpenAI, y no tanto a modelos diseñados específicamente para la ciberdelincuencia, como WormGPT, que fue creado por hackers para generar código malicioso o correos de phishing. Muchas publicaciones analizadas en el estudio recogen peticiones de ciberdelincuentes que buscan técnicas para eludir las normas de seguridad de estos modelos generalistas, pero se encuentran con la dificultad de que los sistemas de IA ignoran sus intentos de vulneración.
Ante esta situación, los ciberdelincuentes se ven obligados a recurrir a modelos de IA de código abierto más antiguos y de menor calidad, que son más fáciles de vulnerar. Sin embargo, estos modelos tienden a ser menos útiles y «requieren recursos considerables», destacaron los investigadores. El estudio concluye sugiriendo que, por el momento, los mecanismos de protección implementados por las empresas de IA están funcionando eficazmente, lo que limita la capacidad de los ciberdelincuentes para aprovechar estas tecnologías avanzadas en su beneficio.
