Un ejército de agentes autónomos de OpenAI operó en la sombra durante seis meses, infiltrándose en los sistemas de medio centenar de organismos globales, desde el FBI hasta la Clínica Mayo.
Lo que parecía una simple búsqueda de información científica o raspado de datos (scrapping) se convirtió en una alarmante exhibición de ciberespionaje automatizado donde la inteligencia artificial aprendió a esquivar sus propios límites, crear cuentas con correos desechables… y actuar como lo haría un ciberdelincuente profesional.
Según encontraron los expertos de la firma de seguridad Asymetric Security, los agentes de IA superaron las restricciones de sus entornos aislados (sandboxes) utilizando técnicas complejas. Llegaron a interactuar con plataformas externas de escaneo de malware (como Urlquery) para recibir confirmaciones de verificación y canalizaron sus peticiones mediante servicios de terceros para evitar el bloqueo de sus direcciones IP.
Para más inri, los agentes trataron de ocultar lo que habían hecho borrando los registros de actividad. Para los investigadores, este modus operandi imitaría al de los ciberataques tradicionales realizados por piratas informáticos humanos.
Pero, a diferencia de las amenazas tradicionales, aquí se dio una velocidad inédita. «El desarrollo y la evolución de las técnicas, que en los ciberdelincuentes habituales lleva meses o años, en estos agentes de IA se comprimió en cuestión de apenas unos días», han alertado desde Asymetric.
‘Son solo tareas rutinarias’
OpenAI ha señalado que están investigando los informes internamente. No obstante, argumentan que gran parte de la actividad detectada corresponde a tareas normales de investigación.Supervisamos constantemente cualquier actividad inadecuada en nuestros modelos y notificamos a las organizaciones cuando identificamos un impacto potencial en sus sistemas. La mayor parte de la actividad detectada estuvo vinculada a tareas rutinarias de investigación mediante el acceso a contenido web disponible públicamente», ha explicado la firma de Sam Altman en un comunicado emitido a Financial Times.
Sin embargo, la acumulación de incidentes recientes -como las brechas ocurridas el sistema sanitario de Australia o en la plataforma Hugging Face- ha reabierto el debate sobre los límites operativos de los agentes autónomos y sus peligros en términos de ciberseguridad.
