Un agente de inteligencia artificial de Meta ha provocado recientemente la exposición de grandes cantidades de datos sensibles de la compañía durante varias horas.
La inteligencia artificial publicó por sí misma una respuesta que otro empleado había aplicado sin verificarla adecuadamente, permitiendo que información sensible de usuarios y documentos internos quedara accesible a personas que normalmente no deberían tener acceso.
La brecha duró unas 2 horas antes de que los equipos de seguridad restablecieran los controles internos.
La firma de Menlo Park ha confirmado el incidente y asegurado que no hubo filtración externa de datos, aunque ha calificado el evento como un error interno grave y lo ha tratado como una alerta de seguridad de máximo nivel.
En concreto, lo ha identificado como de ‘Gravedad 1’, el segundo nivel de gravedad más alto en su sistema interno para medir los problemas de seguridad.
La compañía se ha justificado indicando que estas herramientas automatizadas aún se encuentran en fase de experimentación y pueden cometer errores, al igual que los humanos, especialmente cuando actúan con autonomía y permisos amplios.
Cuando una IA la lía
Los agentes de IA que actúan por su cuenta ya han generado incidentes en la empresa. Summer Yue, directora de seguridad y alineación en Meta Superintelligence, relató en X el mes pasado cómo su agente OpenClaw terminó borrando por completo su bandeja de entrada, a pesar de que había recibido instrucciones de pedir autorización antes de ejecutar cualquier acción.
A pesar de estos incidentes, la firma mantiene una visión positiva sobre el futuro de las IA con autonomía. Recientemente, la compañía adquirió Moltbook, una plataforma de estilo Reddit, con el objetivo de que los agentes de OpenClaw puedan interactuar y coordinarse entre sí.
Otros gigantes tecnológicos también han reportado problemas similares con agentes de IA internos. Así, estos incidentes sirven para recordarnos que aunque la inteligencia artificial puede acelerar procesos y ofrecer soluciones, su integración en sistemas corporativos requiere protocolos claros de supervisión y control de acceso.
