Anthropic advierte que los empleados 100% impulsados por IA están a un año de distancia

Tendrás que monitorear a una identidad que no es humana

Jason Clinton, director de seguridad informática en Anthropic, explicó a Axios que los agentes actuales solo ejecutan tareas programadas como responder alertas de phishing, pero los nuevos empleados virtuales tendrían autonomía real.

«Estos agentes tendrían memoria, funciones internas, cuentas corporativas y acceso propio», señaló Clinton. Añadió que no existen aún mecanismos completos para decidir qué permisos darles ni cómo auditar sus acciones.

Los riesgos implican redefinir el concepto de identidad en los sistemas. Clinton advirtió que un empleado de IA podría acceder sin supervisión al sistema de integración continua, donde se prueba el código antes de lanzarse.

Podrían tomar decisiones y nadie sabría quién es responsable

En palabras del vocero de Anthropic: «En el mundo anterior eso sería una falta grave, pero en este nuevo escenario, ¿quién responde por un agente que funcionó por semanas y llegó a ese punto?»

Ese dilema, según Clinton, anticipa una ola de cambios en ciberseguridad. Ya hay empresas que están desarrollando plataformas para gestionar identidades no humanas, como Okta, que lanzó en febrero un sistema unificado de monitoreo y control.