¿Qué acaban de lanzar OpenAI y Anthropic?
OpenAI presentó Daybreak, un programa de ciberseguridad que combina sus modelos más recientes con un análisis de código automatizado para encargarse del modelado de amenazas, la identificación de vulnerabilidades, la aplicación de parches y la corrección con escasa intervención humana. Se interpreta de forma generalizada como la respuesta de OpenAI a Project Glasswing de Anthropic, centrado en la seguridad. Dos de los laboratorios de IA más capaces ofrecen ahora una ciberdefensa autónoma, lo que indica hacia dónde se dirige el campo.
¿Por qué esto es una advertencia y no solo un producto?
Los defensores no automatizan a velocidad de máquina por comodidad. Lo hacen porque los ataques ya se mueven a esa velocidad. La IA permite ahora que un atacante sondee un sistema, encuentre una debilidad y la explote en minutos en lugar de semanas, y a una escala que ningún equipo humano puede vigilar a mano. Cuando los laboratorios con más recursos concluyen que una defensa al ritmo humano ya no basta para sus propios sistemas, esa es la señal más clara hasta ahora para todos los demás.
¿Cuál es el riesgo de la propia defensa autónoma?
Entregar a un sistema autónomo las llaves de su propia infraestructura introduce una nueva exposición. Una herramienta que puede corregir un sistema también puede juzgarlo mal, cambiar lo que no debe o ser manipulada, y hace todo eso más rápido de lo que una persona puede detectar. El objetivo no es evitar la defensa con IA; es que la seguridad autónoma sin supervisión reubica el riesgo en lugar de eliminarlo. Alguien todavía tiene que decidir qué se le permite cambiar al sistema, y quién responde cuando se equivoca.
Leer a continuación: Su riesgo de IA acaba de volverse inasegurable · Tu agente de IA ya puede gastar tu dinero. Lo difícil es todo lo que ocurre después.