O que é que a OpenAI e a Anthropic acabaram de lançar?
A OpenAI apresentou o Daybreak, um programa de cibersegurança que combina os seus modelos mais recentes com análise automatizada de código para tratar da modelação de ameaças, identificação de vulnerabilidades, correção e remediação com pouca intervenção humana. É amplamente interpretado como a resposta da OpenAI ao Project Glasswing da Anthropic, focado na segurança. Dois dos laboratórios de IA mais capazes disponibilizam agora, ambos, defesa cibernética autónoma, o que mostra para onde o setor se dirige.
Porque é que isto é um aviso, e não apenas um produto?
Os defensores não automatizam à velocidade da máquina por conveniência. Fazem-no porque os ataques já se movem a essa velocidade. A IA permite agora que um atacante sonde um sistema, encontre uma fragilidade e a explore em minutos em vez de semanas, e a uma escala que nenhuma equipa humana consegue vigiar manualmente. Quando os laboratórios com mais recursos concluem que a defesa ao ritmo humano já não basta para os seus próprios sistemas, esse é o sinal mais claro até à data para todos os outros.
Qual é o risco da própria defesa autónoma?
Entregar a um sistema autónomo as chaves da sua própria infraestrutura introduz uma nova exposição. Uma ferramenta que consegue corrigir um sistema também o pode interpretar mal, alterar a coisa errada ou ser manipulada, e faz tudo isso mais depressa do que uma pessoa consegue detetar. A questão não é evitar a defesa com IA; é que a segurança autónoma sem supervisão desloca o risco em vez de o eliminar. Alguém tem ainda de decidir o que o sistema está autorizado a alterar, e quem responde por isso quando ele se engana.
Leia a seguir: Deveria ainda apostar a sua empresa num único modelo de IA? · Por que o maior custo da IA é agora uma fatura mensal de aluguel?