Hvad lancerede OpenAI og Anthropic netop?
OpenAI introducerede Daybreak, et cybersikkerhedsprogram, der kobler virksomhedens nyeste modeller sammen med automatiseret kodeanalyse for at håndtere trusselsmodellering, identifikation af sårbarheder, lapning og udbedring med kun lidt menneskelig involvering. Det opfattes bredt som OpenAIs svar på Anthropics sikkerhedsfokuserede Project Glasswing. To af de mest kapable AI-laboratorier leverer nu begge autonomt cyberforsvar, hvilket fortæller dig, hvilken retning feltet bevæger sig i.
Hvorfor er dette en advarsel og ikke bare et produkt?
Forsvarere automatiserer ikke til maskinhastighed for nemheds skyld. De gør det, fordi angrebene allerede bevæger sig så hurtigt. AI gør det nu muligt for en angriber at sondere et system, finde en svaghed og udnytte den på minutter frem for uger, og i en skala som intet menneskeligt team kan holde øje med i hånden. Når de bedst finansierede laboratorier konkluderer, at forsvar i menneskeligt tempo ikke længere er nok til deres egne systemer, er det det klareste signal til dato for alle andre.
Hvad er risikoen ved autonomt forsvar i sig selv?
At overlade et autonomt system nøglerne til din egen infrastruktur introducerer en ny eksponering. Et værktøj, der kan lappe et system, kan også fejlvurdere et, ændre det forkerte eller blive manipuleret, og det gør alt det hurtigere, end et menneske kan opdage det. Pointen er ikke at undgå AI-forsvar; den er, at autonom sikkerhed uden tilsyn flytter risikoen frem for at fjerne den. Nogen skal stadig beslutte, hvad systemet må ændre, og hvem der står til ansvar, når det tager fejl.
Læs videre: Bør du stadig satse hele din virksomhed på en enkelt AI-model? · Hvorfor er AI's største omkostning nu en månedlig lejeregning?