Wat hebben OpenAI en Anthropic zojuist gelanceerd?
OpenAI introduceerde Daybreak, een cyberbeveiligingsprogramma dat zijn nieuwste modellen koppelt aan geautomatiseerde code-analyse om dreigingsmodellering, het identificeren van kwetsbaarheden, patchen en herstel met weinig menselijke betrokkenheid af te handelen. Het wordt breed gezien als OpenAI's antwoord op Anthropic's op beveiliging gerichte Project Glasswing. Twee van de meest capabele AI-labs leveren nu beide autonome cyberverdediging, wat aangeeft welke kant het veld op gaat.
Waarom is dit een waarschuwing en niet zomaar een product?
Verdedigers automatiseren niet op machinesnelheid voor het gemak. Ze doen het omdat de aanvallen zich al zo snel voltrekken. AI stelt een aanvaller nu in staat om een systeem te onderzoeken, een zwakke plek te vinden en die te misbruiken in minuten in plaats van weken, en op een schaal die geen enkel menselijk team handmatig kan bewaken. Wanneer de labs met de meeste middelen concluderen dat verdediging op menselijk tempo niet langer voldoende is voor hun eigen systemen, is dat het duidelijkste signaal tot nu toe voor iedereen.
Wat is het risico van autonome verdediging zelf?
Een autonoom systeem de sleutels tot uw eigen infrastructuur geven, brengt een nieuwe blootstelling met zich mee. Een tool die een systeem kan patchen, kan er ook een verkeerd inschatten, het verkeerde aanpassen of gemanipuleerd worden, en het doet dat allemaal sneller dan een mens het kan opmerken. Het punt is niet om AI-verdediging te vermijden; het is dat autonome beveiliging zonder toezicht het risico verplaatst in plaats van wegneemt. Iemand moet nog steeds beslissen wat het systeem mag aanpassen, en wie de verantwoording draagt wanneer het fout zit.
Lees hierna: Moet u uw bedrijf nog op een enkel AI-model inzetten? · Waarom is de grootste kostenpost van AI nu een maandelijkse huurrekening?