Vad lanserade OpenAI och Anthropic nyss?
OpenAI presenterade Daybreak, ett cybersäkerhetsprogram som kopplar samman deras senaste modeller med automatiserad kodanalys för att hantera hotmodellering, identifiering av sårbarheter, åtgärdande och avhjälpning med liten mänsklig inblandning. Det tolkas allmänt som OpenAI:s svar på Anthropics säkerhetsinriktade Project Glasswing. Två av de mest kapabla AI-laboratorierna levererar nu båda autonomt cyberförsvar, vilket visar vart fältet är på väg.
Varför är detta en varning, inte bara en produkt?
Försvarare automatiserar inte i maskinhastighet av bekvämlighet. De gör det eftersom attackerna redan rör sig så snabbt. AI gör det nu möjligt för en angripare att sondera ett system, hitta en svaghet och utnyttja den på minuter i stället för veckor, och i en skala som inget mänskligt team kan bevaka för hand. När de bäst resurssatta laboratorierna drar slutsatsen att försvar i mänsklig takt inte längre räcker för deras egna system, är det den tydligaste signalen hittills för alla andra.
Vad är risken med autonomt försvar i sig?
Att lämna över nycklarna till er egen infrastruktur till ett autonomt system innebär en ny exponering. Ett verktyg som kan åtgärda ett system kan också göra en felbedömning, ändra fel sak eller bli manipulerat, och det gör allt detta snabbare än en människa hinner upptäcka. Poängen är inte att undvika AI-försvar; poängen är att autonom säkerhet utan tillsyn flyttar risken i stället för att ta bort den. Någon måste fortfarande bestämma vad systemet får ändra, och vem som svarar för det när det har fel.
Läs vidare: Bör du fortfarande satsa hela ditt företag på en enda AI-modell? · Varför är AI:s största kostnad nu en månatlig hyresräkning?