Cosa hanno appena lanciato OpenAI e Anthropic?
OpenAI ha presentato Daybreak, un programma di sicurezza informatica che abbina i suoi modelli più recenti all'analisi automatizzata del codice per gestire la modellazione delle minacce, l'identificazione delle vulnerabilità, la correzione e la rimozione delle falle con un coinvolgimento umano minimo. E' ampiamente interpretato come la risposta di OpenAI al Project Glasswing di Anthropic, incentrato sulla sicurezza. Due dei laboratori di IA più capaci offrono ora entrambi una difesa informatica autonoma, il che indica la direzione che sta prendendo il settore.
Perchè questo è un avvertimento e non solo un prodotto?
I difensori non automatizzano alla velocità della macchina per comodità. Lo fanno perché gli attacchi si muovono già a quella velocità. L'IA consente ora a un aggressore di sondare un sistema, trovare un punto debole e sfruttarlo in pochi minuti anziché settimane, e a una scala che nessun team umano può sorvegliare manualmente. Quando i laboratori meglio finanziati concludono che la difesa al ritmo umano non è più sufficiente per i propri sistemi, questo è il segnale più chiaro fino a oggi per tutti gli altri.
Qual è il rischio della difesa autonoma in sé?
Affidare a un sistema autonomo le chiavi della propria infrastruttura introduce una nuova esposizione. Uno strumento in grado di correggere un sistema può anche valutarlo male, modificare la cosa sbagliata o essere manipolato, e fa tutto questo più velocemente di quanto una persona possa accorgersene. Il punto non è evitare la difesa IA; è che la sicurezza autonoma senza supervisione sposta il rischio anziché eliminarlo. Qualcuno deve comunque decidere cosa il sistema è autorizzato a modificare, e chi ne risponde quando sbaglia.
Da leggere ora: Dovreste ancora scommettere la vostra azienda su un unico modello di IA? · Perché il costo più grande dell'IA è ora una bolletta mensile di affitto?