Qu'est-ce qu'OpenAI et Anthropic viennent de lancer ?
OpenAI a présenté Daybreak, un programme de cybersécurité qui associe ses derniers modèles à une analyse de code automatisée pour assurer la modélisation des menaces, l'identification des vulnérabilités, la correction et la remédiation avec une intervention humaine minimale. Il est largement perçu comme la réponse d'OpenAI au Project Glasswing d'Anthropic, axé sur la sécurité. Deux des laboratoires d'IA les plus performants proposent désormais tous deux une cyberdéfense autonome, ce qui révèle la direction que prend le secteur.
Pourquoi est-ce un avertissement, et pas seulement un produit ?
Les défenseurs n'automatisent pas à la vitesse de la machine par confort. Ils le font parce que les attaques se déplacent déjà à cette vitesse. L'IA permet désormais à un attaquant de sonder un système, d'y trouver une faille et de l'exploiter en quelques minutes plutôt qu'en quelques semaines, et à une échelle qu'aucune équipe humaine ne peut surveiller manuellement. Lorsque les laboratoires les mieux dotés concluent qu'une défense au rythme humain ne suffit plus pour leurs propres systèmes, c'est le signal le plus clair adressé à tous les autres.
Quel est le risque de la défense autonome elle-même ?
Confier à un système autonome les clés de votre propre infrastructure introduit une nouvelle exposition. Un outil capable de corriger un système peut tout aussi bien mal l'évaluer, modifier le mauvais élément ou être manipulé, et il fait tout cela plus vite qu'une personne ne peut le détecter. L'idée n'est pas d'éviter la défense par IA ; c'est qu'une sécurité autonome sans supervision déplace le risque au lieu de le supprimer. Quelqu'un doit toujours décider de ce que le système est autorisé à modifier, et de qui répond des erreurs lorsqu'il se trompe.
À lire ensuite: Devriez-vous encore miser votre entreprise sur un seul modèle d'IA ? · Pourquoi le plus gros coût de l'IA est-il devenu une facture de loyer mensuelle?