Was haben OpenAI und Anthropic gerade gestartet?
OpenAI hat Daybreak vorgestellt, ein Cybersicherheitsprogramm, das seine neuesten Modelle mit automatisierter Codeanalyse kombiniert, um Bedrohungsmodellierung, Schwachstellenidentifikation, Patching und Behebung mit geringer menschlicher Beteiligung zu bewältigen. Es wird weithin als OpenAIs Antwort auf Anthropics sicherheitsorientiertes Project Glasswing gelesen. Zwei der leistungsfähigsten KI-Labore liefern jetzt beide autonome Cyberabwehr aus, was Ihnen zeigt, wohin sich das Feld bewegt.
Warum ist das eine Warnung und nicht nur ein Produkt?
Verteidiger automatisieren nicht aus Bequemlichkeit auf Maschinengeschwindigkeit. Sie tun es, weil die Angriffe sich bereits so schnell bewegen. KI ermöglicht es einem Angreifer jetzt, ein System zu sondieren, eine Schwachstelle zu finden und sie in Minuten statt in Wochen auszunutzen, und das in einem Ausmaß, das kein menschliches Team von Hand überwachen kann. Wenn die am besten ausgestatteten Labore zu dem Schluss kommen, dass eine Abwehr in menschlichem Tempo für ihre eigenen Systeme nicht mehr ausreicht, ist das das bislang deutlichste Signal für alle anderen.
Worin besteht das Risiko der autonomen Abwehr selbst?
Einem autonomen System die Schlüssel zu Ihrer eigenen Infrastruktur zu übergeben, schafft eine neue Angriffsfläche. Ein Werkzeug, das ein System patchen kann, kann es auch falsch einschätzen, das Falsche ändern oder manipuliert werden, und es tut all das schneller, als ein Mensch es bemerken kann. Es geht nicht darum, KI-Abwehr zu vermeiden; es geht darum, dass autonome Sicherheit ohne Aufsicht das Risiko verlagert, anstatt es zu beseitigen. Jemand muss immer noch entscheiden, was das System ändern darf und wer dafür verantwortlich ist, wenn es sich irrt.
Weiterlesen: Sollten Sie Ihr Unternehmen noch auf ein einziges KI-Modell setzen? · Warum ist der größte KI-Kostenfaktor heute eine monatliche Mietrechnung?