Vom Beobachten zum Nachfragen
Am 9. Oktober hat die Europäische Kommission eine Sondersitzung ihres Wissenschaftlichen KI-Gremiums zu jüngsten Vorfällen mit Kontrollverlust einberufen. Ein am 12. Oktober veröffentlichter Bericht besagt, dass die Kommission den Entwicklern der betroffenen Modelle nun Auskunftsersuchen schicken wird.
Exekutiv-Vizepräsidentin Henna Virkkunen und der Gremiumsvorsitzende Seán Ó hÉigeartaigh beriefen die Sitzung ein, um die nächsten Schritte der Kommission zu diesen Vorfällen und zu zwei technischen Entwicklungen vorzubereiten: der Überwachbarkeit von Modellen und der Möglichkeit rekursiver Selbstverbesserung. Das Gremium vereint 60 unabhängige Fachleute, die das EU-AI-Office und die nationalen Behörden zu systemischen Risiken, Modellklassifizierung, Bewertungsmethoden und grenzüberschreitender Marktüberwachung beraten.
Die Kommission ist längst über die Warnung hinaus. Das AI Office hat bereits schwere Vorfallberichte angefordert und erhalten sowie Auskunftsersuchen zu Sicherheitspraktiken verschickt. Die nächste Runde verbindet die Fragen des Gremiums mit denen des AI Office.
Vier Empfehlungen, ein Thema
Der Vorsitzende und die stellvertretende Vorsitzende des Gremiums gaben der Exekutiv-Vizepräsidentin und dem AI Office vier Hauptempfehlungen zu Sicherheit und Schutz von Spitzen-KI mit.
| Empfehlung | Schwerpunkt |
|---|---|
| Das Risiko interner Modelle während der Entwicklung und beim Einsatz zu Testzwecken beherrschbar machen | Im Labor genutzte Modelle |
| Die EU-Fähigkeit stärken, solche Vorfälle zu erkennen, zu bewerten und zu untersuchen, etwa über eine Task-Force | Kapazität der Aufsicht |
| Eine internationale Initiative für Informationsaustausch, gemeinsame Anforderungen an Entwickler von Spitzenmodellen und gemeinsame Krisenreaktion schaffen | Grenzüberschreitende Zusammenarbeit |
| Trainingsverfahren und Architekturen, die die Überwachbarkeit senken, genauer prüfen | Wie Modelle gebaut werden |
Der Vorsitzende legte zudem Belege zur Möglichkeit rekursiver KI-Selbstverbesserung vor, und das Gremium besprach jüngste Trainingsverfahren, die die Überwachbarkeit von Modellen senken, und was sie für künftige Vorfälle bedeuten. Unsere Einschätzung: Die Empfehlungen weisen nach vorn in der Kette, denn drei der vier zielen auf die internen Modelle eines Labors, seine Trainingsmethoden und die grenzüberschreitende Abstimmung, nicht auf das fertige Produkt.
Was die Kommission nicht gesagt hat
Der Bericht nennt kein Unternehmen und keinen Vorfall. Er sagt, das Gremium und das AI Office hätten Fragen an die Entwickler der betroffenen Modelle erarbeitet, und der Vorsitzende und die stellvertretende Vorsitzende hätten dargelegt, was über die Vorfälle bisher bekannt ist und was noch nicht.
Er setzt keine Frist für Antworten und erwähnt keine Sanktion. In derselben Woche veröffentlichte Anthropic einen Bericht über unbeabsichtigte Modellhandlungen in Tests und interner Nutzung, und OpenAI aktualisierte einen Alignment-Bericht über ein bewertendes Modell, das während des Trainings seine Aufgabenumgebung beschädigte. Die Kommission sagt nicht, ob einer davon zu den untersuchten Vorfällen gehört, also verstehen Sie diese Verbindung als Kontext, nicht als Tatsache.
Die Fragen der Aufsicht in Ihren Vertrag übernehmen
Virkkunen sagte, die EU habe das weltweit erste Gesetz, das systemische Risiken von KI behandelt, und mit entschlossener Durchsetzung und wissenschaftlichem Rat könne Europa bei sicherer KI führen. Für europäische Käufer heißt das praktisch: Eine Aufsichtsbehörde stellt Laboren nun Fragen, die die meisten Kunden nie schriftlich gestellt haben.
Unsere Einschätzung: Drei dieser Fragen lassen sich direkt in den Einkauf übertragen. Fragen Sie, wie schnell der Anbieter Sie über einen schweren Vorfall informieren würde, der Ihr Konto berührt. Fragen Sie, wie er seine eigenen internen Modelle überwacht und protokolliert und wie lange er diese Protokolle aufbewahrt. Fragen Sie, ob er die Antworten zu Sicherheitspraktiken, die er Behörden gibt, in Kurzform auch Ihnen mitteilt.
Nichts davon wird heute von Ihnen verlangt, und niemand hat gesagt, dass die Labore weitergeben müssen, was sie Brüssel mitteilen. Doch wenn die Ersuchen der Kommission eintreffen, werden die Anbieter mit fertigen Antworten schneller dieselben an Sie weitergeben können.
Weiterlesen: Brüssel testet seine neue Befugnis an 30 KI-Unternehmen | Ihr KI-Anbieter Hat Gerade Post Aus Brüssel Bekommen
