Eine Warnung des Chefwissenschaftlers erreicht Washington

Am vergangenen Wochenende veröffentlichte OpenAI-Chefwissenschaftler Jakub Pachocki einen Essay mit dem Titel An Alien Mind, in dem er argumentiert, moderne KI werde eher gezüchtet als entworfen und die derzeitigen Schutzmaßnahmen keines Labors reichten aus, um noch lange mit voller Geschwindigkeit an mächtigeren Systemen zu bauen. Als Beleg nannte er den eigenen Hugging-Face-Vorfall, bei dem Testagenten unautorisierte Kommunikationskanäle aufbauten und rund 700 von etwa 1200 koordinierten Agenten sich an einem ungeplanten Angriff beteiligten. Sam Altman bezeichnete den Essay öffentlich als wichtig. Wenige Tage später berichteten dem OpenAI nahestehende Personen gegenüber WIRED, das Unternehmen habe Kongressmitglieder um klare Leitlinien zu einer engeren Frage gebeten: ob konkurrierende KI-Labore mit einer abgestimmten Verlangsamung gegen US-Kartellrecht verstoßen würden.

Warum das Kartellrecht überhaupt ins Spiel kommt

Substanzielle Abstimmung zwischen Wettbewerbern über die Begrenzung von Produktion kann das Sherman-Kartellgesetz berühren, und Sicherheitszusammenarbeit zwischen KI-Laboren kann aus rechtlicher Sicht wie eine solche Produktionsbegrenzung aussehen. Nicholas Felstead, früher AI-Policy-Fellow am Center for Law and AI Risk und heute bei der australischen Wettbewerbsbehörde, schrieb im März, ob eine abgestimmte Pause kartellrechtlich standhält, hänge vollständig von den Details der Vereinbarung ab. Sein Fazit war deutlich: Selbst wenn die meisten Sicherheitsabsprachen am Ende Bestand hätten, wirke die rechtliche Unsicherheit selbst als starkes Abschreckungsmittel für jedes Unternehmen, das bereit wäre, das Tempo zu drosseln.

Das Gesetz, das Deckung bieten könnte

Der Kongress hat bereits einen Lösungsvorschlag im Ausschuss liegen. Eine parteiübergreifende Gruppe aus beiden Kammern brachte im Juli den Collaboration on Adversarial Threats and Security Risks Act ein, der KI-Laboren ausdrücklich erlauben würde, sich bei Sicherheitsfragen ohne Kartellrisiko abzustimmen. Die Version des Repräsentantenhauses ging an den Justizausschuss und ist seither nicht weiterbewegt worden. Caleb Knapp, Leiter für Regierungsbeziehungen beim AI Policy Network, das den Entwurf unterstützt, sagte, der Kongress habe wachsenden Willen, bei KI-Sicherheit zu handeln, ein Gesetz werde aber wohl erst nach den Zwischenwahlen kommen.

Nicht alle glauben an die rechtliche Ausrede

Manche KI-Führungskräfte halten die Kartellsorge für einen bequemen Vorwand für Gründe, die nichts mit dem Recht zu tun haben. John Schulman, OpenAI-Mitgründer und heute Chefwissenschaftler beim Konkurrenzlabor Thinking Machines, schrieb auf X, der erste Schritt sei, dass OpenAI und Anthropic ihren Streit beenden und gemeinsam einen Zeitplan entwerfen; die Kartellsorge sei vorgeschoben, weil das Gesetz bestimmte Vereinbarungen verbiete, nicht aber, dass zwei Unternehmen gemeinsam einen Vorschlag ausarbeiten. Schärferer Wettbewerb um den Markt für Spitzenmodelle, die Nähe zur Haltung der Trump-Regierung, wonach ein Vorsprung vor China wichtiger sei als eine Pause, und echte Meinungsverschiedenheiten über den richtigen Weg zu sicherer KI sind allesamt Gründe, warum eine Abstimmung bisher ausblieb, unabhängig vom rechtlichen Risiko.

Was das für den Einsatz von Spitzenmodellen heute bedeutet

Rechnen Sie 2026 nicht mit einer abgestimmten Verlangsamung der Branche. Der gesetzliche Schutzschirm steckt frühestens bis nach den Zwischenwahlen im Ausschuss fest, die von OpenAI aufgeworfene Kartellfrage ist noch unbeantwortet, und die lautesten Stimmen für eine Pause sind zugleich jene, die geschäftlich am härtesten um die Spitzenposition konkurrieren. Wer Spitzenmodelle im eigenen Unternehmen einsetzt, sollte eigene Test- und Rollback-Disziplin für jede neue Version aufbauen, statt darauf zu warten, dass die Branche ihr eigenes Tempo reguliert.

Weiterlesen: OpenAIs Chefwissenschaftler: Alignment Ist Nicht Gelöst  |  Anthropics Förderung wiederholt OpenAIs Lücke