Anthropic entsperrt Biologie-KI und hält Biowaffen weiter unter Verschluss

Anthropic schreibt die Regeln für Biologie-Fragen neu

Anthropic erklärte diese Woche, das Unternehmen habe die Verfassung, die den Sicherheitsklassifikator für Biologie-Inhalte von Fable 5 regelt, neu geschrieben, Feedback von externen Experten eingeholt, neue Trainingsdaten erstellt und das System neu trainiert, um wirklich gefährliche Anfragen von den gewöhnlichen klinischen und pädagogischen Fragen zu trennen, die bislang mit erfasst wurden. Das Unternehmen bezeichnet die Änderung als Präzisionskorrektur, nicht als Lockerung seiner Haltung zu den Bereichen, die es für wirklich gefährlich hält: "Die Kosten eines Missbrauchs von Fable in einem Dual-Use-Bereich wie der Biologie könnten potenziell katastrophal sein", schrieb Anthropic und erklärte damit, warum sich an den eingeschränkten Bereichen selbst nichts geändert hat.

Das Ergebnis ist laut Anthropics eigener Ankündigung ein Rückgang der biologiebezogenen Sicherheits-Fallbacks über alle Produktoberflächen von Fable 5 hinweg um etwa 85%, wobei das Ausmaß der Verbesserung je nach Nutzungsort des Modells stark variiert: rund 67% weniger Fallbacks bei Claude.ai, 55% weniger bei Cowork, 17% weniger bei Claude Code und 7% weniger bei der von Unternehmensentwicklern genutzten Claude Platform. Anthropic zufolge handelte es sich bei den betroffenen Anfragen überwiegend um gewöhnliche klinische und pädagogische Aufgaben: das Interpretieren von Laborwerten, das Recherchieren von Symptomen oder das Erkunden biologischer Themen für den Unterricht oder eine Arbeit.

Die Bereiche, die weiterhin strikt gesperrt bleiben

Fable 5 lehnt weiterhin automatisch eine definierte Gruppe von Dual-Use-Bereichen ab: Virologie, Toxikologie und molekulares Design, zusammen mit professioneller Arzneimittelentwicklung, unabhängig davon, wie die Anfrage formuliert ist. Anthropic zufolge werden Anfragen, die diese Grenze überschreiten, stattdessen an Opus 5 weitergeleitet, das das Unternehmen als "ein leistungsfähiges Modell, das nicht über das gleiche Niveau biologischer Fähigkeiten wie Fable 5 verfügt" beschreibt. Die Weiterleitung ist bewusst gewählt: ein Allzweck-Assistent, der für die eigentliche Aufgabe weiterhin nützlich sein kann, aber ohne das biologische Denkvermögen auf Spitzenniveau, das ein böswilliger Akteur für alles bräuchte, was näher an waffenrelevanter Arbeit liegt.

Diese Unterscheidung verdient Aufmerksamkeit, denn sie widerspricht der lautstärksten möglichen Fehldeutung dieses Updates. Anthropic sagt nicht, dass seine KI jetzt generell freizügiger bei Biologie ist. Das Unternehmen sagt das Gegenteil: Sie ist jetzt präzise genug, um harmlose von gefährlicher Biologie zu unterscheiden, und selbstbewusst genug in dieser Unterscheidung, um die gefährliche Hälfte genau dort gesperrt zu lassen, wo sie war. Die Tatsache, dass sich nur einige Bereiche gelockert haben, während andere strikt gesperrt blieben, ist selbst der Beweis dafür, dass es bei der Einschränkung nie wirklich um Biologie als Thema ging. Es ging immer um eine engere Gruppe von Fähigkeiten, die Anthropic bei Missbrauch als katastrophal einstuft, und diese Gruppe hat sich nicht geändert.

Warum die alte Reibung ein echter Preis war, kein Gerücht

Europäische Teams aus Gesundheitswesen, Biotechnologie und Pharmaindustrie, die Claude im vergangenen Jahr genutzt haben, werden das Muster wiedererkennen, das dieses Update beheben soll. Ein Arzt, der Fable 5 bittet, ein Blutbild zu interpretieren, ein Biotech-Forscher, der es bittet, einen Wirkmechanismus zusammenzufassen, oder ein Mitarbeiter der pharmazeutischen Zulassungsabteilung, der es bittet, einen in einer Studie verwendeten toxikologischen Begriff zu erklären, konnten allesamt denselben Fallback auslösen, der eigentlich für eine Biowaffen-Anfrage gedacht war. Der Workaround innerhalb vieler europäischer Life-Sciences-Organisationen war informell und still: die Frage umformulieren, das klinische Vokabular entfernen, das den Filter auslöst, oder Claude einfach nicht mehr fragen und stattdessen wieder eine Suchmaschine oder einen Kollegen nutzen.

Anthropics eigene Ankündigung ist faktisch ein Eingeständnis, dass diese Reibung real war und für legitime Nutzer einen Preis hatte, keine hypothetische Behauptung von Kritikern. Das Unternehmen räumt ein, dass einige risikoarme Anfragen die Sicherheitsmaßnahmen gelegentlich weiterhin auslösen werden, und erklärt, den Klassifikator auf Basis von Nutzerfeedback weiter zu verfeinern, was weniger wie eine Siegesrunde klingt als wie das Eingeständnis eines Unternehmens, dass seine frühere Kalibrierung zu grob war für die Art, wie Menschen in regulierten Bereichen mit hohem Risiko das Werkzeug tatsächlich nutzen.

Die Sicherheitssteuer, die auch andere KI-Labore neu kalibrieren müssen

Anthropic ist nicht das einzige KI-Labor, das bei sensiblen wissenschaftlichen Bereichen zu pauschaler Übervorsicht geneigt hat, und es wird nicht das einzige sein, das mit wachsendem Nutzungsdruck öffentlich nachjustieren muss. Es ist zu erwarten, dass OpenAI und Google vor demselben Zielkonflikt stehen: Ein breiter Sicherheits-Fallback, der eine echte Biowaffen-Anfrage blockiert, blockiert auch einen echten Onkologen, und der kommerzielle Druck, das zu beheben, wächst nur, je mehr regulierte Branchen ernsthafte Arbeit über diese Modelle abwickeln. Das Update dieser Woche liest sich am besten als Eröffnungszug einer branchenweiten Neuausrichtung, wo die Biologie-Sicherheitssteuer tatsächlich liegt, nicht als einmalige Entscheidung von Anthropic.

Anthropic zufolge befindet sich ein Programm für vertrauenswürdigen Zugang, das geprüften Forschern die Arbeit mit biologischen Fähigkeiten auf Spitzenniveau ermöglichen würde, ohne die für alle anderen geltende pauschale Einschränkung, weiterhin nur "in Entwicklung". Bis das verfügbar ist, bleibt die praktische Empfehlung für jede europäische Life-Sciences-Organisation unverändert: Legitime klinische und Forschungsanfragen sollten jetzt auf deutlich weniger falsche Ablehnungen stoßen, aber alles, was verfahrenstechnisch Virologie, Toxikologie oder molekulares Design berührt, wird weiterhin bewusst an ein weniger leistungsfähiges Modell weitergeleitet, und es sollte nicht erwartet werden, dass geschicktes Formulieren daran etwas ändert.

Weiterlesen: Der Crawler-Block hat Ihre Chats veröffentlicht  |  Claudes Ausfälle werden erst 2027 behoben