Was OpenAI am 16. November unterzeichnet hat
OpenAI gab am 16. November bekannt, Apollo Research, METR, Transluce und Goodfire für die erste Phase eingebetteter Prüfungen verpflichtet zu haben. Der Zugang kann Modell-Checkpoints, Quellcode, Trainingsdaten und Überwachungssysteme umfassen. Apollo prüft, ob das Training Täuschung belohnt hat und ob sie erkennbar wäre, METR untersucht den nach OpenAI-Angaben bislang größten Reinforcement-Learning-Lauf, Transluce prüft Qualität und Abdeckung der Alignment-Tests nach dem Training, und Goodfire bettet Interpretierbarkeits-Forscher ein. Apollo und Goodfire nehmen eine Vergütung an, die nicht vom Ergebnis abhängt, METR und Transluce nehmen kein Geld, möglicherweise aber API-Guthaben oder Rechenzeit.
Wo die Bedingungen die Unabhängigkeit begrenzen
Die Prüfer behalten das Recht zur Veröffentlichung, aber OpenAI darf vertrauliche Informationen schwärzen und Verzögerungen aus Gründen der verantwortungsvollen Offenlegung verlangen. Streitfälle gehen zuerst an die Safety Advisory Group und die Geschäftsführung und erst danach an das Safety and Security Committee, das auch ungeschwärzte Berichte erhält. OpenAI kann es ablehnen, Aussagen aus vertraulichen Mitarbeitergesprächen zu bestätigen, und die Prüfer dürfen dann nur mitteilen, dass es abgelehnt hat. Regeln zu Interessenkonflikten fehlen noch, für die Monitor-Prüfung von METR gibt es keinen vereinbarten Umfang, und die für Anfang 2027 geplante achtwöchige Folgeprüfung ist eine Absicht, keine Zusage.
Was Sie einen Anbieter fragen sollten, der externe Tests nennt
Der eingebettete Zugang ist aus unserer Sicht ein echter Schritt über eine Prüfung von wenigen Tagen hinaus, aber er ist nur so viel Sicherheit wert, wie die Bedingungen bekannt sind. Sagt ein KI-Anbieter, Externe hätten seine Modelle geprüft, fragen Sie, was der Prüfer sehen konnte, wer den Bericht schwärzen darf, wer Streit entscheidet und ob Geld geflossen ist. Legen Sie die Antworten in Ihre Beschaffungsakte, denn dieselben Fragen gelten für jedes Labor, auch für europäische.
Weiterlesen: Die unabhängige Prüfung, die die Erlaubnis des Anbieters brauchte | Externe Forscher entdeckten drei von vier OpenAI-Hacks



