Der gekaufte Detektor ist kein Beweismittel

Eine Doktorandin legt dem Sektor die Zahl vor

Am 20. Juli veröffentlichte das Higher Education Policy Institute eine Arbeit von Brendal Aformeziem, Doktorandin an der University of Strathclyde, mit der Forderung, britische Hochschulen sollten Scores aus der KI-Erkennung nicht länger als primäres Beweismittel in Verfahren wegen wissenschaftlichen Fehlverhaltens verwenden. Das Argument lautet nicht, dass Studierende keine KI nutzen. Es lautet, dass das Instrument, mit dem man es nachweisen will, eine Fehlerklasse erzeugt, die das Verfahren nicht auffangen kann, und dass dieser Fehler ungleich verteilt ist. Internationale Studierende stellen 24 Prozent aller Studierenden im britischen Hochschulwesen und 51 Prozent der Postgraduierten, also genau die Gruppe, die die Werkzeuge am häufigsten falsch lesen.

Es gibt bereits eine Aktenlage. Der Office of the Independent Adjudicator veröffentlichte im Juli 2025 vier Fallzusammenfassungen zu Vorwürfen KI-gestützten Fehlverhaltens. Drei der vier betrafen internationale Studierende oder Zweitsprachler, und drei wurden ganz oder teilweise gegen die Hochschulen entschieden, die sie erhoben hatten. Die Empfehlungen von Aformeziem folgen dieser Aktenlage und nicht der abstrakten Debatte: die Erkennung als primäres Beweismittel bis zu einer unabhängigen Validierung aussetzen, QAA und OIA sollen gemeinsam klarstellen, dass ein Score allein keine Disziplinarentscheidung tragen kann, und die Prüfungsformate so umbauen, dass weniger an der unbeaufsichtigten Hausarbeit hängt.

Warum das außerhalb der Universität gilt. Nimmt man den akademischen Rahmen weg, bleibt eine Beschaffungsgeschichte, die jeder Unternehmer wiedererkennt. Eine Organisation kaufte ein bewertendes Werkzeug, behandelte den Score als Feststellung, baute darauf einen Prozess und stellte dann fest, dass die beim Kauf akzeptierte Fehlerquote mit den getroffenen Entscheidungen unvereinbar war. Der Gegenstand waren zufällig Aufsätze. Es hätten ebenso Reisekostenabrechnungen, Insider-Risiko-Alarme oder ein Lieferanten-Betrugsscore sein können.

61 Prozent sind kein Defekt, sondern eine Einstellung

Die Zahl darunter stammt aus Stanford. Ein Team um James Zou, Professor für biomedizinische Datenwissenschaft, ließ sieben verbreitete KI-Detektoren über 91 TOEFL-Aufsätze von Nicht-Muttersprachlern und einen Vergleichssatz von US-Achtklässlern laufen. Bei den amerikanischen Schülern lagen die Detektoren gut. Bei den TOEFL-Aufsätzen stuften sie 61,22 Prozent fälschlich als maschinell erzeugt ein. Alle sieben waren sich bei 18 der 91 Aufsätze einig, und 97 Prozent der Aufsätze wurden von mindestens einem Werkzeug markiert.

Der Mechanismus ist nicht rätselhaft, und genau er lohnt das Nachdenken. Detektoren behandeln vorhersagbare Wortwahl und einfachen Satzbau als maschinelle Signatur. Texte kompetenter Zweitsprachler haben exakt diese Eigenschaften. Als die Forscher dieselben Aufsätze mit reicherem Wortschatz umschrieben, brach die Falsch-Positiv-Rate ein. Das Werkzeug maß nie, wer den Text geschrieben hatte. Es maß, wie kunstvoll das Englisch war, und meldete das Ergebnis als Urheberschaft.

Was eine Schwelle wirklich ist. Jeder Klassifikator handelt zwei Fehler gegeneinander ab: Text, den er zu Unrecht beschuldigt, und Text, den er durchlässt. Der Anbieter wählt den Punkt auf dieser Kurve, und wer in ein Umfeld verkauft, in dem eine falsche Beschuldigung verheerend ist, stimmt hart darauf ab, KI-Text passieren zu lassen. Das ist eine vertretbare technische Entscheidung und zugleich der Grund, warum das Ergebnis kein Beweis sein kann. Die HEPI-Arbeit zitiert eine große Auswertung über 805 Stichproben mit einer durchschnittlichen Trefferquote von 39,5 Prozent bei unverändertem KI-Text, die auf 17,4 Prozent fällt, sobald einfache Ausweichtechniken angewandt werden, wobei einzelne Werkzeuge die Hälfte aller menschlichen Texte falsch lasen.

Vier Universitäten kamen unabhängig zum selben Schluss

Die University of Waterloo schaltete die KI-Erkennung von Turnitin im September 2025 ab. Die Curtin University folgte im Januar 2026. UCLA und UC San Diego hatten es bereits 2024 getan. Keine von ihnen stimmte sich ab, und keine kam zu dem Schluss, die KI-Nutzung habe aufgehört. Sie kamen zu dem Schluss, dass eine Zahl, die sie in einem Widerspruchsverfahren nicht erklären konnten, eher eine Haftung als ein Vorteil ist. Die HEPI-Arbeit zitiert zudem Untersuchungen von Weber-Wulff, wonach keines der getesteten Werkzeuge den Maßstab für verlässliche Entscheidungen mit hoher Tragweite erfüllte.

Was an die Stelle des Werkzeugs trat, ist lehrreicher als die Abschaltung. Die Einrichtungen stuften die Erkennung auf beratenden Status zurück, bei dem eine Lehrkraft einen Score privat ansehen, ihn aber in keiner formellen Beschwerde anführen darf, und sie bauten die Prüfungsformate so um, dass der Nachweis der Urheberschaft während der Arbeit entsteht statt hinterher erschlossen zu werden. Das ist derselbe Schritt, den ein Betrugsteam macht, wenn es aufhört, über einen Modellscore zu streiten, und anfängt, eine Transaktionsspur zu sammeln.

Das verräterische Zeichen. Achten Sie darauf, was eine Einrichtung mit dem Werkzeug tut, dem sie angeblich weiter vertraut. Wenn eine Hochschule die Lizenz behält, dem Score aber den Auftritt im Verfahren verbietet, hat sie das Produkt still von Beweismittel zu Vorsortierung herabgestuft. Die meisten Organisationen vollziehen diese Umstufung nie ausdrücklich, und genau so landet ein Sortiersignal in einem Kündigungsschreiben.

Dieselbe Rechnung steckt in Ihren Betrugs- und DLP-Werkzeugen

Fast jedes bewertende Produkt, das ein Unternehmer kauft, hat diese Form. Data Loss Prevention markiert eine ausgehende Datei. Eine Insider-Risiko-Plattform bewertet das Verhalten eines Mitarbeiters. Ein Zahlungsdienstleister vergibt eine Betrugswahrscheinlichkeit an einen Kunden. Ein Bewerbungsfilter sortiert Kandidaten. Jedes davon sitzt an einem Arbeitspunkt, den jemand gewählt hat, jedes hat dort eine Falsch-Positiv-Rate, und in fast jedem Einkauf wird diese Zahl nie erfragt, weil das Verkaufsgespräch in Genauigkeitsprozenten geführt wird, die den besten Fall auf dem Testdatensatz des Anbieters beschreiben.

Drei Fragen beheben das meiste davon. Wie hoch ist die Falsch-Positiv-Rate an der Schwelle, die wir tatsächlich fahren, auf einer Grundgesamtheit, die unserer ähnelt. Was passiert mit dieser Rate, wenn die Eingabe von jemandem stammt, der kompetent, aber untypisch ist, was für einen europäischen Arbeitgeber meist heißt: jemand arbeitet in seiner zweiten oder dritten Sprache. Und welcher dokumentierte Schritt liegt zwischen dem Erscheinen des Scores und dem Moment, in dem eine Person davon betroffen ist. Löst das Werkzeug die Maßnahme direkt aus, ist der Score bereits zur Entscheidung geworden und der Prozess trägt ein Risiko, das niemand eingepreist hat.

Hier verläuft auch eine rechtliche Kante. Nach der DSGVO ist eine ausschließlich auf automatisierter Verarbeitung beruhende Entscheidung, die rechtliche Wirkung entfaltet oder eine Person ähnlich erheblich beeinträchtigt, nur eingeschränkt zulässig, und die menschliche Beteiligung muss echt sein statt ein Abnicken. In Deutschland kommt hinzu, dass ein Werkzeug, das Verhalten oder Leistung von Beschäftigten überwachen kann, nach dem Betriebsverfassungsgesetz der Mitbestimmung des Betriebsrats unterliegt, also vor dem Rollout auf dem Tisch liegt und nicht danach. Die Hochschulen, die die Erkennung auf beratenden Status zurückstuften, landeten versehentlich in einer verteidigungsfähigen Position. Ein Arbeitgeber sollte dort absichtlich hinkommen.

Weiterlesen: Sprout schlug die Prognose und strich am selben Tag 20 Prozent  |  Verboten hat es niemand. Der Filter verweigerte trotzdem.