Een promovenda legt het cijfer voor de hele sector neer
Op 20 juli publiceerde het Higher Education Policy Institute een stuk van Brendal Aformeziem, promovenda aan de University of Strathclyde, met de oproep aan Britse universiteiten om scores uit AI-detectie niet langer als hoofdbewijs te gebruiken in zaken over wetenschappelijk wangedrag. Het argument is niet dat studenten nooit AI gebruiken. Het is dat het instrument waarmee men dat wil bewijzen een soort fout produceert die de procedure niet kan opvangen, en dat die fout niet gelijk verdeeld is. Internationale studenten vormen 24 procent van alle studenten in het Britse hoger onderwijs en 51 procent van de masterstudenten en promovendi, precies de groep die de gereedschappen het vaakst verkeerd lezen.
Er ligt al een dossier. De Office of the Independent Adjudicator publiceerde in juli 2025 vier zaaksamenvattingen over beschuldigingen van AI-ondersteund wangedrag. Drie van de vier betroffen internationale studenten of tweedetaalsprekers, en drie werden geheel of gedeeltelijk tegen de universiteiten beslist die ze hadden aangespannen. De aanbevelingen van Aformeziem volgen uit dat dossier en niet uit het abstracte debat: schort detectie als hoofdbewijs op tot er onafhankelijke validatie is, laat QAA en OIA gezamenlijk vastleggen dat een score op zichzelf geen tuchtbesluit kan dragen, en herontwerp de toetsing zodat er minder afhangt van een onbewaakt geschreven werkstuk.
Waarom dit buiten de universiteit geldt. Haal het academische decor weg en er blijft een inkoopverhaal over dat elke ondernemer herkent. Een organisatie kocht een scorend gereedschap, behandelde de score als een vaststelling, bouwde er een proces bovenop en ontdekte daarna dat de foutmarge die bij aanschaf was geaccepteerd niet paste bij de beslissingen die ze nam. Het onderwerp waren toevallig opstellen. Het hadden net zo goed declaraties, meldingen van intern risico of een fraudescore voor leveranciers kunnen zijn.
Eenenzestig procent is geen mankement, het is een instelling
Het cijfer eronder komt uit Stanford. Een team onder leiding van James Zou, hoogleraar biomedische datawetenschap, liet zeven veelgebruikte AI-detectoren los op 91 TOEFL-opstellen van niet-moedertaalsprekers en op een vergelijkingsset van Amerikaanse leerlingen uit de tweede klas van het voortgezet onderwijs. Bij de Amerikaanse scholieren deden de detectoren het goed. Bij de TOEFL-opstellen merkten ze 61,22 procent ten onrechte aan als door een machine geschreven. Alle zeven waren het eens over 18 van de 91 opstellen, en 97 procent van de opstellen werd door minstens een gereedschap gemarkeerd.
Het mechanisme is niet raadselachtig, en juist dat is het deel dat blijft hangen. Detectoren behandelen voorspelbare woordkeus en eenvoudige zinsbouw als handtekening van een machine. Tekst van iemand die vaardig is in zijn tweede taal heeft precies die eigenschappen. Toen de onderzoekers dezelfde opstellen herschreven met rijkere woordenschat, stortte het percentage onterechte treffers in. Het gereedschap mat nooit wie de tekst had geschreven. Het mat hoe sierlijk het Engels was, en gaf het antwoord vervolgens door als een uitspraak over auteurschap.
Wat een drempel werkelijk is. Elke classificator ruilt twee fouten tegen elkaar in: tekst die hij ten onrechte beschuldigt en tekst die hij doorlaat. De leverancier kiest waar op die curve het product staat, en wie verkoopt aan een omgeving waar een valse beschuldiging rampzalig is, stemt stevig af op het doorlaten van AI-tekst. Dat is een verdedigbare technische keuze en het is ook de reden dat de uitkomst niet als bewijs kan dienen. Het HEPI-stuk citeert een brede evaluatie over 805 monsters die een gemiddelde nauwkeurigheid van 39,5 procent vond op onbewerkte AI-tekst, dalend naar 17,4 procent zodra eenvoudige ontwijkingstechnieken werden toegepast, waarbij sommige gereedschappen de helft van alle menselijke tekst verkeerd lazen.
Vier universiteiten kwamen los van elkaar tot hetzelfde
De University of Waterloo zette de AI-detectie van Turnitin in september 2025 uit. Curtin University volgde in januari 2026. UCLA en UC San Diego hadden het al in 2024 gedaan. Geen van hen stemde af met de andere, en geen van hen concludeerde dat het gebruik van AI was gestopt. Ze concludeerden dat een cijfer dat ze in beroep niet konden uitleggen eerder een last dan een bezit is. Het HEPI-stuk citeert daarnaast onderzoek van Weber-Wulff waaruit blijkt dat geen van de geteste gereedschappen voldeed aan de eis voor betrouwbare beslissingen met grote gevolgen.
Wat het gereedschap verving is leerzamer dan de verwijdering. De instellingen degradeerden detectie tot adviserende status, waarbij een docent een score privé mag bekijken maar hem niet in een formele klacht mag aanhalen, en ze pasten het toetsontwerp aan zodat het bewijs van auteurschap tijdens het werk ontstaat in plaats van achteraf te worden afgeleid. Dat is dezelfde beweging die een fraudeteam maakt wanneer het stopt met discussiëren over een modelscore en begint met het verzamelen van een transactiespoor.
Het verraderlijke teken. Let op wat een instelling doet met het gereedschap waarin ze zegt nog te geloven. Wanneer een universiteit de licentie houdt maar de score verbiedt in de procedure, heeft ze het product stilletjes geherklasseerd van bewijs naar voorsortering. De meeste organisaties maken die herklassering nooit expliciet, en zo belandt een sorteersignaal in een ontslagbrief.
Dezelfde rekensom zit in uw fraude- en DLP-gereedschap
Bijna elk scorend product dat een ondernemer koopt heeft deze vorm. Data loss prevention markeert een uitgaand bestand. Een platform voor intern risico geeft het gedrag van een medewerker een score. Een betaaldienstverlener kent een klant een fraudekans toe. Een sollicitatiefilter rangschikt een kandidaat. Elk daarvan staat op een werkpunt dat iemand heeft gekozen, elk heeft daar een percentage onterechte treffers, en bij vrijwel elke aanschaf wordt dat cijfer nooit gevraagd, omdat het verkoopgesprek wordt gevoerd in nauwkeurigheidspercentages die het beste geval op de testset van de leverancier beschrijven.
Drie vragen lossen het meeste op. Wat is het percentage onterechte treffers op de drempel die wij echt draaien, op een populatie die op de onze lijkt. Wat gebeurt er met dat percentage wanneer de invoer komt van iemand die vaardig maar atypisch is, wat voor een Europese werkgever meestal betekent: iemand die werkt in zijn tweede of derde taal. En welke vastgelegde stap zit er tussen het verschijnen van de score en het moment dat een persoon er gevolgen van ondervindt. Als het gereedschap de maatregel rechtstreeks in gang zet, is de score al een besluit geworden en draagt het proces een risico dat niemand heeft ingeprijsd.
Er loopt hier ook een juridische rand. De AVG beperkt besluiten die uitsluitend op geautomatiseerde verwerking berusten en rechtsgevolgen hebben of iemand in vergelijkbare mate treffen, en de menselijke tussenkomst moet echt zijn en geen stempel. In Nederland komt daar de Wet op de ondernemingsraden bij: een systeem dat prestaties of gedrag van personeel kan volgen valt onder het instemmingsrecht van de ondernemingsraad, dus het ligt voor de uitrol op tafel en niet erna. De universiteiten die detectie tot advies degradeerden kwamen per ongeluk in een verdedigbare positie terecht. Een werkgever hoort daar met opzet te komen.
Lees hierna: Sprout overtrof de prognose en schrapte 20% op dezelfde dag | Niemand verbood het. De filter weigerde toch.
