Una dottoranda mette il numero davanti al settore
Il 20 luglio l'Higher Education Policy Institute ha pubblicato un lavoro di Brendal Aformeziem, dottoranda all'Università di Strathclyde, che chiede agli atenei britannici di smettere di usare i punteggi di rilevamento dell'IA come prova principale nei procedimenti per illecito accademico. L'argomento non è che gli studenti non usino mai l'IA. È che lo strumento con cui si pretende di dimostrarlo produce una classe di errore che il procedimento non riesce ad assorbire, e che quell'errore non è distribuito in modo uniforme. Gli studenti internazionali sono il 24 per cento di tutti gli iscritti all'istruzione superiore britannica e il 51 per cento dei post-laurea, cioè esattamente il gruppo che gli strumenti leggono male più spesso.
Un fascicolo esiste già. L'Office of the Independent Adjudicator ha pubblicato nel luglio 2025 quattro sintesi di casi relativi ad accuse di illecito assistito dall'IA. Tre dei quattro riguardavano studenti internazionali o di seconda lingua, e tre si sono chiusi in tutto o in parte contro gli atenei che li avevano avviati. Le raccomandazioni di Aformeziem discendono da quel fascicolo e non dal dibattito astratto: sospendere il rilevamento come prova principale in attesa di una validazione indipendente, far emettere a QAA e OIA un indirizzo congiunto che vieti a un punteggio di fondare da solo una decisione disciplinare, e riprogettare la valutazione perché meno cose dipendano da un elaborato svolto senza sorveglianza.
Perché la cosa esce dall'università. Togliete la scenografia accademica e resta una storia di acquisti che qualsiasi imprenditore riconosce. Un'organizzazione ha comprato uno strumento di punteggio, ha trattato il punteggio come un accertamento, ci ha costruito sopra un processo e poi ha scoperto che il tasso di errore accettato al momento dell'acquisto era incompatibile con le decisioni che stava prendendo. L'oggetto erano per caso dei temi. Potevano essere note spese, allarmi di rischio interno o un punteggio di frode sui fornitori.
Il 61 per cento non è un difetto, è un'impostazione
Il numero che regge tutto questo viene da Stanford. Un gruppo guidato da James Zou, professore di scienza dei dati biomedici, ha fatto girare sette rilevatori di IA molto diffusi su 91 temi TOEFL scritti da non madrelingua e su un insieme di confronto scritto da studenti americani di terza media. Sugli scolari americani i rilevatori se la sono cavata bene. Sui temi TOEFL hanno classificato erroneamente il 61,22 per cento come prodotti da una macchina. Tutti e sette erano d'accordo su 18 dei 91 temi, e il 97 per cento dei temi è stato segnalato da almeno uno strumento.
Il meccanismo non è misterioso, ed è la parte che vale la pena interiorizzare. I rilevatori trattano un lessico prevedibile e una sintassi semplice come firma della macchina. Il testo di una persona competente che scrive nella sua seconda lingua ha esattamente quelle proprietà. Quando i ricercatori hanno riscritto gli stessi temi con un lessico più ricco, il tasso di falsi positivi è crollato. Lo strumento non ha mai misurato chi avesse scritto il testo. Misurava quanto fosse elaborato l'inglese, e poi restituiva la risposta come se riguardasse la paternità.
Che cosa è davvero una soglia. Ogni classificatore mette due errori uno contro l'altro: il testo che accusa a torto e il testo che lascia passare. È il fornitore a scegliere il punto della curva in cui si colloca il prodotto, e chi vende in un contesto dove un'accusa falsa è catastrofica taglierà deciso verso il lasciar passare la scrittura assistita. È una scelta ingegneristica difendibile ed è anche il motivo per cui il risultato non può fare da prova. Il lavoro dell'HEPI cita una valutazione ampia su 805 campioni che ha trovato un'accuratezza media del 39,5 per cento su testo di IA non modificato, che scende al 17,4 per cento appena si applicano semplici tecniche di aggiramento, con alcuni strumenti che leggono male metà di tutti i testi umani.
Quattro atenei sono arrivati alla stessa conclusione da soli
L'Università di Waterloo ha spento il rilevamento dell'IA di Turnitin nel settembre 2025. La Curtin University ha fatto lo stesso nel gennaio 2026. UCLA e UC San Diego lo avevano già fatto nel 2024. Nessuna si è coordinata con le altre e nessuna ha concluso che l'uso dell'IA fosse finito. Hanno concluso che un numero che non sapevano spiegare in appello era una passività e non un vantaggio. Il lavoro dell'HEPI cita inoltre la ricerca di Weber-Wulff secondo cui nessuno degli strumenti testati raggiungeva il livello richiesto per decisioni ad alto impatto.
Ciò che ha sostituito lo strumento insegna più della rimozione. Gli atenei hanno declassato il rilevamento a indicazione, dove un docente può guardare un punteggio in privato ma non può citarlo in una segnalazione formale, e hanno cambiato il disegno delle prove perché la prova della paternità si formi durante il lavoro invece di essere dedotta dopo. È la stessa mossa di una squadra antifrode che smette di discutere il punteggio di un modello e comincia a raccogliere una traccia di transazioni.
Il segnale che tradisce. Guardate che cosa fa un'istituzione con lo strumento di cui dice di fidarsi ancora. Quando un ateneo tiene la licenza ma vieta al punteggio di comparire nel procedimento, ha riclassificato in silenzio il prodotto da prova a smistamento. La maggior parte delle organizzazioni non rende mai esplicita questa riclassificazione, ed è così che un segnale di smistamento finisce in una lettera di licenziamento.
La stessa aritmetica vive nei vostri strumenti antifrode e DLP
Quasi ogni prodotto di punteggio che un imprenditore compra ha questa forma. La prevenzione della perdita di dati segnala un file in uscita. Una piattaforma di rischio interno assegna un punteggio al comportamento di un dipendente. Un fornitore di pagamenti attribuisce una probabilità di frode a un cliente. Un filtro di curriculum ordina un candidato. Ognuno sta su un punto di lavoro che qualcuno ha scelto, ognuno ha lì un tasso di falsi positivi, e in quasi ogni acquisto quel numero non viene mai chiesto, perché la trattativa commerciale si svolge in percentuali di accuratezza che descrivono il caso migliore sul banco di prova del fornitore stesso.
Tre domande sistemano quasi tutto. Qual è il tasso di falsi positivi alla soglia che useremo davvero, su una popolazione che assomiglia alla nostra. Che cosa succede a quel tasso quando l'input arriva da qualcuno competente ma atipico, che per un datore di lavoro europeo di solito vuol dire una persona che lavora nella seconda o terza lingua. E quale passaggio documentato separa la comparsa del punteggio dal momento in cui una persona ne subisce gli effetti. Se lo strumento fa scattare la misura direttamente, il punteggio è già diventato una decisione e il processo porta un rischio che nessuno ha prezzato.
Qui corre anche un bordo giuridico. Il GDPR limita le decisioni basate unicamente su un trattamento automatizzato che producano effetti giuridici o incidano in modo analogamente significativo su una persona, e l'intervento umano deve essere reale e non un timbro. In Italia il Garante per la protezione dei dati personali ricorda inoltre che il controllo a distanza dei lavoratori passa dalle garanzie dello Statuto dei lavoratori, quindi accordo sindacale o autorizzazione prima dell'attivazione, non dopo. Gli atenei che hanno declassato il rilevamento a indicazione sono finiti per caso in una posizione difendibile. Un datore di lavoro dovrebbe arrivarci di proposito.
Da leggere ora: Sprout ha battuto le stime e tagliato il 20% lo stesso giorno | Nessuno l'ha vietato. Il filtro ha rifiutato lo stesso.
