Una doctoranda pone la cifra delante del sector
El 20 de julio el Higher Education Policy Institute publicó un trabajo de Brendal Aformeziem, doctoranda en la Universidad de Strathclyde, que pide a las universidades británicas dejar de usar las puntuaciones de detección de IA como prueba principal en los expedientes por fraude académico. El argumento no es que los estudiantes nunca usen IA. Es que el instrumento con el que se pretende demostrarlo produce una clase de error que el procedimiento no puede absorber, y que ese error no se reparte de forma pareja. Los estudiantes internacionales son el 24 por ciento de todos los estudiantes de educación superior británica y el 51 por ciento de los de posgrado, justamente el grupo que las herramientas leen mal con más frecuencia.
Ya existe un expediente. La Office of the Independent Adjudicator publicó en julio de 2025 cuatro resúmenes de casos sobre acusaciones de fraude asistido por IA. Tres de los cuatro afectaban a estudiantes internacionales o de segunda lengua, y tres se resolvieron total o parcialmente en contra de las universidades que los habían abierto. Las recomendaciones de Aformeziem salen de ese historial y no del debate abstracto: suspender la detección como prueba principal hasta que exista una validación independiente, que la QAA y la OIA emitan una guía conjunta que impida que una puntuación sea por sí sola la base de una decisión disciplinaria, y rediseñar la evaluación para que menos cosas dependan de un trabajo escrito sin supervisión.
Por qué esto sale de la universidad. Quite el decorado académico y queda una historia de compras que cualquier propietario reconoce. Una organización compró una herramienta de puntuación, trató la puntuación como un hecho probado, montó un procedimiento encima y después descubrió que la tasa de error que había aceptado al comprar era incompatible con las decisiones que estaba tomando. El objeto resultaron ser trabajos académicos. Podrían haber sido notas de gastos, alertas de riesgo interno o una puntuación de fraude de proveedores.
El 61 por ciento no es un defecto, es un ajuste
La cifra que sostiene todo esto viene de Stanford. Un equipo dirigido por James Zou, catedrático de ciencia de datos biomédicos, pasó siete detectores de IA muy extendidos por 91 ensayos TOEFL escritos por hablantes no nativos y por un conjunto de comparación escrito por alumnos estadounidenses de octavo curso. Con los escolares americanos los detectores funcionaron bien. Con los ensayos TOEFL clasificaron erróneamente el 61,22 por ciento como generados por máquina. Los siete coincidieron en 18 de los 91 ensayos, y el 97 por ciento de los ensayos fue marcado por al menos una herramienta.
El mecanismo no tiene misterio, y es la parte que conviene interiorizar. Los detectores tratan el vocabulario previsible y la sintaxis sencilla como una firma de máquina. El texto de alguien competente que escribe en su segunda lengua tiene exactamente esas propiedades. Cuando los investigadores reescribieron los mismos ensayos con un vocabulario más rico, la tasa de falsos positivos se desplomó. La herramienta nunca midió quién había escrito el texto. Medía lo elaborado que era el inglés y luego presentaba la respuesta como una cuestión de autoría.
Qué es de verdad un umbral. Todo clasificador reparte dos errores entre sí: el texto que acusa injustamente y el texto que deja pasar. El proveedor elige el punto de esa curva donde se sitúa el producto, y quien vende a un entorno donde una acusación falsa resulta catastrófica ajustará con fuerza hacia dejar pasar la escritura asistida. Es una decisión de ingeniería defendible y es también la razón por la que el resultado no puede funcionar como prueba. El trabajo del HEPI cita una evaluación amplia sobre 805 muestras que encontró una precisión media del 39,5 por ciento con texto de IA sin modificar, que cae al 17,4 por ciento en cuanto se aplican técnicas sencillas de evasión, con algunas herramientas leyendo mal la mitad de todo el texto humano.
Cuatro universidades llegaron a lo mismo por separado
La Universidad de Waterloo apagó la detección de IA de Turnitin en septiembre de 2025. La Universidad Curtin la siguió en enero de 2026. UCLA y UC San Diego ya lo habían hecho en 2024. Ninguna se coordinó con las demás y ninguna concluyó que el uso de IA hubiera cesado. Concluyeron que una cifra que no sabían explicar en un recurso era un pasivo y no un activo. El trabajo del HEPI cita además la investigación de Weber-Wulff según la cual ninguna de las herramientas probadas alcanzaba el nivel exigido para decisiones de alto impacto.
Lo que sustituyó a la herramienta enseña más que la retirada. Las instituciones bajaron la detección a rango orientativo, donde un docente puede mirar una puntuación en privado pero no puede invocarla en una denuncia formal, y cambiaron el diseño de las pruebas para que la evidencia de autoría se genere durante el trabajo en lugar de deducirse después. Es el mismo movimiento que hace un equipo antifraude cuando deja de discutir la puntuación de un modelo y empieza a reunir un rastro de transacciones.
La señal reveladora. Observe qué hace una institución con la herramienta en la que dice seguir confiando. Cuando una universidad conserva la licencia pero prohíbe que la puntuación aparezca en el procedimiento, ha reclasificado en silencio el producto de prueba a triaje. La mayoría de las organizaciones nunca hace esa reclasificación explícita, y así es como una señal de triaje termina en una carta de despido.
La misma aritmética vive en sus herramientas de fraude y DLP
Casi todo producto de puntuación que compra un propietario tiene esta forma. La prevención de fuga de datos marca un archivo saliente. Una plataforma de riesgo interno puntúa el comportamiento de un empleado. Un proveedor de pagos asigna una probabilidad de fraude a un cliente. Un filtro de currículos ordena a un candidato. Cada uno se sitúa en un punto de operación que alguien eligió, cada uno tiene ahí una tasa de falsos positivos, y en casi toda compra esa cifra no se pide nunca, porque la conversación comercial se lleva en porcentajes de precisión que describen el mejor caso sobre el conjunto de prueba del propio proveedor.
Tres preguntas arreglan casi todo. Cuál es la tasa de falsos positivos en el umbral que vamos a ejecutar de verdad, sobre una población parecida a la nuestra. Qué le pasa a esa tasa cuando la entrada la produce alguien competente pero atípico, lo que para un empleador europeo suele significar alguien que trabaja en su segunda o tercera lengua. Y qué paso documentado hay entre la aparición de la puntuación y el momento en que una persona se ve afectada por ella. Si la herramienta dispara la medida directamente, la puntuación ya se ha convertido en una decisión y el procedimiento carga un riesgo que nadie ha valorado.
Aquí hay también un filo jurídico. El RGPD limita las decisiones basadas únicamente en tratamiento automatizado que produzcan efectos jurídicos o afecten significativamente a una persona, y la intervención humana tiene que ser real y no un sello de goma. En España, la Agencia Española de Protección de Datos añade que el control laboral debe ser proporcionado y que la información previa a la plantilla y a sus representantes forma parte de la legalidad de la medida, no de la cortesía. Las universidades que bajaron la detección a rango orientativo llegaron por accidente a una posición defendible. Un empleador debería llegar allí a propósito.
Leer a continuación: Sprout superó su previsión y recortó un 20% el mismo día | Nadie lo prohibió. El filtro se negó igualmente.
