Uma doutoranda põe o número à frente do setor
A 20 de julho o Higher Education Policy Institute publicou um trabalho de Brendal Aformeziem, doutoranda na Universidade de Strathclyde, a defender que as universidades britânicas deixem de usar pontuações de deteção de IA como prova principal em processos por fraude académica. O argumento não é que os estudantes nunca usem IA. É que o instrumento com que se pretende prová-lo produz uma classe de erro que o processo não consegue absorver, e que esse erro não está distribuído de forma igual. Os estudantes internacionais são 24 por cento de todos os alunos do ensino superior britânico e 51 por cento dos de pós-graduação, ou seja, exatamente o grupo que as ferramentas leem mal com mais frequência.
Já existe um registo. O Office of the Independent Adjudicator publicou em julho de 2025 quatro resumos de casos sobre acusações de fraude assistida por IA. Três dos quatro envolviam estudantes internacionais ou de segunda língua, e três foram decididos total ou parcialmente contra as universidades que os tinham instaurado. As recomendações de Aformeziem decorrem desse registo e não do debate abstrato: suspender a deteção como prova principal até haver validação independente, fazer com que a QAA e o OIA emitam orientação conjunta impedindo que uma pontuação sustente sozinha uma decisão disciplinar, e redesenhar a avaliação para que menos coisas dependam de um trabalho escrito sem supervisão.
Porque isto sai da universidade. Retire o cenário académico e fica uma história de compras que qualquer proprietário reconhece. Uma organização comprou uma ferramenta de pontuação, tratou a pontuação como facto assente, construiu um processo por cima e depois descobriu que a taxa de erro aceite na compra era incompatível com as decisões que estava a tomar. O objeto calhou serem trabalhos escolares. Podiam ter sido notas de despesa, alertas de risco interno ou uma pontuação de fraude de fornecedores.
Sessenta e um por cento não é um defeito, é uma afinação
O número que sustenta tudo isto vem de Stanford. Uma equipa dirigida por James Zou, professor de ciência de dados biomédicos, passou sete detetores de IA muito difundidos por 91 trabalhos TOEFL escritos por falantes não nativos e por um conjunto de comparação escrito por alunos norte-americanos do oitavo ano. Com os alunos americanos os detetores comportaram-se bem. Nos trabalhos TOEFL classificaram erradamente 61,22 por cento como produzidos por máquina. Os sete concordaram em 18 dos 91 trabalhos, e 97 por cento dos trabalhos foram assinalados por pelo menos uma ferramenta.
O mecanismo não tem mistério, e é a parte que vale a pena reter. Os detetores tratam vocabulário previsível e sintaxe simples como assinatura de máquina. O texto de alguém competente a escrever na sua segunda língua tem exatamente essas propriedades. Quando os investigadores reescreveram os mesmos trabalhos com vocabulário mais rico, a taxa de falsos positivos desabou. A ferramenta nunca mediu quem tinha escrito o texto. Media o quanto o inglês era rebuscado, e depois devolvia a resposta como se fosse sobre autoria.
O que é de facto um limiar. Qualquer classificador troca dois erros um pelo outro: o texto que acusa injustamente e o texto que deixa passar. É o fornecedor que escolhe o ponto da curva onde o produto assenta, e quem vende para um contexto em que uma acusação falsa é catastrófica afina com força para deixar passar a escrita assistida. É uma decisão de engenharia defensável e é também a razão pela qual o resultado não pode funcionar como prova. O trabalho do HEPI cita uma avaliação alargada a 805 amostras que encontrou uma precisão média de 39,5 por cento em texto de IA não modificado, a cair para 17,4 por cento assim que se aplicam técnicas simples de contorno, com algumas ferramentas a ler mal metade de todo o texto humano.
Quatro universidades chegaram ao mesmo em separado
A Universidade de Waterloo desligou a deteção de IA da Turnitin em setembro de 2025. A Universidade Curtin seguiu-a em janeiro de 2026. A UCLA e a UC San Diego já o tinham feito em 2024. Nenhuma se coordenou com as outras e nenhuma concluiu que o uso de IA tivesse cessado. Concluíram que um número que não sabiam explicar num recurso é um passivo e não um ativo. O trabalho do HEPI cita ainda a investigação de Weber-Wulff, segundo a qual nenhuma das ferramentas testadas atingia o nível exigido para decisões de forte impacto.
O que substituiu a ferramenta ensina mais do que a remoção. As instituições baixaram a deteção a estatuto indicativo, em que um docente pode ver uma pontuação em privado mas não a pode invocar numa queixa formal, e mudaram o desenho das provas para que a prova de autoria se forme durante o trabalho em vez de ser deduzida depois. É o mesmo movimento de uma equipa antifraude que deixa de discutir a pontuação de um modelo e começa a reunir um rasto de transações.
O sinal que denuncia. Repare no que uma instituição faz com a ferramenta em que diz continuar a confiar. Quando uma universidade mantém a licença mas proíbe a pontuação de aparecer no processo, reclassificou em silêncio o produto de prova para triagem. A maioria das organizações nunca torna essa reclassificação explícita, e é assim que um sinal de triagem acaba numa carta de despedimento.
A mesma aritmética vive nas suas ferramentas de fraude e DLP
Quase todo o produto de pontuação que um proprietário compra tem esta forma. A prevenção de perda de dados assinala um ficheiro que sai. Uma plataforma de risco interno pontua o comportamento de um colaborador. Um prestador de pagamentos atribui uma probabilidade de fraude a um cliente. Um filtro de candidaturas ordena um candidato. Cada um assenta num ponto de funcionamento que alguém escolheu, cada um tem aí uma taxa de falsos positivos, e em quase todas as compras esse número nunca é pedido, porque a conversa comercial decorre em percentagens de precisão que descrevem o melhor caso no conjunto de teste do próprio fornecedor.
Três perguntas resolvem quase tudo. Qual é a taxa de falsos positivos no limiar que vamos mesmo correr, sobre uma população parecida com a nossa. O que acontece a essa taxa quando a entrada vem de alguém competente mas atípico, o que para um empregador europeu costuma significar alguém a trabalhar na sua segunda ou terceira língua. E que passo documentado existe entre a pontuação aparecer e uma pessoa sofrer as consequências. Se a ferramenta desencadeia a medida diretamente, a pontuação já se tornou uma decisão e o processo carrega um risco que ninguém avaliou.
Há aqui também uma aresta jurídica. O RGPD limita as decisões baseadas unicamente em tratamento automatizado que produzam efeitos jurídicos ou afetem significativamente uma pessoa, e a intervenção humana tem de ser real e não um carimbo. Em Portugal, a Comissão Nacional de Proteção de Dados recorda ainda que o controlo dos trabalhadores exige proporcionalidade e informação prévia à equipa e aos seus representantes, ou seja, antes da entrada em serviço e não depois. As universidades que baixaram a deteção a mera indicação chegaram por acaso a uma posição defensável. Um empregador deve lá chegar de propósito.
Leia a seguir: A Sprout superou as contas e cortou 20% no mesmo dia | Ninguém o proibiu. O filtro recusou na mesma.
