Um botão de denúncia é uma ferramenta de etiquetagem

A 30 de julho o LinkedIn acrescentou uma opção ao menu de três pontos de cada publicação: Parece slop de IA. As publicações denunciadas perdem alcance, de forma muito parecida com o que a plataforma já faz ao conteúdo marcado como não me interessa. Com isso chegaram novos classificadores destinados a retirar o slop das recomendações vindas de fora da sua rede, avisos privados a autores cujas publicações pareçam pouco autênticas por uso intenso de IA, acesso mais alargado à verificação de perfis e páginas, e a possibilidade de bloquear comentários de páginas de empresa.

O mecanismo percebe-se melhor no que a própria empresa disse. O diretor de produto Hari Srinivasan classificou o slop como difícil de definir, acrescentou que a definição muda, e explicou que as denúncias permitem ao LinkedIn afinar os seus modelos e construir melhores feeds. Lido como afirmação técnica e não como comunicação institucional, descreve com precisão para que serve o botão. As pessoas produzem etiquetas. O classificador treinado com elas despromove a uma escala que nenhuma equipa de revisão alcançaria. O botão é a metade barata.

O critério está aberto de propósito

Porque importa: quase todas as outras regras de moderação com que lida estão publicadas. Pode ler a política de uma plataforma sobre spam, nudez ou usurpação de identidade e prever com razoável confiança como será tratada uma publicação. Esta é assumidamente móvel por construção. É engenharia honesta, porque uma definição fixa de slop seria contornada numa semana, e é um problema real para quem depende do feed, porque não se cumpre uma definição reajustada sem parar contra etiquetas novas.

Convém ainda ser preciso sobre o que é penalizado. Srinivasan foi explícito: o uso de IA não é em si o problema quando afina um pensamento autêntico. O que atrai a denúncia é uma textura que os leitores reconhecem: a cadência genérica, a arrumada estrutura em três partes, a frase final que assentaria debaixo de qualquer publicação. Textura não é uma regra que se cumpra a assinalar uma caixa. É julgada por um público, e desloca-se à medida que esse público fica melhor a detetá-la.

Os leitores já tinham aplicado a pena

A dimensão está documentada fora do LinkedIn. A Pangram Labs, cuja extensão de deteção saiu em abril, analisou mais de um milhão de publicações no LinkedIn, no X, no Reddit, no Medium e no Substack. No LinkedIn, mais de 40 por cento das publicações longas, ou seja as de mais de 250 palavras, revelaram-se totalmente produzidas por uma máquina. No X o valor foi de 25 por cento inteiramente escritas por IA e outros 23 por cento assistidas. O Reddit e o Substack rondavam os 10 por cento. Pela contagem do estudo, o LinkedIn aloja cerca de 62 por cento de todo o conteúdo de IA que examinou nas grandes redes.

O essencial está noutro número. Essas publicações escritas por IA recolheram cerca de 45 por cento menos interações do que as humanas, e a medição é anterior a tudo isto. O custo em alcance já estava a ser cobrado, em silêncio, por leitores que passavam adiante. O que foi anunciado a 30 de julho acrescenta uma pena mecânica por cima de uma pena de comportamento que já corria. Se a sua empresa publica conteúdos redigidos com IA, não precisa de esperar por uma denúncia para saber quanto lhe custa, porque a comparação já está na sua própria análise.

Na Europa a despromoção tem de ser explicada

O LinkedIn foi designado plataforma em linha de muito grande dimensão ao abrigo do regulamento dos serviços digitais na primeira ronda da Comissão, em abril de 2023, sobre o limiar de 45 milhões de utilizadores ativos mensais na União. Essa designação traz consequências que tocam diretamente este anúncio. Nos termos do artigo 17.º, restringir a visibilidade de informação prestada por um utilizador, o que cobre expressamente despromover conteúdo, obriga a plataforma a entregar-lhe uma fundamentação que indique o motivo invocado e os factos em que assenta. O artigo 20.º exige um sistema interno de tratamento de reclamações. O artigo 21.º abre a resolução extrajudicial certificada.

É uma assimetria a seu favor que vale a pena usar. A definição muda é uma resposta aceitável perante um jornalista e bastante mais fraca perante um dever de fundamentação, que tem de nomear um motivo. Uma empresa europeia cuja página ou cuja publicação do fundador perca alcance pode pedir essa fundamentação em vez de adivinhar a causa. As fundamentações seguem ainda para a base de dados pública de transparência da Comissão, pelo que o comportamento agregado de um classificador indefinido se torna verificável com o tempo. O mecanismo existe, invocá-lo não custa nada, e quase ninguém o faz.

Nativo não quer dizer aprovado

Um pormenor do anúncio merece mais atenção do que o botão. No mesmo movimento, o LinkedIn retirou Melhore a sua publicação, a sua própria funcionalidade generativa de escrita, e substituiu-a por uma ferramenta mais estreita que corrige gramática e ortografia sem reescrever o autor numa voz genérica. A plataforma que lançou o gerador lança agora o botão de queixa para o tipo de texto que esse gerador produzia, e fez ambas as coisas numa única atualização de produto.

A lição duradoura vai muito além deste feed. O facto de uma funcionalidade ser nativa da plataforma não prova que a plataforma continuará a premiar o que ela produz. O incentivo para lançar uma ferramenta é a sua adoção; o incentivo para posicionar o resultado é outra conta, que pode inverter-se sem aviso e sem quebrar nada do que aceitou. Antes de construir um fluxo de publicação sobre a funcionalidade de IA de um fornecedor, pergunte quanto vale o seu resultado se essa funcionalidade desaparecer no trimestre seguinte, e guarde aquilo que a pessoa escreveu.

Leia a seguir: Bruxelas Multou a Avaliação de Riscos, Não as Falsificações  |  Bruxelas chamou fraca à auditoria e aprovou-a