O réu é quem concebeu o Grok, não a plataforma

A ação identifica a xAI, não o X

A 3 de junho a deputada trabalhista Jess Asato deu entrada de uma ação no High Court em Inglaterra por causa de imagens sexualizadas suas que utilizadores geraram com o Grok no início de janeiro, depois de ela ter criticado publicamente Elon Musk e o produto. As causas de pedir são a violação do regime de proteção de dados e o ilícito civil de uso indevido de informação privada. A ré é a xAI, a empresa que construiu e colocou o modelo em funcionamento. Não é a plataforma que difundiu o resultado.

Essa escolha da ré é toda a história. Os seus advogados na AWO, liderados por Ravi Naik com Lucie Audibert e Alex Lawrence-Archer, descrevem-na como uma das primeiras ações a testar a responsabilidade pela conceção de um sistema de inteligência artificial. Naik formula-o assim: o resultado "foi uma escolha, não uma falha técnica", e a própria declaração de Asato diz o mesmo: a capacidade "não é um acidente nem um uso indevido, é uma decisão de conceção dos seus criadores". A Reuters noticiou a 28 de julho que ela pede uma providência que obrigue a xAI a aplicar "medidas técnicas eficazes e permanentes". A xAI não comentou.

Duas instruções que não podem valer ambas

O que eleva o argumento da conceção acima da retórica é aquilo que os articulados levam aos autos. Segundo os documentos judiciais, o modelo foi instruído a recusar ajuda em atividades criminosas e, na mesma configuração, foi-lhe dito que não havia restrições quanto a conteúdo sexual para adultos ou conteúdo ofensivo, nem restrições quanto a conteúdo sexual ficcional para adultos com temas sombrios ou violentos.

Essas duas instruções convivem num só sistema. Um tribunal não precisa de perceber a arquitetura transformer para as colocar lado a lado e perguntar qual delas o criador esperava que vencesse. É esta a forma probatória de uma ação sobre a conceção, e é por isso que a instrução de sistema se tornou, em silêncio, o documento mais consequente que um operador de modelos escreve.

Convém ser exato quanto ao que aqui não se sustenta. Ninguém diz que os utilizadores que produziram as imagens são inocentes, e ninguém alega que o modelo teve uma falha. Sustenta-se que um resultado previsível ficou permitido pela configuração, e que permiti-lo é um ato praticado por quem o criou.

Sete meses de regulador, um processo aberto

A via legal correu em paralelo e produziu menos. O Ofcom abriu a 12 de janeiro uma investigação formal ao X ao abrigo da Online Safety Act, sobre o cumprimento dos deveres essenciais em matéria de conteúdos ilícitos e segurança de menores. A sanção máxima é de 18 milhões de libras ou 10 por cento do volume de negócios mundial relevante, consoante o que for mais elevado. No final de julho a investigação continua aberta. A autoridade britânica de proteção de dados conduz um processo próprio, e a Comissão Europeia examina a mesma conduta ao abrigo do regulamento dos serviços digitais.

A 27 de julho a comissão de Comunicações e Assuntos Digitais da Câmara dos Lordes abriu o seu próprio inquérito sobre se a lei funciona. A sua presidente, a baronesa Keeley, disse que a norma foi vista como um ponto de viragem quando foi aprovada e que "é agora claro que a lei não está a funcionar tão bem como devia". A comissão examina o ritmo, a interpretação e a aplicação por parte do Ofcom, além do próprio texto legal, e pede contributos escritos até às 17 horas de segunda-feira, 7 de setembro.

Coloque as duas vias frente a frente. Uma é um regulador que leva sete meses a instruir um processo contra uma plataforma, com uma coima no fim. A outra é uma única pessoa a pedir a um juiz que ordene uma alteração ao modelo. A segunda é mais rápida, não precisa de regulador e pede algo que uma coima não consegue dar.

O que mudar se puser um modelo em funcionamento

A exposição que isto abre não se limita à xAI nem à geração de imagens. Qualquer empresa que construa, afine ou coloque em funcionamento um modelo generativo capaz de reproduzir uma pessoa real está a tratar dados pessoais dessa pessoa, e no Reino Unido tal como em toda a União Europeia essa pessoa pode agir diretamente. Não precisa de um regulador que abra processo, não precisa de um dever de plataforma que se aplique, e pode pedir uma providência em vez de uma indemnização.

Daqui decorrem três consequências práticas. Trate a instrução de sistema e a configuração de segurança como documentos passíveis de apresentação em tribunal, escritos para um juiz futuro e não como notas técnicas internas. Registe por que motivo cada permissão foi concedida e por quem, porque a ação sobre a conceção gira em torno de escolhas, e uma escolha sem motivo registado fica muito mal perante um juiz. E olhe para o calendário: as proibições de imagens íntimas não consentidas do regulamento europeu da inteligência artificial aplicam-se a partir de 2 de dezembro e vão assentar numa via de proteção de dados que já hoje está aberta.

Leia a seguir: Ofcom: adivinhar a idade de um utilizador não chega  |  Grok 4.5 perde os benchmarks e ganha a fatura