Tóquio – A princesa Kako de Akishino tornou-se a mais recente vítima de abuso por deepfake gerado por Inteligência Artificial (IA). Usuários da ferramenta de IA Grok, da rede social X, alteraram imagens da princesa para inserir conteúdo sexual, incluindo a modificação de suas roupas. Outra vítima recente desse tipo de prática foi Catherine, princesa de Gales.

O episódio gerou forte indignação pública e reacendeu o debate sobre o uso ético da IA, a responsabilidade das plataformas digitais e a necessidade de maior proteção a figuras públicas, segundo o Japan Daily.

De acordo com o Cybernews, diversas fotos dos membros da família imperial japonesa foram tiradas durante as celebrações de Ano Novo e posteriormente compartilhadas na rede X. Em seguida, um usuário publicou um pedido para que a princesa fosse colocada de biquíni. A tendência de “colocá-la de biquíni” se espalhou desde o início do Ano Novo, segundo o jornal The Guardian, resultando em centenas de milhares de solicitações ao chatbot de IA Grok.

Uma das imagens manipuladas chegou a alcançar 15 milhões de visualizações antes de ser removida da plataforma. A Agência da Casa Imperial já enfrentou dificuldades para solicitar a retirada desse tipo de conteúdo, o que evidencia os limites das políticas atuais da rede X.

Além disso, o Japão mantém regras rigorosas baseadas na aversão a qualquer forma de crítica ou difamação contra a família imperial. Mesmo assim, outras imagens da princesa circularam amplamente, incluindo montagens em que ela aparece nua, vestida de forma provocativa ou coberta com tatuagens.

No Reino Unido, a princesa Catherine também foi alvo de imagens indecentes criadas pelo Grok. Usuários da rede X pediram ao bot que despisse Catherine em fotos ou que a colocasse de biquíni.

Grok de Elon Musk

A IA criada pelo bilionário Elon Musk enfrenta reações globais e investigações por permitir a geração de imagens sexualizadas não consensuais de figuras públicas, incluindo personalidades japonesas como Momo Hirai, integrante japonesa do grupo de K-pop Twice.

O ex-primeiro-ministro do Japão, Fumio Kishida, também foi alvo de deepfake, neste caso em um vídeo no qual aparece fazendo comentários vulgares e sexualmente explícitos. O material original era da Nippon TV, com o áudio substituído por IA e sincronização labial artificial.

Outras ferramentas de IA, como Midjourney e Dall-E, utilizam filtros rígidos que bloqueiam termos como “nu” ou nomes de políticos. Já o Grok foi lançado por Musk com uma filosofia de “liberdade de expressão”, o que resultou em mecanismos de segurança mais limitados.

Segundo o Mashable, os responsáveis pela IA Grok admitiram falhas graves, inclusive a possibilidade de gerar imagens de menores de idade com pouca roupa. Um dos integrantes da equipe afirmou que estão analisando formas de reforçar as barreiras de proteção.

Foto: Paulo Pinto/Agência Brasil
Princesa Kako de Akishino