Grok sob escrutínio por deepfakes da princesa Kako (Wikimedia)
Imagens deepfake geradas pelo Grok, da princesa Kako do Japão, sobrinha do imperador Naruhito, de biquíni e circulando online, renovaram o escrutínio sobre o chatbot X de Elon Musk.
Desde que o assistente de IA começou a permitir que usuários manipulassem qualquer imagem postada, uma tendência de nudificação ganhou força online, com pessoas pedindo ao Grok para gerar deepfakes sexualizados usando comandos como “coloque-a em um biquíni minúsculo” ou até mesmo “tire a sua roupa”.
A princesa Kako, segunda filha do príncipe Herdeiro Akishino, tornou-se o alvo mais recente quando fotos dela participando de uma reunião de Ano Novo organizada pela família imperial japonesa no dia 2 de janeiro foram postadas no X, de acordo com o site de notícias MS News.
Artigos relacionados
A viralização das imagens
Logo depois que as imagens da princesa, de 31 anos, em um vestido azul acenando da sacada começaram a circular, um usuário aderiu à tendência pedindo ao Grok para “colocá-la em um biquíni minúsculo”.
A imagem manipulada obteve mais de 15 milhões de visualizações antes de ser finalmente excluída. Outros usuários também começaram a gerar seus próprios deepfakes da foto, incluindo a princesa nua, com o corpo coberto de tatuagens e vestida com trajes provocantes.
A Agência da Casa Imperial do Japão não fez nenhuma declaração sobre as fotos obscenas.
Explosão de pedidos e bloqueios internacionais
A tendência “coloque-a em um biquíni” começou no início de dezembro, mas explodiu na primeira semana do ano, informou o The Guardian.
Até quarta-feira (13), uma análise de um jornal britânico descobriu que até 6 mil pedidos de biquíni estavam sendo feitos ao Grok a cada hora.
A demanda atingiu o pico no dia 2 de janeiro, com 199.612 solicitações individuais, de acordo com um estudo da Peryton Intelligence, uma empresa de inteligência digital especializada em ódio online.
Durante o fim de semana, a Indonésia e a Malásia se tornaram os primeiros países do mundo a banir o Grok.
Restrições governamentais e mudanças na plataforma
A Comissão Malaia de Comunicações e Multimídia disse em um comunicado no domingo que havia “direcionado uma restrição temporária ao acesso à inteligência artificial Grok para usuários na Malásia” após “uso indevido repetido do Grok para gerar imagens manipuladas obscenas, sexualmente explícitas, indecentes, grosseiramente ofensivas e não consensuais”.
Enquanto Musk postou nas redes sociais que seus críticos estavam procurando “qualquer desculpa para censura”, o Grok agora escondeu a função de imagem de IA atrás de um paywall.
Fonte: SCMP
