UE abre investigação contra X de Musk devido a imagens sexualizadas do Grok
A Comissão Europeia iniciou uma investigação contra a plataforma X, de Elon Musk, após a disseminação de imagens sexualizadas manipuladas pelo seu chatbot de IA, Grok.
X de Musk sob investigação da UE por conteúdo ilegal de IA (imagem ilustrativa/PM)
O X, de Elon Musk, enfrenta uma investigação da Comissão Europeia para determinar se a plataforma dissemina conteúdo ilegal, após um clamor público sobre a disseminação de imagens sexualizadas manipuladas pelo seu chatbot de inteligência artificial, Grok.
A Comissão Europeia, o braço executivo do bloco de 27 nações, afirmou na segunda-feira (26) que investigaria se a rede social X protegia os clientes ao avaliar e mitigar adequadamente os riscos relacionados às funcionalidades do Grok.
A sua investigação ocorre duas semanas depois de o regulador de mídia britânico Ofcom ter lançado a sua própria investigação sobre preocupações de que o Grok estava a criar imagens deepfake sexualmente íntimas, e depois de a Indonésia, as Filipinas e a Malásia terem bloqueado temporariamente o chatbot.
Artigos relacionados
Resposta do X e medidas de restrição
A Comissão afirmou no início deste mês que as imagens geradas por IA de mulheres e crianças despidas, partilhadas no X, eram ilegais e chocantes, juntando-se à condenação em todo o mundo.
“Deepfakes sexuais não consensuais de mulheres e crianças são uma forma violenta e inaceitável de degradação”, disse a chefe de tecnologia da UE, Henna Virkkunen, em comunicado.
O X referiu-se a um comunicado emitido no dia 14 de janeiro, no qual afirmava que a xAI havia restringido a edição de imagens para utilizadores do Grok AI e bloqueado utilizadores, com base na sua localização, de gerar imagens de pessoas com roupas reveladoras em “jurisdições onde é ilegal”.
Ele não identificou os países.
Implicações legais e riscos sistêmicos
As Filipinas e a Malásia restauraram o acesso ao Grok depois de a xAI ter afirmado que havia instalado medidas de segurança adicionais.
A ação da Comissão, sob a Lei de Serviços Digitais da UE (DSA), que exige que as grandes empresas de tecnologia façam mais para combater o conteúdo online ilegal e prejudicial, ocorreu depois de o Grok da xAI ter produzido imagens sexualizadas de mulheres e menores que alarmaram os reguladores globais.
As empresas correm o risco de multas de até 6% do seu volume de negócios anual global por violações da DSA.
Embora as alterações feitas pela xAI tenham sido bem-vindas, elas não resolvem todos os problemas e riscos sistêmicos, disse um alto funcionário do executivo a jornalistas na segunda-feira.
Fonte: CNA
