Ilustrativa (banco de imagens)
A decisão de não colocar uma menina de 4 anos sob custódia temporária em 2022, a qual depois morreu aos cuidados da mãe, foi influenciada parcialmente por avaliação de inteligência artificial (IA), de acordo com autoridades da província de Mie.
A polícia provincial de Mie prendeu uma mulher sob suspeita de danos corporais fatais em conexão com o óbito de sua filha de 4 anos.
Após isso, o governador de Mie, Katsuyuki Ichimi, disse que estabeleceria um painel terceirizado para discutir se a IA deveria ser usada no futuro e processar casos de abuso infantil.
Em 10 de julho deste ano, a assembleia provincial de Mie realizou uma sessão em que autoridades provinciais explicaram o contexto do caso envolvendo a menina de 4 anos.
O governo provincial usa dados passados sobre casos de abuso infantil em um programa de IA que calcula uma porcentagem para colocar uma criança sob custódia temporária.
No caso em questão, o programa de IA disse que havia uma necessidade de 39% para custódia protetora.
Funcionários provinciais enfatizaram que a IA sozinha nunca foi usada para decidir se uma criança deveria ser colocada sob custódia protetora e só adotada como ponto de referência a fim de ajudar funcionários da prefeitura a considerar vários fatores antes de tomar uma decisão.
Em fevereiro de 2022, funcionários do centro de proteção infantil se encontraram com a mãe da menina após relatos de que sua filha tinha hematomas no corpo.
A decisão alcançada foi que funcionários provinciais deveriam visitar ocasionalmente a criança que continuaria aos cuidados da mãe.
A decisão foi baseada no fato de que os hematomas não pareciam ser de um abuso e porque a mãe indicou que seguiria as instruções e suporte do centro de proteção infantil.
A avaliação da IA também levou em conta a decisão de verificar periodicamente a criança, visto que ela estava sendo cuidada em casa.
Funcionários do centro de proteção depois souberam que a menina estava ausente por um longo período da creche que frequentava, mas não fizeram esforços para entrar em contato com a mãe.
O governo da província de Mie começou a usar o programa de IA em julho de 2020. Ele é baseado em dados de aproximadamente 6 mil casos de abuso infantil desde o ano fiscal de 2014.
Ao compilar um pacote de medidas para prevenir casos de abuso infantil, o governo central incluiu em setembro de 2022 o uso da IA para determinar se uma criança deveria ser colocada sob custódia temporária como um meio de reduzir a carga sobre centros de proteção infantil.
Fonte: Asahi
