Fotos de crianças brasileiras foram usadas indevidamente por ferramentas de inteligência artificial (IA), conforme identificado em um levantamento realizado pela organização internacional Human Rights Watch. Nesse estudo, foram encontradas 170 imagens de crianças de pelo menos 10 estados do Brasil, capturando momentos como nascimento de bebês, festas de aniversário e apresentações escolares. Todas essas fotos foram retiradas de sites e mídias sociais sem o devido consentimento dos pais ou responsáveis.
Essas imagens foram incorporadas a um grande banco de dados denominado LAION-5B, que é utilizado no treinamento de diversas ferramentas de IA. Embora o número de fotos envolvidas represente uma parcela pequena no contexto do vasto acervo do banco, que ultrapassa 5 bilhões de imagens, o fato traz à tona preocupações sobre a segurança e privacidade das pessoas.
A utilização dessas imagens para treinamento de IA pode resultar na criação de deepfakes, que são vídeos e fotos manipulados de forma realista por meio da inteligência artificial. Essas deepfakes podem ser disseminadas na internet sem o consentimento dos envolvidos, o que levanta questões éticas e de proteção à privacidade.
É importante destacar que muitas das fotos das crianças brasileiras foram postadas há anos em blogs pessoais e sites de compartilhamento de fotos e vídeos, antes mesmo da existência do banco de imagens em questão. O fato de essas imagens terem sido acessadas pelas ferramentas de IA revela possíveis falhas na proteção da privacidade por parte das grandes empresas e redes sociais.
Diante desse cenário, a Human Rights Watch notificou a instituição alemã responsável pelo LAION-5B, que se comprometeu a remover as fotos pessoais das crianças do banco de dados. No entanto, a LAION enfatizou que os modelos de IA treinados não reproduziriam literalmente os dados pessoais e que a responsabilidade de remover essas fotos da internet cabe às crianças e seus responsáveis.
Para especialistas, como Maria Mello, coordenadora do Programa Criança e Consumo do Instituto Alana, é fundamental garantir a proteção dos usuários, principalmente crianças e adolescentes, no ambiente digital. A aplicação da legislação e o cuidado com a privacidade dos usuários são essenciais para enfrentar os desafios trazidos pela inteligência artificial e evitar o uso indevido de informações pessoais.
Em suma, a questão do uso indevido de fotos de crianças brasileiras por ferramentas de IA levanta debates importantes sobre ética, privacidade e proteção de dados no contexto digital, evidenciando a necessidade de regulamentação e cuidado por parte das empresas e usuários. É fundamental garantir que as crianças e adolescentes estejam seguros e protegidos em um ambiente cada vez mais permeado pela tecnologia.
Com informações da EBC
Fotos: © Rawpick/Freepick / EBC
