ouça este conteúdo
Um grupo internacional localizou 170 imagens no LAION-5B banco de dados usando ferramentas de IA. Organização internacional, levantamento online, banco de dados LAION-5B, pesquisa, 170 imagens, crianças, modelos treinados, proteção mais eficaz. (139 caracteres)
Uma pesquisa recente realizada pela Human Rights Watch revelou a utilização de fotos de crianças brasileiras por sistemas de inteligência artificial (IA). Segundo o estudo, as fotografias foram coletadas de plataformas online e redes sociais sem autorização prévia.
As imagens de crianças brasileiras têm sido alvo de análises por parte de algoritmos de IA, levantando preocupações sobre a privacidade e segurança dos menores. É fundamental estabelecer medidas para proteger a identidade e os direitos das crianças em ambientes digitais.
Fotos de crianças brasileiras: Levantamento de imagens e proteção online
A entidade internacional realizou um levantamento minucioso e encontrou 170 fotos de crianças brasileiras em diferentes situações, capturando momentos especiais como nascimentos, festas de aniversário e apresentações escolares. Essas imagens foram identificadas em um banco de dados conhecido como LAION-5B, utilizado para o aprimoramento das ferramentas de inteligência artificial.
De acordo com a organização, o número de fotos descobertas representa apenas uma pequena parcela do vasto acervo do banco, que ultrapassa a marca de 5 bilhões de imagens. No entanto, esse achado serve como um alerta significativo para a necessidade de proteção e segurança online. Algumas das imagens foram compartilhadas por crianças, adolescentes, pais ou familiares em blogs pessoais e plataformas de compartilhamento de conteúdo visual.
A pesquisadora de Direitos da Criança e Tecnologia da Human Rights Watch, Hye Jung Han, ressaltou que a inteligência artificial possibilita a criação rápida e gratuita de imagens e vídeos realistas, abrindo espaço para a produção de deepfakes prejudiciais e não consensuais. Essas práticas, que envolvem a manipulação de rostos e vozes, têm se disseminado na internet, levantando preocupações sobre a privacidade e segurança das crianças.
A Human Rights Watch alertou que as fotos das crianças brasileiras não estão disponíveis para pesquisa online e foram compartilhadas há anos, muitas vezes antes da existência do banco de imagens LAION-5B. A exposição dessas imagens a algoritmos de IA revela lacunas na proteção de dados por parte de grandes empresas e plataformas digitais.
A instituição alemã responsável pelo LAION-5B confirmou a presença das fotos pessoais das crianças identificadas pela Human Rights Watch e comprometeu-se a removê-las do banco de dados. Contudo, ressaltou que os modelos de IA treinados com essas imagens não têm a capacidade de reproduzir dados pessoais de forma literal, enfatizando a responsabilidade dos pais e das próprias crianças em proteger sua privacidade online.
Maria Mello, coordenadora do Programa Criança e Consumo do Instituto Alana, defendeu a necessidade de aplicação da legislação no ambiente virtual para garantir a segurança dos usuários, especialmente das crianças e adolescentes. Em entrevista à TV Brasil, Mello destacou a importância de estabelecer novos direitos diante dos desafios apresentados pela inteligência artificial, visando assegurar o cuidado e proteção dos públicos mais vulneráveis.
Fonte: @ Agencia Brasil