A disseminação de imagens explícitas falsas geradas por IA está em alta, dificultando a diferenciação do real e do falso.
A crescente evolução da inteligência artificial está contribuindo para uma maior dificuldade em distinguir o que é autêntico e o que é falso. Essa complexidade do mundo atual tem resultado em uma significativa proliferação de imagens pornográficas de mulheres e meninas em plataformas digitais.
Infelizmente, a disseminação desenfreada de imagens pornográficas traz consigo o perigo das montagens falsas e deepfakes, alimentando um ambiente virtual distorcido e danoso. É crucial estar atento para combater essa crescente maré de conteúdo inapropriado na internet e proteger a privacidade e segurança de todos.
Desafios na Moderação de Imagens Pornográficas
Recentemente, o X (Twitter) enfrentou uma série de obstáculos ao tentar conter a alta proliferação de imagens pornográficas da estrela do pop Taylor Swift, levando a plataforma social de Elon Musk a tomar medidas temporárias para impedir que os usuários buscassem por imagens da cantora estadunidense.
Diante desse cenário, o Conselho de Supervisão da Meta, empresa responsável pelo Instagram, Facebook, WhatsApp e Threads, está revisando a abordagem das plataformas em relação a dois casos específicos. O primeiro envolveu uma imagem sexualmente explícita, gerada por IA, de uma mulher nua semelhante a uma personalidade da Índia, postada em uma conta do Instagram que compartilhava apenas imagens falsas de mulheres indianas.
Leia também,pode ser do seu interesse:
Já o segundo caso tratava de um grupo no Facebook dedicado a imagens sexualmente explícitas criadas por IA, exibindo uma montagem falsa de uma mulher nua parecida com uma figura pública dos EUA, acompanhada por um homem tocando seu peito.
Inicialmente, a Meta optou por remover apenas a imagem da mulher estadunidense por violar as diretrizes contra bullying e assédio, que proíbem ‘photoshops ou desenhos de cunho sexual depreciativo’, deixando a imagem com a mulher indiana sem alterações. A decisão foi modificada somente após a intervenção do conselho. Em uma declaração oficial, a Meta reconheceu os casos e comprometeu-se a acatar as decisões do conselho.
Apesar dos esforços da empresa de Mark Zuckerberg em lidar com a disseminação de imagens sexualmente explícitas falsas, alguns líderes do setor já estão defendendo a necessidade de uma legislação que torne crime a criação de deepfakes (termo utilizado para tais montagens) prejudiciais, além de exigir que as empresas de tecnologia impeçam tais usos de seus produtos.
Com essas polêmicas em curso, a importância de regulamentar a propagação de imagens pornográficas falsas geradas por IA se torna cada vez mais evidente, apontando para a urgência de ações coordenadas entre as plataformas digitais e órgãos reguladores para garantir um ambiente online seguro e ético para todos os usuários.
Fonte: @ Ad News
