A Internet Watch Foundation (IWF) publicou um relatório anual e disse ter encontrado quase 3 mil imagens de abuso infantil feitas por inteligência artificial que violam as regras do Reino Unido.
De acordo com a organização, imagens reais das vítimas estão sendo usadas e aplicadas em tecnologias de IA para produzirem novas representações delas. Além disso, imagens de celebridades estão sendo recriadas para “rejuvenescê-las” e retratá-las como crianças em cenários de abuso sexual. Também estão usando IA para desnudar fotos de crianças vestidas encontradas na internet.
“A Inteligência Artificial nos leva a uma nova fronteira no mundo online. Ela promete muito, e estamos apenas começando a entender como isso pode melhorar nossas vidas, nossa qualidade de vida, nossas oportunidades. Mas há um lado obscuro”, afirma Susie Hargreaves, CEO da IWF. “Estamos agora em uma posição onde as imagens são tão realista, que identificá-las está sendo difícil até para analistas treinados para distinguir. E estão usando inteligência artificial para gerar imagens indecentes de crianças.”
Acesse aqui e responda ao Censo Investidores 2023! Queremos ouvir você!
A pesquisa ainda encontrou evidências de imagens geradas por inteligência artificial sendo vendidas online. O estudo foi baseado em uma investigação de um mês realizada em um fórum sobre abuso infantil na dark web.
Foram 11.108 imagens analisadas pela entidade, sendo que 2.978 delas violavam a lei britânica de Proteção da Criança, que criminaliza a captura, distribuição e posse de fotografias indecentes ou pseudofotografias de crianças. Desse total, mais de uma em cada cinco foram classificadas como categoria A, conteúdos mais graves, que podem retratar estupro e violência sexual.
Mais de 100 mil mulheres já foram vítimas de deepnudes sem consentimento, afirma relatório
O estudo discutiu sobre o uso de IA com códigos abertos e fechados. A ferramenta de geração de imagens Stable Diffusion foi citada no fórum por deixar seu software disponível para todos. Já o Midjourney e o DALL-E são modelos de código fechado baseados em nuvem.
Acesse aqui e saiba como você e o Startupi podem se tornar parceiros para impulsionar seus esforços de comunicação. Startupi – Jornalismo para quem lidera a inovação.
