Por Bruna Galati
O avanço da inteligência artificial nos últimos anos tem sido notável e tem proporcionado inúmeras melhorias em diversos setores, como saúde, finanças e educação, tornando processos mais eficientes e ágeis. No entanto, essa mesma evolução tecnológica trouxe consigo uma sombra preocupante que ameaça a privacidade e a dignidade de milhares de indivíduos em todo o mundo. Estamos nos referindo aos DeepNudes, baseada em técnicas de inteligência artificial que possui o potencial de criar imagens e vídeos extraordinariamente realistas, incluindo conteúdo pornográfico, utilizando redes neurais e dados pessoais.
Os deepnudes são uma extensão do deepfake, expressão que se tornou conhecida com a popularização da IA, e representam a utilização de técnicas sofisticadas de IA para a criação de imagens e vídeos, muitas vezes de natureza pornográfica, que são falsos. “Essa tecnologia se baseia na capacidade das redes neurais de manipular dados, incluindo informações provenientes das mídias sociais e outras fontes, para gerar conteúdo altamente realista. Em um cenário em que imagens originais de uma pessoa são utilizadas como base, os algoritmos e tecnologias atuais são capazes de criar um material tão convincente que engana facilmente os espectadores”, afirma Ahirton Lopes, Chief Data Officer da Lambda3.
Confira aqui o Mídia Kit do Startupi!
Origem dos deepnudes
O início desse fenômeno começou em 2019, quando um aplicativo chamado DeepNude ganhou notoriedade antes de ser removido devido às sérias questões éticas e legais que levantou. Inicialmente, a tecnologia estava nas mãos de poucas empresas, mas sua popularização cresceu rápido. O ponto de inflexão ocorreu em 2019, quando o app chamou a atenção do público.
A motivação por trás da criação de aplicativos e tecnologias que produzem DeepNudes varia amplamente. Segundo Ahirton, alguns indivíduos usam essas ferramentas de forma prejudicial, criando imagens pornográficas não consensuais de outras pessoas para difamá-las ou causar danos emocionais. Outros exploram essa tecnologia no entretenimento, gerando conteúdo envolvendo celebridades ou personagens fictícios.
De acordo com o relatório “Deepfakes vs Biometric KYC Verification” de 2022 da Sensity, empresa de segurança na internet, mais de 100 mil mulheres já tiveram seus rostos colocados em fotos sem roupa através de um robô digital em um chat do Telegram, essas imagens foram divulgadas em redes sociais e usadas sem consentimento. Não foi revelado o nome do canal no Telegram, para evitar maior adesão, mas a Sensity sublinha que basta fazer upload de apenas uma foto de mulher para que o software consiga produzir uma imagem que pareça real.
De acordo com o relatório, cerca de 70% das imagens utilizadas pertenciam a pessoas comuns e não a celebridades. Embora o DeepNude tenha sido removido em junho de 2019, o código-fonte permanece disponível em vários sites de torrent e repositórios de código aberto.
“Essa prática afeta diretamente aqueles que não têm conhecimento do que está acontecendo, e os impactos psicológicos são profundamente significativos. As vítimas de deepnudes experimentam angústia e trauma emocional, deixando cicatrizes que perduram por toda a vida, além de que ao passar por isso, muitas vezes elas não criam forças para recorrer e buscar pelos seus direitos”, reforça Ahirton Lopes.
Proteção das vítimas
Vale ressaltar que o conteúdo gerado por deep fakes é altamente replicável, tornando ainda mais desafiador o combate a sua disseminação. Em muitos casos, é extremamente difícil garantir que um conteúdo seja removido completamente, deixando as vítimas em um estado de constante preocupação com a possibilidade das imagens e vídeos ressurgirem.
Mas ainda sim existem tecnologias disponíveis que conseguem verificar se aquelas imagens divulgadas na internet são verdadeiras, sendo uma forma de rebater a pessoa que divulgou o deepnudes. Ahirton Lopes também enfatiza que é fundamental abrir um boletim de ocorrência, principalmente para que as autoridades tenham consentimento de que isso está acontecendo e tomem providências. “Muitas vezes, as pessoas podem acreditar que não serão tomadas medidas legais, mas, na realidade, as autoridades policiais possuem recursos e unidades especializadas dedicadas a investigar crimes cibernéticos, tornando isso uma questão de grande importância.”
Na internet, as pessoas também têm uma falsa sensação de segurança ao utilizar contas anônimas para disseminar deepnudes. No entanto, temos testemunhado a aplicação efetiva de leis contra a divulgação desse tipo de conteúdo, o que pode resultar na prisão de indivíduos envolvidos, independentemente de terem criado deep fakes ou apenas os compartilhado.
Segundo o JusBrasil, esse crime já possui previsão legal na legislação brasileira e se encaixa como registro não autorizado da intimidade sexual, nos conteúdos modificados no artigo 216-B do Código Penal, descrito no parágrafo único: “na mesma pena incorre quem realiza montagem em fotografia, vídeo, áudio ou qualquer outro registro com o fim de incluir pessoa em cena de nudez ou ato sexual ou libidinoso de caráter íntimo”, com pena de seis meses a um ano e multa.
Quando a vítima de deepnudes é mulher, o crime pode ser enquadrado na Lei Maria da Penha como violência psicológica, por ter provocado violação da intimidade da vítima. Além da investigação criminal, existem outras formas de buscar ajuda: se a foto foi encontrada nas redes sociais, como X, antigo Twitter, Instagram ou Facebook, a publicação pode ser denunciada às empresas, para que o autor da imagem seja punido. Segundo o JusBrasil, A SaferNet recebe denúncias, se houver link da imagem e tem um canal de apoio para quem sofre com crimes praticados na internet, com orientação e indicação de especialistas para cada caso.
O especialista Ahirton Lopes também cita que as empresas de tecnologia tem um papel crucial na prevenção da disseminação de DeepNudes. Elas podem investir em mecanismos de filtragem, detecção de deepfakes e desenvolvimento responsável de IA para evitar que essa tecnologia seja usada de maneira prejudicial.
Deepnudes nas escolas
O Startupi recebeu diversos relatos de que o compartilhamento de deepnudes está alcançando até o ambiente escolar. No entanto, até o momento, não obtivemos feedback de colaboradores das escolas dispostos a compartilhar informações sobre a situação atual. Diante desses relatos, buscamos a opinião do Ahirton Lopes para entender as medidas que poderiam ser tomadas.
“Em relação às escolas, é verdade que muitas delas ainda não têm uma abordagem efetiva para lidar com questões relacionadas a nudes ou deepnudes. É importante que essas instituições e os educadores estejam preparados para orientar os alunos sobre o uso responsável da internet. Além disso, a conscientização das famílias e dos pais desempenha um papel crucial, pois essas situações muitas vezes são indicativas de problemas mais amplos, como bullying ou exposição online. Ao monitorar o que as crianças acessam e compartilham online, especialmente imagens íntimas, podemos ajudar a prevenir incidentes indesejados e proteger a privacidade online das crianças.”
Acesse aqui e saiba como você e o Startupi podem se tornar parceiros para impulsionar seus esforços de comunicação. Startupi – Jornalismo para quem lidera a inovação
