A Meta está expandindo a rotulagem de imagens geradas por Inteligência Artificial e publicada em suas plataformas de mídia social – Facebook, Instagram e Threads. O objetivo é amenizar as fake news no período de eleições.
A Meta diz que já detecta e rotula imagens desenvolvidas pela sua própria ferramenta de IA generativa “Imagine with Meta”, lançada em dezembro passado. Mas, até agora, não tem rotulado imagens criadas usando as ferramentas de outra empresa.
“Temos trabalhado com parceiros da indústria para nos alinharmos em padrões técnicos comuns que sinalizam quando um conteúdo foi criado usando IA”, escreveu o presidente da Meta, Nick Clegg, em uma postagem no blog anunciando a expansão da rotulagem. “Ser capaz de detectar esses sinais nos possibilitará rotular imagens geradas por IA que os usuários postam no Facebook, Instagram e Threads.”
De acordo com Clegg, a Meta lançará a rotulagem expandida nos próximos meses e aplicará rótulos em todos os idiomas suportados por cada aplicativo. “Estamos adotando essa abordagem até o próximo ano, durante o qual uma série de eleições importantes estão ocorrendo em todo o mundo”, escreveu ele. “Durante esse tempo, esperamos aprender muito mais sobre como as pessoas estão criando e compartilhando conteúdo de IA, que tipo de transparência as pessoas acham mais valiosa e como essas tecnologias evoluem. O que aprendemos informará as melhores práticas do setor e nossa própria abordagem daqui para frente.”
A abordagem da Meta para rotular imagens geradas por IA depende da detecção alimentada por marcas visíveis e marcas d’água invisíveis. A Meta trabalha com outras empresas de IA para desenvolver um padrão e melhores práticas para identificar a IA generativa. Clegg afirma que a Meta, nos próximos 12 meses, será capaz de detectar imagens geradas por IA a partir de ferramentas feitas pelo Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock, bem como suas próprias ferramentas de imagem de IA.
Meta: Vídeo e áudio gerados por IA
Quando se trata de vídeos e áudio gerados por IA, Clegg diz que ainda é muito desafiador detectar esse tipo de falsificação, porque a marcação e a marca d’água ainda não foram adotadas em escala suficiente para que as ferramentas de detecção façam um bom trabalho. Além disso, esses sinais podem ser tirados, por meio de edição e manipulação adicional de mídia.
“Ainda não é possível identificar todo o conteúdo gerado pela IA, e há maneiras pelas quais as pessoas podem retirar marcadores invisíveis. Então, estamos buscando uma série de opções”, escreveu ele. “Estamos trabalhando duro para desenvolver classificadores que possam nos ajudar a detectar automaticamente o conteúdo gerado por IA, mesmo que o conteúdo não tenha marcadores invisíveis. Ao mesmo tempo, estamos procurando maneiras de tornar mais difícil remover ou alterar marcas d’água invisíveis.”
A Meta também está mudando sua política para exigir que os usuários que postam vídeo ou áudio gerado por IA informem que o conteúdo não é real. Se o usuário não fizer essa divulgação manual, poderá enfrentar penalidades.
Acesse aqui e saiba como você e o Startupi podem se tornar parceiros para impulsionar seus esforços de comunicação. Startupi – Jornalismo para quem lidera a inovação.
