A plataforma X, de Elon Musk, está introduzindo um novo sistema para rotular imagens como “mídia manipulada”, conforme indicado por uma postagem recente do próprio Musk. Contudo, a falta de detalhes sobre como essa determinação será feita e se inclui edições tradicionais levanta questões importantes.
A Iniciativa de Rotulagem no X
1. Anúncio Misterioso de Elon Musk
Elon Musk fez um anúncio críptico em sua própria plataforma X, mencionando um “aviso visual editado”. Esta é a única fonte primária de informação sobre a nova funcionalidade até o momento.
2. A Postagem de DogeDesigner
A conta anônima DogeDesigner, frequentemente utilizada por Musk para divulgar novidades do X, compartilhou a informação, afirmando que a ferramenta dificultará a disseminação de “clips ou imagens enganosas” por “grupos de mídia legado”.
3. Falta de Clareza sobre a Implementação
Não há informações claras sobre os critérios que o X utilizará para identificar mídia manipulada, nem se isso abrangerá apenas conteúdo gerado por IA ou também edições feitas com ferramentas convencionais como o Photoshop.
4. Precedente do Twitter
Antes de se tornar X, o Twitter já possuía uma política para rotular tuítes com mídia manipulada, alterada de forma enganosa ou fabricada. Essa política não se limitava à IA, incluindo edições seletivas, cortes, desaceleração ou dublagem, e manipulação de legendas.
5. Aplicação da Política Atual
A documentação de ajuda do X menciona uma política contra o compartilhamento de mídia não autêntica, mas sua aplicação tem sido inconsistente, como evidenciado pelo recente escândalo de imagens íntimas não consensuais.
6. A Complexidade da Definição
Rotular algo como “mídia manipulada” ou “imagem de IA” é uma tarefa complexa e cheia de nuances, especialmente em um ambiente onde a propaganda política é abundante.
7. Necessidade de Transparência
É crucial que o X documente como fará a distinção entre o que é “editado”, gerado por IA ou manipulado por IA, e que os usuários tenham um processo claro para contestar esses rótulos, para além das Notas da Comunidade.
Desafios na Detecção de IA e Mídia Manipulada
8. Erros de Detecção da Meta
Quando a Meta introduziu a rotulagem de imagens de IA em 2024, seu sistema cometeu erros, identificando fotografias reais como “Feitas com IA”, mesmo sem o uso de IA generativa.
9. Integração de IA em Ferramentas Criativas
A crescente integração de funcionalidades de IA em softwares de edição, como os da Adobe e o novo Creator Studio da Apple, dificulta a distinção entre edições convencionais e manipulações por IA.
10. Ferramentas da Adobe e Falsos Positivos
Ferramentas como o corte do Adobe e o Preenchimento Generativo de IA, que remove objetos, causaram falsos positivos nos detectores de IA da Meta, levando à rotulagem incorreta de imagens como “Feitas com IA”.
11. Ajuste da Meta na Rotulagem
Diante desses problemas, a Meta alterou seu rótulo de “Feito com IA” para “Informações de IA”, buscando indicar o uso de IA sem afirmar que a imagem foi inteiramente gerada por ela.
Padrões da Indústria e Outras Plataformas
12. C2PA: Coalizão para Autenticidade
A C2PA (Coalition for Content Provenance and Authenticity) é um órgão de padronização que visa verificar a autenticidade e a proveniência do conteúdo digital.
13. Iniciativas Relacionadas
Existem outras iniciativas como a CAI (Content Authenticity Initiative) e o Project Origin, que buscam adicionar metadados de proveniência à mídia para detectar adulterações.
14. Ausência do X na C2PA
Atualmente, o X não está listado entre os membros da C2PA, levantando dúvidas sobre a adesão da plataforma a padrões da indústria para identificação de conteúdo de IA.
15. TikTok e Conteúdo de IA
O TikTok também implementou a rotulagem de conteúdo gerado por IA, mostrando uma preocupação crescente entre as redes sociais.
16. Serviços de Streaming e Música de IA
Serviços de streaming como Deezer e Spotify estão desenvolvendo iniciativas para identificar e rotular músicas geradas por IA, combatendo fraudes e spam.
17. Google Fotos e C2PA
O Google Fotos utiliza o padrão C2PA para indicar como as fotos em sua plataforma foram criadas, promovendo a transparência.
18. Comitê Diretor da C2PA
Grandes empresas de tecnologia e mídia, incluindo Microsoft, BBC, Adobe, Intel e OpenAI, fazem parte do comitê diretor da C2PA.
19. Perguntas sem Resposta
Elon Musk não esclareceu se a nova funcionalidade do X se refere especificamente a imagens de IA ou a qualquer tipo de edição, nem se é realmente uma novidade, como afirma DogeDesigner.
20. A Natureza da Mídia Manipulada
A discussão sobre mídia manipulada vai além da IA, abrangendo edições tradicionais que podem alterar o significado ou o contexto de uma imagem.
21. O Futuro da Autenticidade Digital
A batalha contra a desinformação e a mídia manipulada exige esforços coordenados e transparentes, algo que o X ainda precisa demonstrar com sua nova iniciativa.
