O Instagram não permitirá que você publique sorrateiramente suas imagens geradas por IA como se fossem suas, anunciaram as gravadoras

Gigante de mídia social Meta anunciou planos para rotular postagens criadas usando ferramentas de inteligência artificial no Facebook, Instagram e Threads. Esta iniciativa aborda preocupações sobre a propagação de desinformação, especialmente durante os próximos ciclos eleitorais.

A Meta está trabalhando com várias empresas de tecnologia, incluindo Google, OpenAI, Microsoft e Adobe, para estabelecer padrões em todo o setor para identificar conteúdo gerado por IA. Isso envolve a incorporação de marcas d’água e metadados invisíveis em imagens criadas usando essas ferramentas, permitindo que o Meta os detecte mesmo se compartilhados em diferentes plataformas.

A rotulagem terá como alvo imagens geradas por IA de fontes externas na fase inicial. A detecção de conteúdo de áudio e vídeo usando métodos semelhantes ainda está em desenvolvimento. Além disso, as postagens sem marcadores padronizados podem não ser identificadas inicialmente. A Meta está desenvolvendo ativamente soluções para resolver essas limitações.

Esta iniciativa ganha importância à medida que vários países, incluindo os EUA, a Índia, a África do Sul e a Indonésia, se preparam para eleições cruciais. A crescente prevalência de deepfakes representa um desafio significativo para eleitores e candidatos, e a abordagem da Meta pretende mitigar este risco.

A decisão da Meta está alinhada com as recomendações recentes do seu Conselho de Supervisão, que apelou a uma rotulagem mais clara do conteúdo gerado por IA, em vez da remoção total. Ao mesmo tempo, reconhece as limitações do sistema actual.

Nick Clegg, presidente de assuntos globais da Meta, disse ao Bloomberg:

Precisaremos de um debate em toda a sociedade, ou certamente em toda a indústria, sobre o outro extremo do telescópio, que é como sinalizar para os usuários a veracidade ou autenticidade de conteúdo não sintético.

Rotular o conteúdo gerado por IA representa um avanço significativo, mas desafios futuros se aproximam. À medida que o cenário online se torna cada vez mais saturado com material gerado por IA, Clegg também antecipa a necessidade de explorar a rotulagem de conteúdo legítimo. Isto abre discussões importantes sobre autenticidade online e confiança na era digital.

Mais aqui.