Instagram ne vous permettra pas de publier sournoisement vos images générées par l'IA comme les vôtres, ont annoncé les labels

Géant des médias sociaux Meta a annoncé son intention d'étiqueter les publications créées à l'aide d'outils d'intelligence artificielle sur Facebook, Instagram et Threads. Cette initiative répond aux préoccupations concernant la propagation de la désinformation, en particulier lors des prochains cycles électoraux.

Meta travaille avec diverses entreprises technologiques, notamment Google, OpenAI, Microsoft et Adobe, pour établir des normes à l'échelle du secteur pour identifier le contenu généré par l'IA. Cela implique d'incorporer des filigranes invisibles et des métadonnées dans les images créées à l'aide de ces outils, permettant à Meta de les détecter même si elles sont partagées sur différentes plates-formes.

L’étiquetage ciblera dans un premier temps les images générées par l’IA à partir de sources externes. La détection de contenu audio et vidéo à l'aide de méthodes similaires est encore en cours de développement. De plus, les publications dépourvues de marqueurs standardisés pourraient ne pas être identifiées au départ. Meta développe activement des solutions pour remédier à ces limitations.

Cette initiative prend de l’importance alors que plusieurs pays, dont les États-Unis, l’Inde, l’Afrique du Sud et l’Indonésie, se préparent à des élections cruciales. La prévalence croissante des deepfakes a posé un défi important aux électeurs et aux candidats, et l'approche de Meta vise à atténuer ce risque.

La décision de Meta s'aligne sur les récentes recommandations de son comité de surveillance, qui appelait à un étiquetage plus clair du contenu généré par l'IA plutôt qu'à une suppression pure et simple. En même temps, il reconnaît les limites du système actuel.

Nick Clegg, président des affaires mondiales de Meta, a déclaré à Bloomberg:

Nous devrons avoir un débat à l'échelle de la société, ou certainement à l'échelle de l'industrie, sur l'autre extrémité du télescope, à savoir comment signaler aux utilisateurs la véracité ou l'authenticité du contenu non synthétique.

L’étiquetage du contenu généré par l’IA représente un pas en avant significatif, mais de futurs défis se profilent. Alors que le paysage en ligne devient de plus en plus saturé de matériel généré par l’IA, Clegg anticipe également la nécessité d’explorer l’étiquetage du contenu légitime. Cela ouvre d’importantes discussions sur l’authenticité et la confiance en ligne à l’ère numérique.

Plus ici.