Instagram staat niet toe dat je stiekem je door AI gegenereerde afbeeldingen als je eigen foto's plaatst, zo hebben labels aangekondigd

Reus voor sociale media meta plannen aangekondigd om berichten die zijn gemaakt met behulp van kunstmatige intelligentietools op Facebook, Instagram en Threads te labelen. Dit initiatief komt tegemoet aan de zorgen over de verspreiding van desinformatie, vooral tijdens de komende verkiezingscycli.

Meta werkt samen met verschillende technologiebedrijven, waaronder Google, OpenAI, Microsoft en Adobe, om sectorbrede standaarden vast te stellen voor het identificeren van door AI gegenereerde inhoud. Dit omvat het opnemen van onzichtbare watermerken en metadata in afbeeldingen die met deze tools zijn gemaakt, waardoor Meta ze kan detecteren, zelfs als ze op verschillende platforms worden gedeeld.

De labeling zal zich in de beginfase richten op door AI gegenereerde afbeeldingen van externe bronnen. Detectie van audio- en video-inhoud met behulp van vergelijkbare methoden is nog in ontwikkeling. Bovendien worden berichten zonder gestandaardiseerde markeringen in eerste instantie mogelijk niet geïdentificeerd. Meta ontwikkelt actief oplossingen om deze beperkingen aan te pakken.

Dit initiatief wint aan betekenis nu verschillende landen, waaronder de VS, India, Zuid-Afrika en Indonesië, zich opmaken voor cruciale verkiezingen. De toenemende prevalentie van deepfakes vormt een aanzienlijke uitdaging voor kiezers en kandidaten, en de aanpak van Meta is bedoeld om dit risico te beperken.

Het besluit van Meta komt overeen met recente aanbevelingen van de Oversight Board, die opriep tot een duidelijkere etikettering van door AI gegenereerde inhoud in plaats van regelrechte verwijdering. Tegelijkertijd erkent het de beperkingen van het huidige systeem.

Nick Clegg, Meta's president van mondiale zaken, zei dit Bloomberg:

We zullen een samenlevingsbrede, of zeker sectorbrede, discussie moeten voeren over de andere kant van de telescoop: hoe kun je voor gebruikers de waarheidsgetrouwheid of authenticiteit van niet-synthetische inhoud markeren.

Het labelen van door AI gegenereerde inhoud is een belangrijke stap voorwaarts, maar toekomstige uitdagingen liggen op de loer. Nu het online landschap steeds meer verzadigd raakt met door AI gegenereerd materiaal, anticipeert Clegg ook op de noodzaak om het labelen van legitieme inhoud te onderzoeken. Dit opent belangrijke discussies over online authenticiteit en vertrouwen in het digitale tijdperk.

Meer hier.