Instagram vil ikke tillate deg å legge ut de AI-genererte bildene dine som dine egne, kunngjorde etiketter

Gigantiske sosiale medier Meta kunngjorde planer om å merke innlegg laget ved hjelp av kunstig intelligens-verktøy på Facebook, Instagram og Threads. Dette initiativet adresserer bekymringer om spredning av feilinformasjon, spesielt under kommende valgsykluser.

Meta samarbeider med forskjellige teknologiselskaper, inkludert Google, OpenAI, Microsoft og Adobe, for å etablere bransjestandarder for å identifisere AI-generert innhold. Dette innebærer å inkludere usynlige vannmerker og metadata i bilder laget ved hjelp av disse verktøyene, slik at Meta kan oppdage dem selv om de deles på forskjellige plattformer.

Merkingen vil målrettes mot AI-genererte bilder fra eksterne kilder i den innledende fasen. Deteksjon av lyd- og videoinnhold ved bruk av lignende metoder er fortsatt under utvikling. I tillegg kan det hende at innlegg som mangler standardiserte markører ikke identifiseres i utgangspunktet. Meta utvikler aktivt løsninger for å håndtere disse begrensningene.

Dette initiativet får betydning ettersom flere land, inkludert USA, India, Sør-Afrika og Indonesia, forbereder seg på viktige valg. Den økende utbredelsen av deepfakes har vært en betydelig utfordring for velgere og kandidater, og Metas tilnærming er ment å redusere denne risikoen.

Metas avgjørelse er i tråd med nylige anbefalinger fra tilsynsstyret, som ba om klarere merking av AI-generert innhold i stedet for direkte fjerning. Samtidig erkjenner den dagens systems begrensninger.

Nick Clegg, Metas president for globale anliggender, sa til Bloomberg:

Vi må ha en samfunnsdekkende, eller absolutt bransjedekkende, debatt om den andre enden av teleskopet, som er hvordan du flagger for brukere sannheten eller ektheten til ikke-syntetisk innhold.

Merking av AI-generert innhold representerer et betydelig skritt fremover, men fremtidige utfordringer ruver. Etter hvert som nettlandskapet blir stadig mer mettet med AI-generert materiale, forventer Clegg også behovet for å utforske merking av legitimt innhold. Dette åpner for viktige diskusjoner om nettbasert autentisitet og tillit i den digitale tidsalderen.

Mer her..