Instagram vil ikke tillade dig at snige poste dine AI-genererede billeder som dine egne, annoncerede etiketter

Sociale medier gigant Meta annonceret planer om at mærke opslag oprettet ved hjælp af kunstig intelligens-værktøjer på Facebook, Instagram og Threads. Dette initiativ adresserer bekymringer om spredningen af ​​misinformation, især under kommende valgcyklusser.

Meta arbejder sammen med forskellige teknologivirksomheder, herunder Google, OpenAI, Microsoft og Adobe, for at etablere branchestandarder for identifikation af AI-genereret indhold. Dette involverer inkorporering af usynlige vandmærker og metadata i billeder, der er oprettet ved hjælp af disse værktøjer, hvilket gør det muligt for Meta at registrere dem, selvom de deles på tværs af forskellige platforme.

Mærkningen vil målrette AI-genererede billeder fra eksterne kilder i den indledende fase. Registrering af lyd- og videoindhold ved hjælp af lignende metoder er stadig under udvikling. Derudover kan indlæg, der mangler standardiserede markører, muligvis ikke identificeres i starten. Meta udvikler aktivt løsninger til at imødegå disse begrænsninger.

Dette initiativ får betydning, da flere lande, herunder USA, Indien, Sydafrika og Indonesien, ruster op til afgørende valg. Den voksende udbredelse af deepfakes har udgjort en betydelig udfordring for vælgere og kandidater, og Metas tilgang har til formål at afbøde denne risiko.

Metas beslutning stemmer overens med de seneste anbefalinger fra dets tilsynsråd, som opfordrede til klarere mærkning af AI-genereret indhold i stedet for direkte fjernelse. Den anerkender samtidig det nuværende systems begrænsninger.

Nick Clegg, Metas præsident for globale anliggender, sagde til Bloomberg:

Vi bliver nødt til at have en samfundsdækkende, eller helt sikkert branchedækkende, debat om den anden ende af teleskopet, som er, hvordan du markerer for brugerne sandheden eller ægtheden af ​​ikke-syntetisk indhold.

Mærkning af AI-genereret indhold repræsenterer et væsentligt skridt fremad, men fremtidige udfordringer lurer. Efterhånden som onlinelandskabet bliver mere og mere mættet med AI-genereret materiale, forudser Clegg også behovet for at udforske mærkning af lovligt indhold. Dette åbner op for vigtige diskussioner om online ægthed og tillid i den digitale tidsalder.

Mere link..