Instagram vám nedovolí tajne uverejňovať obrázky vytvorené AI ako vaše vlastné, oznámili štítky

Sociálny mediálny gigant meta oznámili plány na označovanie príspevkov vytvorených pomocou nástrojov umelej inteligencie na Facebooku, Instagrame a v vláknach. Táto iniciatíva sa zaoberá obavami zo šírenia dezinformácií, najmä počas nadchádzajúcich volebných cyklov.

Meta spolupracuje s rôznymi technologickými spoločnosťami vrátane Google, OpenAI, Microsoft a Adobe na vytvorení celoodvetvových štandardov na identifikáciu obsahu generovaného AI. To zahŕňa začlenenie neviditeľných vodoznakov a metadát do obrázkov vytvorených pomocou týchto nástrojov, čo umožňuje Meta ich detekovať, aj keď sú zdieľané na rôznych platformách.

Označovanie sa v počiatočnej fáze zameria na obrázky generované AI z externých zdrojov. Detekcia audio a video obsahu pomocou podobných metód je stále vo vývoji. Navyše, príspevky, ktorým chýbajú štandardizované markery, nemusia byť spočiatku identifikované. Meta aktívne vyvíja riešenia na riešenie týchto obmedzení.

Táto iniciatíva naberá na význame, keďže niekoľko krajín vrátane USA, Indie, Južnej Afriky a Indonézie sa pripravuje na kľúčové voľby. Rastúca prevalencia deepfakes predstavuje značnú výzvu pre voličov a kandidátov a prístup Meta má toto riziko zmierniť.

Rozhodnutie spoločnosti Meta je v súlade s nedávnymi odporúčaniami rady pre dohľad, ktorá požadovala jasnejšie označovanie obsahu generovaného AI, a nie úplné odstránenie. Zároveň uznáva obmedzenia súčasného systému.

Povedal to Nick Clegg, prezident spoločnosti Meta pre globálne záležitosti Bloomberg:

Budeme musieť viesť celospoločenskú, alebo určite aj priemyselnú diskusiu o druhom konci ďalekohľadu, teda ako označíte používateľom pravdivosť alebo autentickosť nesyntetického obsahu.

Označovanie obsahu generovaného umelou inteligenciou predstavuje významný krok vpred, ale hrozia budúce výzvy. Keďže online prostredie je čoraz viac nasýtené materiálom generovaným AI, Clegg tiež predpokladá potrebu preskúmať označovanie legitímneho obsahu. To otvára dôležité diskusie o online autentickosti a dôvere v digitálnom veku.

viac tu.