Instagram vám nedovolí tajně zveřejňovat vaše obrázky vygenerované umělou inteligencí jako vaše vlastní, oznámily štítky

Obří sociální média meta oznámila plány na označování příspěvků vytvořených pomocí nástrojů umělé inteligence na Facebooku, Instagramu a vláknech. Tato iniciativa se zabývá obavami ze šíření dezinformací, zejména během nadcházejících volebních cyklů.

Meta spolupracuje s různými technologickými společnostmi, včetně Google, OpenAI, Microsoft a Adobe, na vytvoření celoodvětvových standardů pro identifikaci obsahu generovaného umělou inteligencí. To zahrnuje začlenění neviditelných vodoznaků a metadat do obrázků vytvořených pomocí těchto nástrojů, což umožňuje Meta je detekovat, i když jsou sdíleny na různých platformách.

Označení se v počáteční fázi zaměří na obrázky generované AI z externích zdrojů. Detekce audio a video obsahu pomocí podobných metod je stále ve vývoji. Navíc příspěvky postrádající standardizované markery nemusí být zpočátku identifikovány. Meta aktivně vyvíjí řešení pro řešení těchto omezení.

Tato iniciativa nabývá na významu, protože několik zemí, včetně USA, Indie, Jižní Afriky a Indonésie, se připravuje na klíčové volby. Rostoucí prevalence deepfakes představuje významnou výzvu pro voliče a kandidáty a přístup Meta má toto riziko zmírnit.

Rozhodnutí společnosti Meta je v souladu s nedávnými doporučeními její dozorčí rady, která požadovala jasnější označování obsahu generovaného umělou inteligencí spíše než úplné odstranění. Zároveň uznává omezení současného systému.

Nick Clegg, prezident společnosti Meta pro globální záležitosti, řekl Bloomberg:

Budeme muset vést celospolečenskou, nebo jistě i průmyslovou debatu o druhém konci dalekohledu, což je způsob, jakým uživatelům označíte pravdivost nebo autenticitu nesyntetického obsahu.

Označování obsahu generovaného umělou inteligencí představuje významný krok vpřed, ale rýsují se budoucí výzvy. Vzhledem k tomu, že online prostředí je stále více nasyceno materiálem generovaným umělou inteligencí, Clegg také předpokládá potřebu prozkoumat označování legitimního obsahu. To otevírá důležité diskuse o online autenticitě a důvěře v digitálním věku.

Více zde.