OpenAI sluit zich aan bij de stuurgroep van C2PA

De Coalition for Content Provenance and Authenticity (C2PA) ontwikkelt technische standaarden voor het certificeren van de bron en geschiedenis (of herkomst) van media-inhoud. Het C2PA-project werd aanvankelijk gestart door Adobe, Arm, Intel, Microsoft en Truepic.

Vandaag Open AI aangekondigd dat het toetreedt tot de stuurgroep van C2PA. OpenAI zal bijdragen aan de ontwikkeling van de standaard. Het is belangrijk op te merken dat OpenAI begin dit jaar is begonnen met het toevoegen van C2PA-metagegevens aan alle afbeeldingen die door DALL·E 3 zijn gemaakt en bewerkt. In de toekomst zal OpenAI C2PA-metadata voor Sora integreren. Net als andere metadata kunnen mensen de metadata nog steeds verwijderen uit door AI gemaakte inhoud, maar ze kunnen deze informatie niet gemakkelijk vervalsen of wijzigen.

Naast de toetreding tot de C2PA-commissie, ontwikkelt OpenAI ook nieuwe herkomstmethoden om de integriteit van digitale inhoud te verbeteren. Ze ontwikkelen bijvoorbeeld fraudebestendige watermerken, tools die AI gebruiken om nauwkeurig de waarschijnlijkheid te identificeren van inhoud die afkomstig is van generatieve modellen. OpenAI opent vanaf vandaag applicaties voor toegang tot OpenAI's beelddetectieclassificator voor een groep testers. Aanvragen voor toegang tot deze nieuwe tool kunnen worden ingediend hier.

Ten slotte heeft OpenAI audiowatermerken opgenomen in Voice Engine, het aangepaste stemmodel, dat zich momenteel in een beperkte onderzoekspreview bevindt.

“Terwijl technische oplossingen zoals de bovenstaande ons actieve hulpmiddelen bieden voor onze verdediging, zal het effectief mogelijk maken van inhoudauthenticiteit in de praktijk collectieve actie vereisen. Platforms, makers van inhoud en intermediairs moeten bijvoorbeeld het bewaren van metadata vergemakkelijken om transparantie voor de uiteindelijke inhoudconsument mogelijk te maken over de bron van de inhoud”, schreef het OpenAI-team terwijl ze de bovenstaande aankondigingen deden.