Langkah apa yang diambil OpenAI untuk membatasi penggunaan alat AI untuk kampanye politik?

Keputusan OpenAI untuk memperkenalkan alat untuk memerangi disinformasi menjelang pemilu di berbagai negara merupakan respons terhadap potensi penyalahgunaan teknologinya, seperti ChatGPT dan DALL-E 3, untuk kampanye politik. Perusahaan ini khawatir akan risiko disinformasi dan misinformasi yang disebabkan oleh AI yang dapat menghambat proses demokrasi, terutama selama masa pemilu.

Salah satu aspek kunci dari OpenAIStrateginya adalah membatasi penggunaan teknologinya untuk kampanye politik dan lobi hingga lebih banyak orang mengetahui dampak potensial dari persuasi yang dipersonalisasi.

Perusahaan menyadari perlunya memahami efektivitas alat-alatnya dan secara aktif mencari solusi untuk memastikan penggunaan yang bertanggung jawab. Hal ini termasuk mengembangkan alat untuk memberikan atribusi yang andal terhadap teks yang dihasilkan oleh ChatGPT dan memungkinkan pengguna mendeteksi apakah suatu gambar dibuat menggunakan DALL-E 3.

OpenAI berencana untuk menerapkan kredensial digital Koalisi untuk Asal dan Keaslian Konten untuk meningkatkan metode dalam mengidentifikasi dan melacak konten digital. Dengan melakukan hal ini, OpenAI bertujuan untuk mengatasi kekhawatiran tentang keaslian konten yang dihasilkan menggunakan model AI.

Perusahaan juga mengambil langkah-langkah untuk memastikan bahwa modelnya, seperti DALL-E 3, memiliki “pagar pembatas” untuk mencegah pembuatan gambar orang sungguhan, termasuk kandidat politik.

Pengembangan dan penerapan alat untuk memerangi disinformasi merupakan upaya berkelanjutan untuk memitigasi dampak negatif teknologi AI yang canggih terhadap masyarakat dan proses demokrasi.

More di sini.