Microsoft memperbaiki celah yang menciptakan kepalsuan Taylor Swift
2 menit Baca
Ditampilkan di
Bagikan artikel ini
Sempurnakan panduan ini
Baca halaman pengungkapan kami untuk mengetahui bagaimana Anda dapat membantu MSPoweruser mempertahankan tim editorial Baca lebih lanjut
Menanggapi laporan individu yang menggunakan alat pembuat teks-ke-gambar AI, Designer, untuk membuat gambar seksual selebriti yang tidak konsensual, Microsoft telah menerapkan perlindungan tambahan untuk mencegah penyalahgunaan. Langkah ini menyusul terungkapnya gambar telanjang Taylor Swift yang dibuat oleh AI beredar di Twitter, di mana Taylor Swift tidak dapat dicari di kemudian hari, berasal dari saluran di 4chan dan Telegram, tempat pengguna mengeksploitasi Designer.
Seorang juru bicara Microsoft menyatakan pada hari Jumat,
Kami sedang menyelidiki laporan ini dan mengambil tindakan yang tepat untuk mengatasinya. Kode Etik kami melarang penggunaan alat kami untuk pembuatan konten intim dewasa atau non-konsensual.
Perusahaan menekankan komitmennya terhadap prinsip-prinsip AI yang bertanggung jawab dan menyebutkan upaya berkelanjutan untuk mengembangkan pemfilteran konten, pemantauan operasional, dan sistem deteksi penyalahgunaan.
Meskipun penyelidikan tidak dapat secara pasti menghubungkan gambar Swift yang dihasilkan AI dengan Designer, CEO Microsoft Satya Nadella mengakui tanggung jawab untuk meningkatkan “pagar pembatas” pada alat AI untuk mencegah pembuatan konten berbahaya.
Dalam sebuah wawancara dengan NBC News, Nadella menyatakan optimismenya mengenai potensi menyatunya norma-norma masyarakat global, dan menyerukan kolaborasi antara penegak hukum, platform teknologi, dan peraturan untuk mengatur penggunaan AI secara efektif.
404 Media melaporkan bahwa Microsoft telah memperkuat permintaan pemfilteran teks sebagai respons terhadap penyalahgunaan. Pengguna sebelumnya telah mengeksploitasi celah tersebut dengan salah mengeja nama selebriti dan memberikan deskripsi yang, meski tidak eksplisit, menghasilkan gambar yang menjurus ke arah seksual. Menurut 404 Media, celah ini tidak lagi berfungsi setelah penyesuaian terbaru Microsoft.
Saluran Telegram, tempat gambar-gambar yang dihasilkan AI muncul, dilaporkan masih aktif, membagikan konten eksplisit yang dihasilkan menggunakan alat AI lainnya. Saluran ini menimbulkan tantangan, karena platform tersebut belum menghapus saluran tersebut, dan hanya sedikit akuntabilitas yang diterapkan terhadap konten berbahaya.
