Hapus Copilot Designer dari web: Insinyur Microsoft setelah mengungkapkan bahwa itu dapat menghasilkan konten yang sangat tidak pantas

Seorang insinyur Microsoft menyampaikan kekhawatirannya tentang pembuat gambar AI perusahaan, Copilot Designer. Ia mengklaim hal itu dapat menghasilkan konten berbahaya dan tidak pantas.

Shane Jones, manajer rekayasa perangkat lunak utama di Microsoft, mengatakan dia menemukan bahwa alat tersebut dapat menghasilkan gambar yang penuh kekerasan, seksual, dan bias. Ini mengingatkan saya pada Kisah Taylor Swift, yang dikatakan dilakukan oleh produk Microsoft.

Dia melaporkan temuannya secara internal tetapi tidak puas dengan tanggapannya, sehingga dia mengumumkan permasalahannya ke publik.

Jones, yang mengidentifikasi kerentanan melalui “red-teaming” (menguji kelemahan), melaporkan menemukan gambar-gambar yang mengganggu, termasuk:

• Gambar yang menggambarkan setan dan monster beserta istilah yang berkaitan dengan hak aborsi.
• Gambar perempuan dalam skenario seksual di tengah kecelakaan mobil.
• Gambar yang menggambarkan remaja di pesta dengan narkoba dan senjata.
• Gambar yang menampilkan karakter Disney dalam situasi yang berpotensi mengandung hak cipta dan menyinggung, termasuk adegan yang menggambarkan kekerasan di Timur Tengah dan karakter yang terkait dengan citra militer.

Jones menyerukan kepada Microsoft untuk segera mengambil tindakan, termasuk langkah besar menghapus Copilot Designer dari pasar hingga perlindungan diterapkan. Dia menambahkan pengungkapan tentang keterbatasan alat tersebut dan mengubah peringkat aplikasi untuk mencerminkan bahwa alat tersebut tidak cocok untuk segala usia. Atau siapa pun. 

Microsoft belum menanggapi semua klaim spesifik Jones. Namun, seorang juru bicara mengatakan perusahaan berkomitmen untuk mengatasi segala kekhawatiran yang dimiliki karyawan dan menghargai upaya mereka dalam menguji teknologinya.

Ketika menyangkut pelanggaran keselamatan atau masalah yang mungkin berdampak pada layanan kami atau mitra kami, kami telah membangun saluran pelaporan internal yang kuat untuk menyelidiki dan memulihkan masalah apa pun dengan tepat, dan kami mendorong karyawan untuk memanfaatkannya sehingga kami dapat memvalidasi dan menguji layanan mereka dengan tepat. kekhawatiran.

Kekhawatiran terhadap AI generatif dan potensi penyalahgunaan semakin meningkat Pencipta gambar Gemini membuat gambar terbangun baru-baru ini, yang membuat Google berhenti memproduksi gambar manusia untuk sementara waktu.

Ini adalah cerita yang terus berkembang, dan kami akan terus memberikan pembaruan saat sudah tersedia.

More di sini.