AI Gemini Google Tersandung dalam Pembuatan Gambar, Bersumpah Peningkatan
2 menit Baca
Ditampilkan di
Bagikan artikel ini
Sempurnakan panduan ini
Baca halaman pengungkapan kami untuk mengetahui bagaimana Anda dapat membantu MSPoweruser mempertahankan tim editorial Baca lebih lanjut
Catatan kunci
- Keluaran gambar yang kontroversial menyoroti tantangan dalam menyeimbangkan akurasi dan keragaman untuk model bahasa besar.
Google diakui kekurangan pada alat pembuat gambar Gemini AI setelah fitur tersebut menghasilkan gambar orang yang tidak akurat dan berpotensi membahayakan. Perusahaan untuk sementara menangguhkan fitur tersebut sambil melakukan perbaikan. Kontroversi ini berasal dari kecenderungan Gemini untuk membuat gambar yang beragam, bahkan ketika pengguna meminta tokoh atau skenario sejarah tertentu. Meskipun dimaksudkan untuk bersifat inklusif, hal ini menghasilkan hasil yang tidak akurat dan terkadang menyinggung.
Dalam postingan blognya, Wakil Presiden Senior Prabhakar Raghavan menjelaskan kesalahan langkah tersebut dan berjanji untuk meningkatkan teknologinya. “Kami tidak ingin Gemini menolak membuat gambar kelompok tertentu… [tetapi] mereka akan membuat kesalahan,” tulisnya.
Inilah yang salah dengan Google Gemini:
- Penyetelan Google untuk memastikan bahwa Gemini menunjukkan sejumlah orang gagal memperhitungkan kasus-kasus yang seharusnya dengan jelas tidak menunjukkan rentang.
- Seiring berjalannya waktu, model tersebut menjadi jauh lebih berhati-hati daripada yang kami inginkan dan menolak untuk menjawab perintah tertentu sepenuhnya — salah mengartikan beberapa perintah yang sangat anodyne sebagai sesuatu yang sensitif.
- Kedua hal ini menyebabkan model memberikan kompensasi yang berlebihan dalam beberapa kasus, dan menjadi terlalu konservatif dalam kasus lain, sehingga menghasilkan gambaran yang memalukan dan salah.
Tantangan Pembuatan Gambar AI:
Insiden ini menyoroti tantangan berkelanjutan dalam menyeimbangkan akurasi dan representasi dalam model pembuatan gambar AI. Perjuangan Google mencerminkan kontroversi serupa dengan pembuat gambar populer lainnya.
