Penelusuran AI Google Mengatakan Hitler dan Zedong adalah "Pemimpin Hebat"

Kecerdasan buatan Google sekali lagi menjadi pusat kontroversi. Baru baru ini penemuan oleh Lily Ray, Direktur Senior SEO dan Kepala Riset Organik di Amsive Digital, mengungkap bahwa Search Generative Experience (SGE) yang didukung AI dari Google dan Bard mencantumkan tokoh sejarah seperti Hitler dan Mao Zedong sebagai “pemimpin hebat”. Anda dapat melihatnya sendiri pada tangkapan layar di atas.

Insiden mengkhawatirkan ini telah memicu perdebatan mengenai etika, keakuratan, dan tanggung jawab teknologi AI.

Permasalahan respons yang dihasilkan oleh AI tidaklah berdiri sendiri. Bot AI Google sebelumnya diketahui memberikan pembenaran perbudakan, genosida, dan tindakan lain yang jelas-jelas salah. Dimasukkannya Hitler dan tokoh kontroversial lainnya baru-baru ini ke dalam daftar “pemimpin hebat dan efektif” menambah kekhawatiran yang berkembang tentang bagaimana algoritma AI dirancang dan dikendalikan.

Jadi bagaimana cara kerja AI Google, dan mengapa AI menghasilkan jawaban kontroversial? Bot AI mengambil data dari berbagai sumber, menggabungkan ide atau bahkan kalimat kata demi kata menjadi sebuah jawaban. Kurangnya konsistensi logis dan masalah plagiarisme tanpa atribusi sumber yang tepat berkontribusi terhadap masalah ini. Jawaban bot tidak hanya tidak konsisten tetapi juga tidak memiliki gambaran yang koheren, sehingga menyebabkan tanggapan yang menyesatkan atau berpendirian keras.

Dampak dari respons yang dihasilkan oleh AI ini lebih dari sekadar tantangan teknis. Ada permasalahan etika yang serius dalam hal ini. Bahaya bot AI yang memberikan argumen yang mendukung tindakan jahat, masalah pemeringkatan orang (terutama tokoh kontroversial), dan tanggung jawab Google sebagai penerbit konten yang dihasilkan AI adalah masalah yang perlu diatasi.

Sikap Google mengenai masalah ini juga sama memprihatinkannya. Dengan menolak mengutip sumber dan mempertahankan ilusi kemahakuasaan botnya, Google telah memikul tanggung jawab atas apa yang dikatakan bot tersebut. Klaim perusahaan bahwa sumber yang disalinnya “membuktikan” sama konyolnya dengan Weird Al yang mengatakan bahwa Michael Jackson sebenarnya menulis parodi lagu-lagunya.

Insiden baru-baru ini, seperti yang disoroti oleh Lily Ray, ketika AI Google mencantumkan Hitler dan Zedong sebagai “pemimpin hebat” merupakan pengingat akan tantangan dalam etika dan teknologi AI. Meskipun AI berpotensi merevolusi berbagai aspek kehidupan kita, AI juga menimbulkan kekhawatiran serius mengenai akurasi, etika, dan tanggung jawab. Insiden ini memerlukan evaluasi ulang tentang bagaimana bot AI dirancang, dipantau, dan dikendalikan, untuk memastikan bahwa bot tersebut selaras dengan nilai dan norma masyarakat.

Sebagai mesin pencari terkemuka di dunia, Google memiliki peran penting dalam membentuk opini publik dan penyebaran informasi. Insiden bot AI yang memeringkat tokoh-tokoh kontroversial sebagai pemimpin hebat merupakan sebuah peringatan. Sudah waktunya bagi perusahaan teknologi, regulator, dan masyarakat luas untuk melihat lebih dekat implikasi etis dari AI dan berupaya menciptakan teknologi yang bertanggung jawab dan dapat dipertanggungjawabkan.

sumber:

• Akun Linkedin Lily Ray
• AI Penelusuran Google Memberikan Jawaban yang Konyol dan Salah
• Bot AI Google Mengumumkan 'Manfaat' Genosida, Perbudakan, Fasisme, dan Kejahatan Lainnya