Pengaruh AI dan Deepfakes pada Realitas dan Masa Depan

Dalam kemitraan dengan ExpressVPN

Kemajuan terbaru dalam kecerdasan buatan secara signifikan membuat perubahan yang menarik bagi kehidupan manusia saat ini. Hari ini, kita dapat melihat bagaimana AI dapat dengan mudah melakukan pengkodean, penulisan esai, dan — yang terpenting — pembuatan konten dalam hitungan detik. Namun, kemampuan mengesankan yang sama ini adalah kutukan AI sendiri. Menurut Penyedia VPN, banyak yang menggunakan AI untuk menghasilkan media sintetik untuk misinformasi, dan deepfake sekarang mulai menyebar seperti api di seluruh dunia.

Para ahli telah bereksperimen dengan AI selama beberapa dekade, tetapi dorongan besar Microsoft baru-baru ini untuk teknologi tersebut memicu minat industri untuk berinvestasi lebih banyak dalam kreasi semacam itu. Tepat setelah pembukaannya Bing yang didukung ChatGPT mesin pencari, Google memukul kembali menggunakan Penyair. Tidak seperti pesaingnya, Google masih menerapkan batasan ketat untuk akses pengujian Bard, dengan para ahli berspekulasi bahwa itu karena ketakutan perusahaan terhadap apa yang dapat dilakukan AI di tangan yang salah.

Ini berlaku untuk produk teknologi AI lainnya yang sedang dikembangkan. Misalnya, model bahasa Microsoft VALL-E, yang saat ini tidak tersedia untuk umum, dapat meniru suara dan emosi seseorang untuk menyintesis ucapan yang dipersonalisasi. Ini hanya membutuhkan rekaman tiga detik sebagai petunjuk akustiknya tetapi dapat menghasilkan pesan yang berbeda menggunakan suara pembicara aslinya.

Meskipun masyarakat umum masih belum dapat mengakses kreasi yang disebutkan di atas, mereka sudah memiliki rekanan yang ditawarkan oleh perusahaan teknologi kecil. Ini tidak hanya memungkinkan pengguna biasa tetapi juga aktor jahat untuk menggunakan alat dengan cara apa pun yang mereka inginkan. Dengan ini, tidak mengherankan lagi bahwa berbagai laporan baru-baru ini muncul tentang orang-orang yang dibodohi dan ditipu dengan bantuan AI.

Laporan-laporan ini secara khusus menekankan penggunaan suara buatan AI yang meniru korban mereka. Dalam sebuah cerita yang dibagikan dengan Bisnis Insider bulan ini, seorang ibu dilaporkan menerima telepon dari seseorang yang mengaku sebagai penculik menuntut uang tebusan $50,000 untuk putrinya yang berusia 15 tahun. Menggambarkan panggilan yang diterima, sang ibu mengatakan itu "100%" suara putrinya.

“Itu benar-benar suaranya. Itu adalah infleksinya. Itu adalah cara dia akan menangis. Saya tidak pernah ragu sedetik pun itu adalah dia, ”kata sang ibu, yang kemudian mengetahui bahwa panggilan itu adalah tipuan dan bahwa putrinya sebenarnya bersama suaminya.

Insiden yang sama yang melibatkan suara AI dialami oleh pasangan dari Kanada, yang sayangnya kehilangan $21,000 dari scammer di telepon. Berdasarkan The Washington Post, scammer menyamar sebagai pengacara dan putra pasangan itu menggunakan suara yang dihasilkan AI dan mengatakan bahwa uang itu akan digunakan untuk biaya hukum setelah mengklaim bahwa putranya membunuh seorang diplomat dalam kecelakaan mobil.

Selain suara, bentuk lain dari media generatif yang diproduksi oleh AI juga dapat menipu siapa pun — misalnya, gambar palsu dan video deepfake. Meskipun tidak ada laporan saat ini yang menunjukkan scammers menggunakannya untuk keuntungan finansial, efeknya dapat meluas ke masyarakat umum. Baru-baru ini, beberapa gambar tokoh terkenal yang dibuat oleh AI beredar di web. Beberapa termasuk foto yang menunjukkan Paus Francis dalam jaket puffer modis, mantan Presiden Donald Trump ditangkap, dan Elon Musk memegang tangan saingannya dan CEO GM Mary Barra selama kencan. Sementara itu, pada Maret 2022, video palsu Presiden Ukraina Volodymyr Zelensky muncul, meminta warga Ukraina untuk menyerah kepada Rusia.

Meskipun materi tersebut dengan cepat diidentifikasi sebagai palsu, kehadirannya tidak dapat disangkal membodohi publik dan menyebabkan kebingungan sementara bagi banyak orang. Bahkan model dan penulis Chrissy Teigen menjadi korban gambar paus. Namun, efek dari media sintetik semacam itu bisa lebih serius karena AI terus berkembang, terutama saat ini dengan lebih banyak perusahaan teknologi yang menghabiskan miliaran dolar untuk membuat kreasi AI yang sempurna. Ketika saatnya tiba, AI dapat dimanfaatkan untuk memelintir realitas yang diketahui semua orang, yang bukan tidak mungkin. Terlebih lagi, itu bahkan dapat digunakan untuk mengontrol dan mempengaruhi publik, menghasilkan masalah politik, sosial, dan moral yang berbeda di seluruh dunia.

Ini terbukti dalam video deepfake selama pemilihan paruh waktu 2018 yang menunjukkan Barack Obama memfitnah Donald Trump. Konten tersebut awalnya dimaksudkan untuk memperingatkan dunia online tentang bahaya berita palsu di web, tetapi malah berbalik arah. Hal ini menyebabkan kemarahan di antara beberapa pendukung Trump dan secara tidak sengaja merusak citra individu yang digunakan dalam materi tersebut.

Sekarang, bayangkan efek media generatif seperti itu jika dirancang khusus untuk itu mempengaruhi dan memanipulasi pendapat dan menyebarkan dakwah kepada masyarakat. Hasilnya bisa drastis. Hal ini secara khusus dapat terjadi di negara-negara di mana media dan informasi disensor oleh pemerintah yang membatasi, seperti Belarusia, Cina, Mesir, Rusia, Iran, Korea Utara, Turkmenistan, UEA, Uganda, Irak, Turki, Oman, dan negara-negara mayoritas Islam lainnya . Beberapa resor menggunakan VPN untuk mengakses konten, situs web, dan layanan yang dikunci secara geografis agar tetap diperbarui. Namun, akses VPN tidak sepenuhnya memungkinkan di tempat-tempat ini karena mereka memiliki pengelakan sensor internet dan bahkan memblokir situs web yang terkait dengan layanan VPN. Dengan ini, Anda dapat membayangkan masa depan daerah-daerah tersebut dengan akses terbatas ke berita internasional dan pemerintah mereka memiliki kekuatan untuk mengizinkan konten online. Kemudian, tambahkan kemungkinan AI penghasil konten yang lebih sempurna di masa mendatang, dan publik akan merasa lebih sulit untuk membedakan mana yang benar dan mana yang tidak.

Grup industri dan perusahaan teknologi AI sudah bergerak untuk menguraikan kebijakan yang akan memandu penggunaan alat AI. Kemitraan AI, misalnya, memberikan rekomendasi untuk institusi dan individu yang membangun alat media sintetik atau hanya untuk mereka yang mendistribusikan materi semacam itu. Namun, perusahaan swasta dan organisasi nirlaba bukan satu-satunya yang dibutuhkan di sini. Legislator juga harus membuat seperangkat aturan konkret yang akan didorong untuk dipatuhi oleh pembuat AI dan pengguna akhir. Meskipun demikian, apakah undang-undang di masa depan ini cukup efisien untuk memanfaatkan kekuatan AI dan mencegah orang mengeksploitasinya? Kita harus segera melihatnya.