Yapay Zeka ve Deepfakes'in Gerçeklik ve Gelecek Üzerindeki Etkisi

ExpressVPN ile ortaklaşa

Yapay zekadaki son gelişmeler, günümüz insanlarının yaşamlarında önemli ölçüde zorlayıcı değişiklikler yapıyor. Bugün, yapay zekanın kodlamayı, makale yazmayı ve - en önemlisi - saniyeler içinde içerik oluşturmayı nasıl zahmetsizce gerçekleştirebildiğini görebiliriz. Bununla birlikte, aynı etkileyici yetenekler, AI'nın kendi lanetidir. Göre VPN Sağlayıcıları, birçoğu yanlış bilgi için sentetik medya oluşturmak için AI kullanıyor ve deepfake'ler artık dünya çapında orman yangını gibi yayılmaya başlıyor.

Uzmanlar onlarca yıldır AI ile deneyler yapıyorlar, ancak Microsoft'un son zamanlarda teknolojiye yönelik büyük hamlesi, endüstrinin bu tür kreasyonlara daha fazla yatırım yapma konusundaki ilgisini artırdı. Tanıtımının hemen ardından ChatGPT destekli Bing arama motoru, Google kullanarak geri döndü ozan. Ancak rakibinin aksine Google, Bard test erişimi için hâlâ katı bir sınır uyguluyor ve uzmanlar bunun şirketin yapay zekanın yanlış ellerde neler yapabileceğinden korkmasından kaynaklandığını düşünüyor.

Bu, geliştirilmekte olan diğer AI teknolojisi ürünleri için geçerlidir. Örneğin, Microsoft'un şu anda herkese açık olmayan VALL-E dil modeli, kişiselleştirilmiş konuşmaları sentezlemek için bir kişinin sesini ve duygularını taklit edebilir. Akustik istemi olarak yalnızca üç saniyelik bir kayıt gerektirir, ancak orijinal konuşmacının sesini kullanarak farklı bir mesaj üretebilir.

Genel halk, yukarıda belirtilen kreasyonlara hala erişemese de, küçük teknoloji firmaları tarafından sunulan muadillerine zaten sahipler. Bu sadece sıradan kullanıcıların değil, kötü niyetli kişilerin de araçları istedikleri şekilde kullanmalarına olanak sağlamıştır. Bununla birlikte, son zamanlarda insanların yapay zeka yardımıyla kandırılıp dolandırıldığına dair farklı raporların ortaya çıkması artık şaşırtıcı değil.

Bu raporlar, kurbanlarını taklit eden yapay zeka tarafından üretilen seslerin kullanımını özellikle vurguladı. Paylaşılan bir hikayede İş Insider Bu ay, bir annenin, kaçıran kişi olduğunu iddia eden birinden 50,000 yaşındaki kızı için 15 $ fidye talep eden bir telefon aldığı bildirildi. Gelen aramayı anlatan anne, bunun kızının “%100” sesi olduğunu söyledi.

"Tamamen onun sesiydi. Bu onun yansımasıydı. Böyle ağlayacaktı. O olduğundan bir an bile şüphe duymadım," dedi daha sonra aramanın bir aldatmaca olduğunu ve kızının aslında kocasıyla birlikte olduğunu keşfeden anne.

AI sesini içeren aynı olay, ne yazık ki telefonda bir dolandırıcıdan 21,000 $ kaybeden Kanadalı bir çift tarafından yaşandı. Buna göre Washington Postdolandırıcı, yapay zeka tarafından oluşturulan bir ses kullanarak bir avukat ve çiftin oğlu kılığına girdi ve oğlunun bir araba kazasında bir diplomatı öldürdüğünü iddia ettikten sonra paranın yasal ücretler için kullanılacağını söyledi.

Seslerin yanı sıra, yapay zeka tarafından üretilen diğer üretken medya biçimleri de herkesi kandırabilir - örneğin, sahte görüntüler ve derin sahte videolar. Dolandırıcıların bunları mali kazanç için kullandığını gösteren mevcut bir rapor bulunmamakla birlikte, etkileri genel halk için yaygın olabilir. Son zamanlarda, ünlü şahsiyetlerin yapay zeka tarafından oluşturulmuş bazı görüntüleri web'de dolaştı. Bazıları, Papa Francis'i modaya uygun bir şişme ceketle, eski Başkan Donald Trump'ın tutuklandığını ve Elon Musk'ın bir randevu sırasında rakibi ve GM CEO'su Mary Barra'nın elini tuttuğunu gösteren fotoğrafları içeriyor. Bu arada Mart 2022'de Ukrayna Devlet Başkanı Volodymyr Zelensky'nin Ukrayna vatandaşlarından Rusya'ya teslim olmalarını isteyen derin sahte bir videosu ortaya çıktı.

Materyallerin sahte olduğu hemen tespit edilse de, bunların varlığı inkar edilemez bir şekilde halkı kandırdı ve birçok kişide geçici bir kafa karışıklığına neden oldu. Hatta model ve yazar Chrissy Teigen papanın resimlerine kurban gitti. Yine de, yapay zeka gelişmeye devam ettikçe, özellikle daha fazla teknoloji şirketinin mükemmel yapay zeka yaratımını tasarlamak için milyarlarca dolar harcadığı bu zamanlarda, bu tür sentetik medyanın etkisi daha ciddi olabilir. O zaman geldiğinde, yapay zeka herkesin bildiği gerçeği çarpıtmak için kullanılabilir ki bu imkansız değildir. Dahası, halkı kontrol etmek ve etkilemek için bile kullanılabilir, bu da dünya çapında farklı siyasi, sosyal ve ahlaki sorunlara yol açabilir.

Bu, 2018 ara seçimleri sırasında Barack Obama'nın Donald Trump'ı kötülediğini gösteren bir derin sahte videoda açıkça görülüyor. İçeriğin asıl amacı, çevrimiçi dünyayı web'deki sahte haberlerin tehlikeleri konusunda uyarmaktı, ancak olumsuz bir şekilde geri tepti. Bu, birkaç Trump destekçisi arasında öfkeye neden oldu ve materyalde kullanılan bireylerin imajına istemeden zarar verdi.

Şimdi, bu tür üretken medyanın etkisini, özellikle fikirleri etkilemek ve manipüle etmek ve halka propaganda yapmak. Sonuçlar sert olabilir. Bu özellikle Belarus, Çin, Mısır, Rusya, İran, Kuzey Kore, Türkmenistan, BAE, Uganda, Irak, Türkiye, Umman ve diğer ağırlıklı olarak İslam ülkeleri gibi kısıtlayıcı hükümetler tarafından medya ve bilginin sansürlendiği ülkelerde geçerli olabilir. . Bazıları, güncel kalmak için coğrafi olarak kilitli içeriğe, web sitelerine ve hizmetlere erişmek için VPN kullanmaya başvurur. Yine de, bu yerlerde internet sansürünü atlattıkları ve hatta VPN hizmetleriyle ilgili web sitelerini engelledikleri için VPN erişimi bu yerlerde tam olarak mümkün değildir. Bununla, uluslararası haberlere sınırlı erişimi olan ve hükümetlerinin hangi çevrimiçi içeriğe izin verme gücüne sahip olduğu bu tür alanların geleceğini hayal edebilirsiniz. Ardından, gelecekte daha kusursuz bir içerik üreten yapay zeka olasılığını ekleyin ve halk neyin doğru neyin yanlış olduğunu ayırt etmeyi daha zor bulmalıdır.

Sektör grupları ve yapay zeka teknoloji şirketleri, yapay zeka araçlarının kullanımına rehberlik edecek politikaların ana hatlarını çizmek için şimdiden harekete geçti. Örneğin Yapay Zeka Üzerindeki Ortaklık, sentetik medya araçları geliştiren kurumlara ve bireylere veya sadece bu tür materyalleri dağıtanlara öneriler sunar. Ancak, burada ihtiyaç duyulanlar yalnızca özel şirketler ve kar amacı gütmeyen kuruluşlar değildir. Yasa koyucular ayrıca yapay zeka oluşturucuların ve son kullanıcıların uymaya zorlanacağı somut bir kurallar dizisi oluşturmalıdır. Bununla birlikte, gelecekteki bu yasalar yapay zekanın gücünden yararlanacak ve insanların onu istismar etmesini önleyecek kadar verimli olacak mı? Bunu yakında görmeliyiz.