"Kabul edilemez": Google CEO'su Sundar Pichai, Gemini'nin 'uyanması' ve saldırgan çıktıları hakkında

Görüntü ve metin oluşturmasıyla bilinen Google'ın yapay zeka aracı Gemini, önyargılı ve rahatsız edici içerik ürettiği için eleştirilerin hedefi oldu. Araç, kullanıcıların aşağıdaki gibi sorunlar bildirmesinin ardından geçen hafta askıya alındı:

• Yanlış tarihsel tasvirler: Gemini tarafından oluşturulan görüntüler, Vikingler gibi figürlerin, tarihsel bağlamlarına rağmen farklı ırklardan insanlar olduğunu gösteriyordu.
• Saldırgan metin istemleri: Pedofili konusunda incelikli bir duruş sergileniyor ve bunun sadece "iğrenç" olmaktan ziyade karmaşık bir konu olduğu vurgulanıyor.

Bu sorunlar kamuoyunda eleştirilere yol açtı ve bazıları Google'ı beyaz karşıtı bir önyargıya sahip olmakla suçladı. Yanıt olarak Google CEO'su Sundar Pichai sorunları kabul etti ve bunları "tamamen kabul edilemez" olarak nitelendirdi. Google'ın tarafsız bilgi sağlama ve kullanıcıların güvenini hak eden ürünler oluşturma konusundaki kararlılığını vurguladı.

Pichai endişeleri gidermeye yönelik bir planın ana hatlarını çizdi:

• Önyargılı çıktıları önlemek için daha sıkı kontroller uygulamak.
• Sorumlu yapay zeka gelişimini sağlamak için ürün yönergelerinin revize edilmesi.
• AI araçlarının halka açıklanmadan önce test edilmesi ve değerlendirilmesi için daha katı prosedürlerin uygulanması.
• Potansiyel sorunları belirlemek ve ele almak için kapsamlı değerlendirmeler ve kırmızı ekip çalışmaları yürütmek.

Pichai, zorlukları kabul ederken Google'ın yapay zekayı sorumlu bir şekilde geliştirme konusundaki kararlılığının devam ettiğini vurguladı. Hatalardan ders çıkarmanın ve kullanıcıların güvenini kazanan yararlı ürünler geliştirmenin öneminin altını çizdi.

Pichai'nin Google çalışanlarına gönderdiği notun tamamı ilk kez şu şekilde aktarıldı: semafor, altında.

Gemini uygulamasındaki (eski adıyla Bard) sorunlu metin ve resim yanıtlarıyla ilgili son sorunlara değinmek istiyorum. Yanıtlarından bazılarının kullanıcılarımızı rahatsız ettiğini ve önyargılı davrandığını biliyorum; açık olmak gerekirse, bu kesinlikle kabul edilemez ve biz yanlış anladık.

Ekiplerimiz bu sorunları çözmek için gece gündüz çalışıyor. Zaten geniş bir bilgi istemi yelpazesinde önemli bir gelişme görüyoruz. Hiçbir yapay zeka mükemmel değildir, özellikle de endüstrinin gelişiminin bu yükselen aşamasında, ancak çıtanın bizim için yüksek olduğunu biliyoruz ve ne kadar uzun sürerse sürsün bunda devam edeceğiz. Olanları gözden geçireceğiz ve sorunu geniş ölçekte düzelttiğimizden emin olacağız.

Dünyadaki bilgiyi organize etme ve onu evrensel olarak erişilebilir ve kullanışlı hale getirme misyonumuz kutsaldır. Ürünlerimizde her zaman kullanıcılara yararlı, doğru ve tarafsız bilgiler vermeye çalıştık. Bu yüzden insanlar onlara güveniyor. Yeni ortaya çıkan yapay zeka ürünlerimiz de dahil olmak üzere tüm ürünlerimiz için yaklaşımımız bu olmalıdır.

Yapısal değişiklikler, güncellenmiş ürün yönergeleri, iyileştirilmiş lansman süreçleri, sağlam değerlendirmeler ve kırmızı ekip oluşturma ve teknik öneriler de dahil olmak üzere bir dizi net eylem gerçekleştireceğiz. Bunların hepsini inceliyoruz ve gerekli değişiklikleri yapacağız.

Burada neyin yanlış gittiğini öğrenirken, aynı zamanda son birkaç haftadır yapay zeka alanında yaptığımız ürün ve teknik duyuruları da geliştirmeliyiz. Bu, her ikisi de iyi karşılanan 1 milyon uzun bağlam penceresi atılımımız ve açık modellerimiz gibi temel modellerimizde bazı temel ilerlemeleri içermektedir.

Milyarlarca insan ve işletme tarafından kullanılan ve sevilen harika ürünler yaratmanın ne gerektiğini biliyoruz ve altyapımız ve araştırma uzmanlığımız sayesinde yapay zeka dalgası için inanılmaz bir sıçrama tahtasına sahibiz. En önemli şeye odaklanalım: kullanıcılarımızın güvenini hak eden faydalı ürünler geliştirmek.

Bu arada uzmanlar, tartışmanın kasıtlı önyargılardan ziyade teknik eksikliklerden kaynaklandığına inanıyor. Sorunun, temel modelin kendisinde değil, yapay zekanın çıktısını kontrol eden yazılım "korkuluklarında" yattığını savunuyorlar.