Copilot Designer'ı web'den çıkarın: Bir Microsoft Mühendisi, son derece uygunsuz içerik üretebileceğini ortaya çıkardıktan sonra
2 dk. okuman
Yayınlandı
Bu makaleyi paylaş
Bu kılavuzu geliştirin
MSPoweruser'ın editör ekibini ayakta tutmasına nasıl yardımcı olabileceğinizi öğrenmek için açıklama sayfamızı okuyun. Daha fazla
Önemli notlar
- Microsoft mühendisi, AI görüntü oluşturucu Copilot Designer'ı şiddet içeren görüntüler ve telif hakkı ihlali gibi zararlı içerikler ürettiği için işaretliyor.
- Mühendis, Microsoft'tan aracı kaldırmasını, uyarılar eklemesini ve güvenlik endişeleri nedeniyle yaş sınırını değiştirmesini istiyor.
- Olay, üretken yapay zeka teknolojisini çevreleyen potansiyel suiistimal ve etik hususlara ilişkin daha geniş sorunları vurguluyor.
Bir Microsoft mühendisi, şirketin yapay zeka görüntü oluşturucusu Copilot Designer ile ilgili endişelerini dile getirdi. Zararlı ve uygunsuz içerik üretebileceğini iddia ediyor.
Microsoft'un yazılım mühendisliği baş yöneticisi Shane Jones, aracın şiddet içeren, cinsel ve önyargılı görüntüler oluşturabildiğini keşfettiğini söyledi. Bana şunu hatırlatıyor Taylor Swift'in efsanesiBunun bir Microsoft ürünü tarafından yapıldığı söyleniyordu.
Bulgularını şirket içinde bildirdi ancak yanıttan memnun kalmadı, bu da onun sorunlarını kamuoyuna duyurmasına neden oldu.
"Kırmızı takım oluşturma" (zayıflıkları test etme) yoluyla güvenlik açıklarını belirleyen Jones, aşağıdakiler de dahil olmak üzere rahatsız edici görüntülerle karşılaştığını bildirdi:
- Kürtaj haklarıyla ilgili terimlerin yanı sıra şeytanları ve canavarları tasvir eden resimler.
- Araba kazalarının ortasında cinselleştirilmiş senaryolarda kadınların görüntüleri.
- Gençlerin uyuşturucu ve silahlarla partilere katıldığını gösteren görüntüler.
- Orta Doğu'daki şiddeti tasvir eden sahneler ve askeri görüntülerle ilişkilendirilen karakterler de dahil olmak üzere, potansiyel olarak telif hakkıyla korunan ve saldırgan durumlarda Disney karakterlerinin yer aldığı görseller.
Jones, Microsoft'a, güvenlik önlemleri uygulanıncaya kadar Copilot Designer'ın piyasadan kaldırılması yönünde büyük bir adım da dahil olmak üzere acil eyleme geçmesi çağrısında bulunuyor. Aracın sınırlamaları hakkında açıklamalar ekledi ve uygulama derecelendirmesini, uygulamanın her yaş için uygun olmadığını yansıtacak şekilde değiştirdi. Veya herhangi biri.
Microsoft, Jones'un spesifik iddialarının tümüne henüz yanıt vermedi. Ancak bir sözcü, şirketin çalışanların endişelerini gidermeye kararlı olduğunu ve teknolojisini test etme çabalarını takdir ettiğini söyledi.
Hizmetlerimiz veya ortaklarımız üzerinde potansiyel bir etkiye sahip olabilecek güvenlik atlamaları veya endişeleri söz konusu olduğunda, her türlü sorunu uygun şekilde araştırmak ve düzeltmek için güçlü dahili raporlama kanalları oluşturduk ve çalışanlarımızı bu kanalları kullanmaya teşvik ediyoruz, böylece kendi durumlarını uygun şekilde doğrulayıp test edebiliriz. endişeler.
Üretken yapay zeka ve kötüye kullanım potansiyeli hakkındaki endişeler artıyor Gemini'nin görsel yaratıcısı yakın zamanda uyanmış resimler yaptı, bu da Google'ın insan görselleri üretmeyi bir süreliğine durdurmasına neden oldu.
Bu gelişen bir hikaye ve güncellemeler geldikçe sunmaya devam edeceğiz.
Daha okuyun.
