Microsoft, bazı AI hizmetlerine erişimi sınırlandırıyor

Yapay zeka teknolojinin geleceğini elinde tutuyor, ancak yanlış ellerde birçokları için sorun yaratabilir. Bu nedenle Microsoft, yeni bir Sınırlı Erişim politikası sunduğu Sorumlu Yapay Zeka Standardında bazı değişiklikler duyurdu. 21 Haziran'daki bazı gönderilerde şirket, artık AI kullanarak bazı hizmetlerine erişimi kaldıracağını ve sınırlandıracağını söylüyor. Bu politika değişiklikleri özellikle Microsoft'un Azure Face yüz tanıma hizmetini ve Özel Sinirsel Sesi etkileyecek.

Bu değişiklikten büyük ölçüde etkilenecek özelliklerden biri, bireyin duygusal durumunu anlamak ve cinsiyet, yaş, gülümseme, sakal, saç ve makyaj gibi farklı insan özelliklerini tanımak için tasarlanmış tartışmalı yüz analizi teknolojisidir. Microsoft, hareketin mahremiyetle ilgili bazı endişelerin ve “duygu” kavramının tanımına ilişkin bilimsel fikir birliği eksikliğinin ardından geldiğini söylüyor. 

Azure AI Ana Grup Ürün Müdürü Sarah Bird, "Bu teknolojinin sınırlamalarını ve potansiyel faydalarını anlamak ve ödünleşimlerde gezinmek için dahili ve harici araştırmacılarla işbirliği yaptık" dedi. “Özellikle duygu sınıflandırması söz konusu olduğunda, bu çabalar mahremiyet, “duyguların” tanımı üzerinde fikir birliği olmaması ve yüz ifadesi ile duygusal durum arasındaki bağlantıyı kullanım durumları, bölgeler ve demografik özellikler arasında genelleyememesi hakkında önemli soruları gündeme getirdi. . Hassas öznitelikleri öngören yeteneklere API erişimi, insanları klişeleştirmeye, ayrımcılığa veya haksız hizmet reddine maruz bırakmak da dahil olmak üzere, bunların kötüye kullanılabilecekleri çok çeşitli yollar açar.

Böyle olunca şirket açıkladı öznitelik algılama özelliğini 21 Haziran'da yeni müşteriler için kullanılamaz hale getirirken, aynı ayın 30'unda mevcut müşteriler için kullanımdan kaldırılacaktır. Yine de Microsoft, "bir dizi kontrollü erişilebilirlik senaryosu için kullanıldığında bu yeteneklerin değerli olabileceğini kabul ediyor" diyor. Bununla, bu yetenekleri sürekli olarak sunmak için bir istisna yapıyor. engelliler için tasarlanmış uygulamalar, Görmek AI gibi.

Öte yandan Microsoft, Azure Face API, Computer Vision ve Video Indexer'daki yüz tanıma hizmetlerine erişimi, başvuru yapacak kişilerle sınırlayacak. Microsoft'un tanıttığı Sınırlı Erişim ilkesi uyarınca, müşterilerin işlemlere erişebilmek için kullanım senaryosu ve müşteri uygunluk gereksinimlerini geçmesi gerekecek. Mevcut müşterilerin, devam eden yüz tanıma hizmetlerine başvurmak ve onaylanmak için bir yılı (30 Haziran 2023'e kadar) olacak. Bu arada, bulanıklık, pozlama, gözlükler, baş pozu, yer işaretleri, gürültü, tıkanıklık ve yüz sınırlama kutusunu algılamak için kullanılan diğer yüz algılama özellikleri uygulama olmadan kullanılabilir durumda kalacaktır. Bird'e göre, bu yeni süreç Microsoft'un "bu hizmetlerin kullanımının Microsoft'un Sorumlu Yapay Zeka Standardı ile uyumlu olmasını ve yüksek değerli son kullanıcı ve toplumsal faydaya katkıda bulunmasını sağlamak için yüz tanımanın kullanımına ve dağıtımına ek bir inceleme katmanı eklemesine" yardımcı olacak. ”

Son olarak, Microsoft'un Özel Sinirsel Sesi özelliği de olası kötüye kullanıma karşı korumak için bazı kısıtlamalarla karşılaşacaktır. Baş Sorumlu Yapay Zeka Görevlisi Natasha Crampton ayrı bir yazıda, "Özel Sinirsel Ses'ten öğrendiklerimizi temel alarak, yüz tanıma hizmetlerimize benzer kontroller uygulayacağız." blog yazısı. "Mevcut müşteriler için bir geçiş döneminden sonra, bu hizmetlere erişimi yönetilen müşteriler ve ortaklarla sınırlandırıyoruz, kullanım durumlarını önceden tanımlanmış kabul edilebilir olanlara daraltıyoruz ve hizmetlere yönelik teknik kontrollerden yararlanıyoruz."