Microsoft membatasi akses ke beberapa layanan AI-nya

Kecerdasan buatan memegang masa depan teknologi, tetapi di tangan yang salah, itu dapat menyebabkan masalah bagi banyak orang. Inilah sebabnya mengapa Microsoft mengumumkan beberapa perubahan dalam Standar AI yang Bertanggung Jawab, di mana ia memperkenalkan kebijakan Akses Terbatas yang baru. Dalam beberapa posting pada 21 Juni, perusahaan mengatakan bahwa mereka sekarang akan menghapus dan membatasi akses ke beberapa layanannya menggunakan AI. Secara khusus, perubahan kebijakan ini akan memengaruhi layanan pengenalan wajah Azure Face dan Custom Neural Voice dari Microsoft.

Salah satu fitur yang akan sangat terpengaruh oleh perubahan ini adalah teknologi analisis wajah kontroversial yang dirancang untuk menyimpulkan keadaan emosional seseorang dan mengenali atribut manusia yang berbeda, seperti jenis kelamin, usia, senyum, rambut wajah, rambut, dan riasan. Microsoft mengatakan bahwa langkah itu terjadi setelah beberapa kekhawatiran tentang privasi dan kurangnya konsensus ilmiah mengenai definisi konsep "emosi." 

“Kami berkolaborasi dengan peneliti internal dan eksternal untuk memahami keterbatasan dan potensi manfaat dari teknologi ini dan menavigasi kompromi,” kata Manajer Produk Grup Utama Azure AI, Sarah Bird. “Dalam kasus klasifikasi emosi secara khusus, upaya ini menimbulkan pertanyaan penting tentang privasi, kurangnya konsensus tentang definisi “emosi”, dan ketidakmampuan untuk menggeneralisasi hubungan antara ekspresi wajah dan keadaan emosional di seluruh kasus penggunaan, wilayah, dan demografi. . Akses API ke kemampuan yang memprediksi atribut sensitif juga membuka berbagai cara mereka dapat disalahgunakan—termasuk membuat orang menjadi stereotip, diskriminasi, atau penolakan layanan yang tidak adil.”

Dengan demikian, perusahaan mengumumkan bahwa itu sudah membuat kemampuan deteksi atribut tidak tersedia pada 21 Juni untuk pelanggan baru, sementara itu akan dihentikan untuk pelanggan saat ini pada tanggal 30 di bulan yang sama. Meskipun demikian, Microsoft mengatakan "mengakui kemampuan ini dapat berharga ketika digunakan untuk serangkaian skenario aksesibilitas terkontrol." Dengan ini, membuat pengecualian untuk terus menawarkan kemampuan ini di aplikasi yang dirancang untuk penyandang disabilitas, seperti Melihat AI.

Di sisi lain, Microsoft akan membatasi akses ke layanan pengenalan wajah di Azure Face API, Computer Vision, dan Pengindeks Video bagi mereka yang akan melamarnya. Di bawah kebijakan Akses Terbatas yang diperkenalkan Microsoft, pelanggan harus melewati kasus penggunaan dan persyaratan kelayakan pelanggan untuk mendapatkan akses ke operasi. Pelanggan saat ini akan memiliki waktu satu tahun (hingga 30 Juni 2023) untuk mengajukan dan disetujui untuk melanjutkan layanan pengenalan wajah. Sementara itu, kemampuan deteksi wajah lainnya yang digunakan untuk mendeteksi blur, eksposur, kacamata, pose kepala, landmark, kebisingan, oklusi, dan kotak pembatas wajah akan tetap tersedia tanpa aplikasi. Menurut Bird, proses baru ini akan membantu Microsoft “menambahkan lapisan pengawasan tambahan untuk penggunaan dan penerapan pengenalan wajah untuk memastikan penggunaan layanan ini sejalan dengan Standar AI Bertanggung Jawab Microsoft dan berkontribusi pada manfaat pengguna akhir dan masyarakat bernilai tinggi. ”

Terakhir, fitur Custom Neural Voice Microsoft juga akan menghadapi beberapa batasan untuk melindunginya dari kemungkinan penyalahgunaan. “Berdasarkan apa yang kami pelajari dari Custom Neural Voice, kami akan menerapkan kontrol serupa pada layanan pengenalan wajah kami,” tulis Chief AI Officer yang Bertanggung Jawab Natasha Crampton secara terpisah. posting blog. “Setelah masa transisi untuk pelanggan yang sudah ada, kami membatasi akses ke layanan ini untuk pelanggan dan mitra terkelola, mempersempit kasus penggunaan menjadi yang dapat diterima sebelumnya, dan memanfaatkan kontrol teknis yang direkayasa ke dalam layanan.”