Perusahaan rintisan yang didanai Microsoft mungkin telah menggunakan teknologi pengenalan wajah mereka untuk pengawasan massal di Israel

Microsoft selalu menganjurkan penggunaan teknologi AI secara etis, sementara di sisi lain menjual teknologi yang sama untuk penggunaan yang meragukan kepada pemerintah, dengan alasan bahwa regulasi harus berasal dari proses demokrasi daripada masalah etika karyawan dan pemegang saham.

Sesekali kemunafikan posisi ini terungkap, dan pada kesempatan ini, dengan tuduhan bahwa a Startup yang didanai Microsoft, AnyVision, menggunakan teknologi pengenalan wajah AI untuk melacak warga Palestina yang bekerja di Israel di sekitar Tepi Barat.

Menurut laporan NBC Anyvision menggunakan jaringan ribuan kamera di sekitar Tepi Barat untuk melacak pergerakan warga Palestina menggunakan sistem yang disebut "Google Ayosh", di mana "Ayosh" mengacu pada wilayah Palestina yang diduduki dan "Google" menunjukkan kemampuan teknologi untuk mencari orang sebagai jika itu adalah item di pencarian Google.

AnyVision memenangkan hadiah pertahanan tertinggi di Israel pada 2018 dan dipuji oleh menteri pertahanan Israel karena mencegah “ratusan serangan teror” menggunakan “data dalam jumlah besar.”

AnyVision hanya mengakui menggunakan teknologi biometrik mereka untuk kontrol penyeberangan perbatasan dan mengklaim bahwa perusahaan tersebut adalah "perusahaan paling etis yang dikenal manusia."

A dokumen di situs web Pemerintah Israel, namun, mencantumkan fitur AnyVision Better Tomorrow sebagai:

1.  Pengenalan wajah Di alam liar: Pendaftaran individu tidak diperlukan. Semua individu yang melewati bidang pandang terdeteksi secara otomatis tanpa harus dihentikan atau diinterupsi. Sistem hanya membutuhkan 45x45 piksel untuk Mendeteksi & Mengenali wajah.
2. Satu-ke-Banyak: berarti satu sensor (CCTV Tetap, PTZ, Perangkat seluler, dan lainnya) yang mengekstrak dan mengenali semua wajah di bidang pandang (vs. teknologi umum yang memungkinkan satu individu per satu sensor).
3. Memanfaatkan CCTV yang ada: menggunakan infrastruktur kamera yang ada (on-premise), tidak memerlukan kamera khusus atau peningkatan infrastruktur.
4. Skala massa: Dirancang untuk deteksi dan pengenalan massa massal secara real-time, dengan waktu deteksi 0.2 detik per database hingga 300 juta individu.
5. Perbedaan etnis: Jaringan saraf kami dilatih untuk mendeteksi dan mengenali wajah berbagai etnis.
6. Penghalang wajah: Invarian terhadap penyamaran, kacamata hitam, rambut wajah, topi, riasan, dll.
7. Akurasi dan keandalan: Tingkat akurasi hingga 99.78% tingkat positif benar dan kurang dari 1 alarm positif palsu per 25,000
   orang.

Microsoft telah menanggapi laporan tersebut dengan mempekerjakan mantan Jaksa Agung AS Eric Holder untuk menyelidiki apakah penggunaan teknologi pengenalan wajah seperti AnyVision Better Tomorrow sesuai dengan prinsip etikanya.

Microsoft mengatakan kepada NBC "Microsoft menganggap serius tuduhan pengawasan massal ini karena mereka akan melanggar prinsip pengenalan wajah kami."

Menurut prinsip-prinsip ini, Microsoft akan “mengadvokasi perlindungan untuk kebebasan demokratis rakyat dalam skenario pengawasan penegakan hukum dan tidak akan menggunakan teknologi pengenalan wajah dalam skenario yang kami yakini akan membahayakan kebebasan ini.”

"Jika kami menemukan pelanggaran prinsip kami, kami akan mengakhiri hubungan kami."

Di sisi yang lebih luas, Microsoft mendukung RUU Senat AS yang akan memerlukan perintah pengadilan sebelum penegak hukum federal dapat menggunakan teknologi untuk pengawasan berkelanjutan yang ditargetkan. Neema Singh Guliani, penasihat legislatif senior untuk American Civil Liberties Union, bagaimanapun, mengatakan RUU itu "sangat tidak melindungi hak privasi orang."

Microsoft saat ini menjual teknologi serupa ke AnyVision namun diarahkan ke pengawasan tempat kerja, menunjukkan sifat bermata dua dari teknologi tersebut.

Ada laporan baru-baru ini tentang teknologi pengenalan wajah yang digunakan di China untuk apa yang disebut rasisme otomatis, di mana praktik dan pembatasan diskriminatif diterapkan pada populasi Uyghur di sana menggunakan teknologi pengenalan wajah, difasilitasi oleh pekerjaan oleh akademisi AI AS, kadang-kadang bekerja untuk Microsoft.

Apakah pembaca kami berpikir Microsoft, siapa? menduduki puncak daftar perusahaan paling etis versi Forbes, bertindak sesuai dengan prinsip yang mereka nyatakan? Beri tahu kami di bawah ini.