Apple akan memberi tahu polisi jika mereka yakin Anda memiliki gambar kasar di iPhone Anda

Grafik Laporan Financial Times bahwa Apple sedang mengerjakan sistem yang akan memindai foto di iPhone Anda untuk mencari gambar pelecehan anak dan kemudian menghubungi polisi jika terdeteksi.

Sistem yang disebut neuralMatch telah dilatih pada database dari Pusat Nasional untuk Anak Hilang dan Tereksploitasi, dan foto di ponsel Anda dan diunggah ke iCloud akan dipindai terus menerus.

Jika gambar yang menunjukkan penyalahgunaan terdeteksi, gambar tersebut akan dirujuk ke tim peninjau manusia yang kemudian akan memberi tahu penegak hukum jika gambar tersebut diverifikasi.

Sistem ini awalnya hanya untuk AS.

Apple tentu saja tidak melakukan sesuatu yang berbeda dari perusahaan penyimpanan cloud lainnya, meskipun pemindaian di perangkat merupakan pengecualian.

In dokumen dukungan mereka Apple menjelaskan manfaatnya:

Apple tidak mempelajari apa pun tentang gambar yang tidak cocok dengan basis data CSAM yang dikenal.

Apple tidak dapat mengakses metadata atau turunan visual untuk gambar CSAM yang cocok hingga ambang batas kecocokan terlampaui untuk akun Foto iCloud.

Risiko sistem salah menandai akun sangat rendah. Selain itu, Apple meninjau secara manual semua laporan yang dibuat ke NCMEC untuk memastikan keakuratan pelaporan.

Pengguna tidak dapat mengakses atau melihat database gambar CSAM yang dikenal.

Pengguna tidak dapat mengidentifikasi gambar mana yang ditandai sebagai CSAM oleh sistem

Kekhawatiran besar tentu saja adalah positif palsu dan konsekuensi potensial dari ini. Sementara Apple mengatakan risikonya "sangat rendah", karena hukum angka besar, jika risikonya 1 dalam 1 juta, itu berarti 1000 dari miliaran pengguna iPhone Apple mungkin akhirnya harus menjelaskan diri mereka kepada polisi meskipun tidak melakukannya. ada yang salah.

Perhatian lainnya yang kurang mendesak, diungkapkan oleh EFF, adalah bahwa sistem dapat diperluas dengan misi merayap, atau dengan tekanan oleh pemerintah totaliter untuk memasukkan citra lain, misalnya tindakan teroris atau simbol yang digunakan oleh perbedaan pendapat atau bahkan citra LGBT, target favorit jika pemerintah sayap kanan meningkat di Eropa Timur .

Fitur ini akan diluncurkan sebagai bagian dari iOS 15.

melalui Engadget