Apple će obavijestiti policiju ako vjeruje da imate uvredljive slike na svom iPhoneu

Korištenje električnih romobila ističe Izvještava Financial Times da Apple radi na sustavu koji bi skenirao fotografije na vašem iPhoneu u potrazi za slikama zlostavljanja djece i zatim kontaktirao policiju ako se otkrije.

Takozvani sustav neuralMatch obučen je na bazi podataka Nacionalnog centra za nestalu i zlostavljanu djecu, a fotografije na vašem telefonu i prenesene na iCloud neprestano će se skenirati.

Ako se otkrije slika koja sugerira zlostavljanje, slika će biti upućena timu ljudskih pregledatelja koji će zatim upozoriti policiju ako se slika provjeri.

Sustav bi u početku bio samo za SAD.

Apple naravno ne radi ništa drugačije od drugih tvrtki za pohranu podataka u oblaku, iako je skeniranje na uređaju iznimka.

In njihov dokument potpore Apple objašnjava prednosti:

Apple ne uči ništa o slikama koje ne odgovaraju poznatoj bazi podataka CSAM.

Apple ne može pristupiti metapodacima ili vizualnim izvedenicama za podudarne CSAM slike dok se ne premaši prag podudaranja za račun iCloud Photos.

Rizik da sustav netočno označi račun izuzetno je nizak. Osim toga, Apple ručno pregledava sva izvješća podnesena NCMEC-u kako bi osigurala točnost izvješća.

Korisnici ne mogu pristupiti niti pregledati bazu podataka poznatih CSAM slika.

Korisnici ne mogu identificirati koje je slike sustav označio kao CSAM

Velika briga su, naravno, lažni pozitivni rezultati i njihove moguće posljedice. Iako Apple kaže da je rizik "ekstremno nizak", zbog zakona velikih brojeva, ako je rizik 1 prema 1 milijun, to bi značilo da bi 1000 od milijarde Appleovih korisnika iPhonea moglo na kraju morati objasniti policiji unatoč tome što nisu učinili sve krivo.

Druga, manje hitna briga, izražava EFF, je da se sustav može proširiti puzanjem misije ili pritiskom totalitarnih vlada da uključe druge slike, na primjer terorističke akte ili simbole koje koriste nezadovoljnici ili čak LGBT slike, omiljene mete ako se povećaju desničarske vlade u istočnoj Europi .

Značajka će biti dostupna kao dio iOS-a 15.

preko Engadget