Google AI, yürümeye başlayan çocuğun çevrimiçi danışma çıplak fotoğrafları nedeniyle babayı çocuk istismarı soruşturmasına sokar

Çocuğunun şişmiş kasıklarının fotoğrafını çevrimiçi tıbbi konsültasyon için kullanan Mark adlı bir baba, soruşturmanın ardından soruşturuldu. Google görüntüleri çocuk cinsel istismarı materyali (CSAM) olarak işaretledi. gelen rapora göre New York Times, soruşturma babanın davasının “suçun unsurlarını karşılamadığını ve suç oluşmadığını” tespit etmesine rağmen, daha kötü olabilirdi ve bu da babanın çocuğunun velayetini kaybetmesine neden olabilirdi. Dahası, Google, suçsuzluğunun kanıtı olarak polis raporunun sonucuyla şirkete itiraz etmesine rağmen, Mark'ın hesabını devre dışı bırakma (ve daha sonra silme) kararında kararlı kaldı.

Teknoloji kusurlu olmaya devam ediyor, ancak hataları sizi tehlikeye atabilecek kritik bir duruma sokmamalı. Google'ın makine öğrenimi sınıflandırıcıları ve bir resim veya video için "karma" veya benzersiz dijital parmak izi oluşturan karma eşleştirme teknolojisinde durum böyle değildir, böylece bilinen CSAM karma değerleriyle karşılaştırılabilir. Google'a göre, teknoloji ve "eğitimli uzman ekipler" CSAM'i tespit ettiğinde, kolluk kuvvetlerinin yardımıyla bir soruşturma başlatacak olan Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'ne (NCMEC) rapor veriyor. Bununla birlikte, teknoloji %100 doğru değildir ve yapabileceği hatalar herkes için büyük sonuçlar doğurabilir.

adresine gönderilen bir e-postada Verge Bununla birlikte, Google tarafından şirket, "çocuk güvenliği uzmanlarından oluşan ekibinin, işaretlenen içeriğin doğruluğunu incelediğini ve kullanıcıların tıbbi tavsiye isteyebilecekleri durumları belirleyebilmemize yardımcı olmak için çocuk doktorlarına danıştığını" iddia ediyor. Ne yazık ki, açıklama Mark'ın durumuna uysa da Google, babayı suçlu olarak işaretlemeye devam etti, bu da bir soruşturmaya ve babanın Google hesabını ve diğer önemli bulut dosyalarını kaybetmesine yol açtı. Bir yan notta, Google'dan bir sözcü NYT'ye, yalnızca fotoğrafları Google'ın bulutuna yedeklemek gibi "olumlu bir eylem" gerçekleştirildiğinde tarama gerçekleştirdiğini açıkladı.

Göre Google'ın şeffaflık raporu, NCMEC CyberTipline'a halihazırda toplam 621,583 CSAM vakası bildirmiş olup, bu da kolluk kuvvetlerinin Mark'ın vakası da dahil olmak üzere 4,260 olası CSAM sorunu (ve 270,000 hesabın devre dışı bırakılması) konusunda uyarılmasına neden olmuştur. Ancak, Şubat 2021'de herhangi bir ihlal olmadığını kanıtlayan bir araştırmadan sonra, bu bizi sorguluyor. Google AIişaretleme yeteneği çocuk istismarı veya istismarı. Bulut verilerinizi ve hesabınızı kaybetmek ve yetkililer tarafından soruşturulmak gibi ciddi sonuçlara yol açabileceği gerçeğiyle birlikte, Google'ın aracı tarafından bir suçlu olarak suçlanmak tam bir rahatsızlıktır. Daha da kötüsü, tıbbi veya rahatsız edici olmayan diğer nedenlerle olsun, telefonunuzda saklamak veya buluta yüklemek istediğiniz şeyler hakkında sizi endişelendiren gizlilik sorunları anlamına gelebilir.