AI của Google đưa người cha vào cuộc điều tra lạm dụng trẻ em do ảnh khỏa thân tư vấn trực tuyến của trẻ mới biết đi

Một người cha tên Mark, người đã chụp ảnh háng sưng tấy của con mình để sử dụng cho một cuộc tư vấn y tế trực tuyến, đã bị điều tra sau khi Google đã gắn cờ các hình ảnh là tài liệu lạm dụng tình dục trẻ em (CSAM). Theo báo cáo từ The New York Times, mặc dù cuộc điều tra cho thấy rằng trường hợp của người cha “không đủ yếu tố cấu thành tội phạm và không có tội phạm nào xảy ra”, nó có thể còn tồi tệ hơn, có thể khiến anh ta mất quyền nuôi con của mình. Thậm chí, Google vẫn kiên quyết với quyết định vô hiệu hóa (và sau đó là xóa) tài khoản của Mark, mặc dù anh đã kháng cáo lên công ty với kết quả báo cáo của cảnh sát là bằng chứng về sự vô tội của anh.

Công nghệ vẫn còn nhiều sai sót, nhưng những sai lầm của nó không nên đặt bạn vào tình trạng nguy cấp có thể khiến bạn gặp nguy hiểm. Đó không phải là trường hợp của các bộ phân loại học máy của Google và công nghệ so khớp băm tạo ra "một 'băm' hoặc dấu vân tay kỹ thuật số duy nhất, cho một hình ảnh hoặc video để nó có thể được so sánh với các hàm băm của CSAM đã biết." Theo Google, khi công nghệ và "nhóm chuyên gia được đào tạo" phát hiện CSAM, nó sẽ báo cáo cho Trung tâm quốc gia về trẻ em mất tích và bị bóc lột (NCMEC), nơi sẽ tiến hành điều tra với sự trợ giúp của cơ quan thực thi pháp luật. Tuy nhiên, công nghệ này không chính xác 100% và những sai lầm mà nó mắc phải có thể dẫn đến hậu quả lớn cho bất kỳ ai.

Trong một email được gửi đến The Verge của Google, tuy nhiên, công ty tuyên bố rằng “nhóm chuyên gia về an toàn trẻ em của họ xem xét nội dung bị gắn cờ về độ chính xác và tham khảo ý kiến ​​của các bác sĩ nhi khoa để giúp đảm bảo rằng chúng tôi có thể xác định các trường hợp mà người dùng có thể đang tìm kiếm lời khuyên y tế”. Thật không may, trong khi mô tả phù hợp với trường hợp của Mark, Google vẫn gắn cờ người cha là tội phạm, dẫn đến một cuộc điều tra và anh ta mất tài khoản Google và các tệp đám mây quan trọng khác. Bên cạnh đó, người phát ngôn của Google giải thích với NYT rằng nó chỉ thực hiện quét khi thực hiện một “hành động khẳng định”, chẳng hạn như sao lưu ảnh vào đám mây của Google.

Theo báo cáo minh bạch của Google, nó đã báo cáo tổng cộng 621,583 trường hợp CSAM cho NCMEC CyberTipline, dẫn đến việc các cơ quan thực thi pháp luật được cảnh báo về 4,260 vấn đề có thể xảy ra với CSAM (và 270,000 tài khoản bị vô hiệu hóa), bao gồm cả trường hợp của Mark. Tuy nhiên, sau một cuộc điều tra vào tháng 2021 năm XNUMX chứng minh rằng không có bất kỳ vi phạm nào được thực hiện, điều đó khiến chúng tôi đặt câu hỏi Google AIkhả năng gắn cờ lạm dụng hoặc bóc lột trẻ em. Và với thực tế là nó có thể dẫn đến hậu quả nghiêm trọng như mất dữ liệu đám mây và tài khoản của bạn và bị cơ quan chức năng điều tra, việc bị công cụ của Google cáo buộc là tội phạm là một sự bất tiện thuần túy. Tệ hơn, nó có thể có nghĩa là các vấn đề về quyền riêng tư, khiến bạn lo ngại về những thứ bạn muốn lưu trữ trên điện thoại hoặc tải lên trên đám mây, bất kể đó là vì lý do y tế hay không xúc phạm.