Tổ chức chống khiêu dâm trẻ em của Vương quốc Anh báo cáo sự gia tăng các tác phẩm sâu AI khiêu dâm trong những tháng gần đây

Internet Watch Foundation (IWF), một tổ chức chống khiêu dâm trẻ em có trụ sở tại Vương quốc Anh, tiết lộ một xu hướng đáng lo ngại về tài liệu lạm dụng tình dục trẻ em (AI CSAM) do AI tạo ra, hay còn gọi là nội dung khiêu dâm sâu AI.

Sản phẩm Báo cáo tháng 2024 năm XNUMX, được đăng vào thứ Hai, nói rằng nội dung như vậy đang được sản xuất với “tốc độ đáng sợ”. Từ tháng 2024 đến tháng XNUMX năm XNUMX, các nhà nghiên cứu đã phát hiện ra XNUMX video deepfake mới về lạm dụng trẻ em trên một diễn đàn web đen. Những video này không có trong một cuộc điều tra ghi ngày tháng trước đó. 2023 Tháng Mười.

Ngoài ra, nghiên cứu cũng tìm thấy hơn 12,000 hình ảnh mới do AI tạo ra được đăng trong một tháng, với hơn 3,500 hình ảnh được coi là tội phạm và mô tả hành vi lạm dụng nghiêm trọng. Công nghệ này, đặc biệt là các mô hình LoRA, cho phép kẻ phạm tội tạo ra những hình ảnh rất chân thực về cả nạn nhân giả và nạn nhân thật.

“Thật không may, luật pháp của Vương quốc Anh đang tụt hậu so với những tiến bộ trong công nghệ AI. Mặc dù AI CSAM là bất hợp pháp và IWF có thể thực hiện các bước để xóa nó, nhưng điều này không đúng đối với các mô hình AI được tinh chỉnh trên hình ảnh lạm dụng tình dục trẻ em. Công cụ tạo hình ảnh AI của Olivia vẫn hợp pháp ở Anh”, báo cáo cho biết.

Báo cáo trước đó vào tháng 2023 năm 20,200 đã phát hiện hơn 11,100 hình ảnh lạm dụng tình dục trẻ em do AI tạo ra được đăng lên diễn đàn web đen trong một tháng. Trong số này, hơn 2,500 bức ảnh đã được đánh giá, với hơn 400 bức ảnh được phân loại là ảnh giả tội phạm và khoảng XNUMX bức ảnh bị cấm.

IFW của Vương quốc Anh đã hoạt động từ gần ba thập kỷ trước. Vào tháng 2022 năm XNUMX, IFW & Pornhub ra mắt chatbot “Suy nghĩ lại” để ngăn chặn người dùng tìm kiếm tài liệu lạm dụng tình dục trẻ em, thu hút hơn 173,000 người dùng trong tháng đầu tiên và hướng họ đến các dịch vụ hỗ trợ.

Bản báo cáo được đưa ra trong bối cảnh tranh cãi gần đây của Apple về báo cáo nội dung xâm hại tình dục trẻ em không đúng mức trên nền tảng của họ, so với những gã khổng lồ công nghệ khác như Meta và Google.

Hiệp hội quốc gia phòng chống hành vi tàn ác đối với trẻ em (NSPCC) của Vương quốc Anh cho biết iCloud, iMessage và Facetime của Apple có liên quan đến nhiều trường hợp CSAM ở Anh và xứ Wales hơn những gì gã khổng lồ công nghệ này đã báo cáo trên toàn cầu. Apple đã có kế hoạch kết hợp AI để quét những nội dung như vậy trên iCloud, nhưng do lo ngại về quyền riêng tư trong việc thu thập dữ liệu nên kế hoạch đã bị hủy bỏ.