Nội dung khiêu dâm deepfake không có sự đồng thuận lây nhiễm vào các công cụ tìm kiếm như Google, Bing: cuộc điều tra mới

Deepfakes đang trở nên thực tế một cách kỳ lạ, như Giữa hành trình v6 Ví dụ. Nhưng một cuộc điều tra truyền thông gần đây cho thấy rằng các công cụ tìm kiếm phổ biến, bao gồm cả Bing của Google và Microsoft, là nơi chứa đựng những hình ảnh khiêu dâm giả mạo không có sự đồng thuận này.

mạng Mỹ NBC News đã tiến hành nghiên cứu độc lập về vấn đề này. Khi tìm kiếm các cụm từ như “deepfakes” hoặc “deepfake porn” có tên của những người nổi tiếng nữ trên các công cụ tìm kiếm này, hình ảnh deepfake rõ ràng nằm trong số các kết quả hàng đầu.

Ít nhất 36 người nổi tiếng nữ đã được tìm thấy thông qua tìm kiếm này (đã tắt công cụ tìm kiếm an toàn). Khi bạn tìm kiếm "ảnh khỏa thân giả" trên Google, công cụ tìm kiếm sẽ hiển thị các liên kết ứng dụng không phù hợp và các bài viết về việc học sinh trung học lạm dụng, trong khi kết quả của Bing bao gồm các công cụ và bài viết về tác hại.

Microsoft vẫn chưa đưa ra bình luận của mình. Trong khi hỗ trợ GPT-4 Copilot/Bing Chat rõ ràng cấm sử dụng AI cho việc này, tìm kiếm còn cáo buộc rằng nội dung khiêu dâm không có sự đồng thuận vẫn có thể dễ dàng truy cập được. 

Mặc dù không có luật liên bang toàn diện nào đề cập cụ thể đến vấn đề deepfake, nhưng một số điều luật đã được đưa ra tại Quốc hội và một số bang đã ban hành luật riêng của họ nhằm giải quyết các khía cạnh cụ thể của việc tạo và phân phối deepfake.

Bên dưới hiện đang được giới thiệu Đạo luật trách nhiệm giải trình về hàng giả sâu (H.R. 3230), những người tạo ra hàng giả sâu – đối với bất kỳ hình thức sử dụng nào – phải tiết lộ việc sử dụng AI trước khi phân phối. Hình phạt hình sự đối với những người vi phạm có thể được áp dụng đối với những người không tuân thủ.