Các tác phẩm deepfake do AI tạo ra đã khiến Microsoft khó chịu đến mức phải kêu gọi Quốc hội hành động

Khi trí tuệ nhân tạo (AI) phát triển với tốc độ chóng mặt thì các tác phẩm deepfake do AI tạo ra cũng vậy. Microsoft, một trong những người chơi lớn nhất trong cuộc đua AI, hiện đang kêu gọi Quốc hội giải quyết những thách thức như vậy.

Brad Smith, Phó Chủ tịch kiêm Chủ tịch của Microsoft, cho biết trong một bài viết gần đây của Microsoft về vấn đề này. blog đăng bài rằng công ty Redmond đang đề xuất một số hành động quan trọng. Một trong số đó là ban hành quy chế gian lận deepfake để thiết lập khung pháp lý cụ thể nhằm truy tố các hành vi gian lận và lừa đảo do AI tạo ra.

“Mặc dù điều bắt buộc là ngành công nghệ phải có một chỗ ngồi trên bàn đàm phán, nhưng nó phải làm như vậy với sự khiêm tốn và thiên về hành động. Microsoft hoan nghênh các ý tưởng bổ sung từ các bên liên quan trong hệ sinh thái kỹ thuật số để giải quyết tác hại của nội dung tổng hợp,” ông nói.

Pháp luật gần đây cho phép nạn nhân của các hành vi deepfake rõ ràng không có sự đồng thuận kiện người tạo ra chúng, nhưng Microsoft tin rằng các biện pháp tiếp theo, chẳng hạn như rõ ràng ghi nhãn nội dung tổng hợp—giống như “Được tạo bằng AI” của Meta— và cải thiện các biện pháp kiểm soát an toàn cho các sản phẩm AI, là điều cần thiết để bảo vệ công chúng.

Đầu năm nay, một dự luật mới của Thượng nghị sĩ Durbin, Graham và Hawley sẽ cho phép nạn nhân của các vụ lừa đảo tình dục rõ ràng kiện người sáng tạo và nhà phân phối của họ. Nó phân loại những tác phẩm sâu này là “đồ giả mạo kỹ thuật số” và đặt ra thời hiệu 10 năm.

Sự gia tăng của deepfake do AI tạo ra thực sự đáng kinh hoàng, đặc biệt là trong năm nay khi hầu hết các quốc gia đều tổ chức bầu cử. Những nhóm dân cư dễ bị tổn thương như người già và trẻ em cũng nằm trong số những nạn nhân dễ bị tổn thương nhất: Internet Watch Foundation, một tổ chức chống khiêu dâm trẻ em ở Anh, đã báo cáo một sự gia tăng AI khiêu dâm deepfake trong những tháng gần đây.

Ca sĩ nổi tiếng Taylor Swift cũng là nạn nhân của deepfake do AI tạo ra vào đầu năm nay, cụ thể hơn là trên X (trước đây là Twitter). Nền tảng này đã tạm thời cấm tìm kiếm Taylor Swift sau khi những hình ảnh deepfake rõ ràng về cô được lan truyền. Những hình ảnh này được tạo bằng công cụ Designers của Microsoft và được chia sẻ trong nhóm Telegram.