Gỡ Copilot Designer khỏi web: Kỹ sư của Microsoft sau khi tiết lộ có thể tạo ra nội dung cực kỳ không phù hợp

Một kỹ sư của Microsoft đã nêu lên mối lo ngại về công cụ tạo hình ảnh AI của công ty, Copilot Designer. Ông tuyên bố nó có thể tạo ra nội dung có hại và không phù hợp.

Shane Jones, giám đốc kỹ thuật phần mềm chính của Microsoft, cho biết ông phát hiện ra rằng công cụ này có thể tạo ra các hình ảnh bạo lực, tình dục và thành kiến. Nó làm tôi nhớ đến câu chuyện về Taylor Swift, được cho là do một sản phẩm của Microsoft thực hiện.

Anh ấy đã báo cáo nội bộ những phát hiện của mình nhưng không hài lòng với phản hồi, điều này khiến anh ấy phải công khai vấn đề của mình.

Jones, người đã xác định các lỗ hổng thông qua “red-teaming” (kiểm tra điểm yếu), cho biết đã gặp phải những hình ảnh đáng lo ngại, bao gồm:

• Hình ảnh mô tả ma quỷ, quái vật bên cạnh các thuật ngữ liên quan đến quyền phá thai.
• Hình ảnh phụ nữ trong các tình huống khiêu dâm giữa các vụ tai nạn ô tô.
• Hình ảnh mô tả thanh thiếu niên tại các bữa tiệc với ma túy và vũ khí.
• Hình ảnh có các nhân vật Disney trong các tình huống có thể có bản quyền và xúc phạm, bao gồm các cảnh mô tả bạo lực ở Trung Đông và các nhân vật liên quan đến hình ảnh quân sự.

Jones đang kêu gọi Microsoft thực hiện một số hành động ngay lập tức, bao gồm một bước quan trọng là loại bỏ Copilot Designer khỏi thị trường cho đến khi các biện pháp bảo vệ được thực hiện. Ông đã bổ sung thêm thông tin tiết lộ về những hạn chế của công cụ và thay đổi xếp hạng ứng dụng để phản ánh rằng nó không phù hợp với mọi lứa tuổi. Hoặc bất kì ai. 

Microsoft vẫn chưa trả lời tất cả các khiếu nại cụ thể của Jones. Tuy nhiên, một phát ngôn viên cho biết công ty cam kết giải quyết mọi mối lo ngại của nhân viên và đánh giá cao nỗ lực của họ trong việc thử nghiệm công nghệ của mình.

Khi nói đến các lỗ hổng an toàn hoặc mối lo ngại có thể có tác động tiềm tàng đến các dịch vụ của chúng tôi hoặc đối tác của chúng tôi, chúng tôi đã thiết lập các kênh báo cáo nội bộ mạnh mẽ để điều tra và khắc phục đúng cách mọi vấn đề. mối quan tâm.

Mối lo ngại về AI tổng hợp và khả năng lạm dụng đang gia tăng, thậm chí Người tạo hình ảnh của Song Tử gần đây đã thực hiện những bức ảnh đánh thức, điều này đã khiến Google ngừng sản xuất hình ảnh con người trong một thời gian.

Đây là một câu chuyện đang phát triển và chúng tôi sẽ tiếp tục cung cấp thông tin cập nhật khi chúng có sẵn.

Xem thêm tại đây.