Bot mới của Microsoft thực sự được thiết kế cho các cuộc trò chuyện gợi cảm

Microsoft đã không đạt được thành công lớn trong việc ngăn chặn chatbot của họ bị hỏng, điều này có thể giải thích tại sao bot mới của họ được thiết kế từ đầu để cung cấp các dịch vụ tình dục.

Một phần của Project Intercept, bot trò chuyện qua tin nhắn văn bản với khách hàng được thu hút bởi các quảng cáo trực tuyến về dịch vụ tình dục, về các chủ đề như tuổi tác, cơ thể, dịch vụ tôn sùng và giá cả và một khi họ thừa nhận ý định mua dâm sẽ mang đến một cảnh báo nghiêm khắc về những thiệt hại mà điều này có thể gây ra cho người khác.

Cảnh báo có thể thay đổi tùy theo cuộc trò chuyện, ví dụ: nếu một người mua tiềm năng bày tỏ sự quan tâm đến một người chưa đủ tuổi nhưng nói chung là: “Mua dâm từ bất kỳ ai là bất hợp pháp và có thể gây tổn hại nghiêm trọng về lâu dài cho nạn nhân, cũng như chu kỳ mua bán người. Chi tiết về vụ việc này sẽ được xem xét thêm và bạn có thể được cơ quan thực thi pháp luật liên hệ để thẩm vấn ”.

Bot được tạo ra như một phần của sáng kiến ​​từ thiện có đối tác chính là Seattle Against Slavery, và mục đích là để giảm nhu cầu đối với những người hành nghề mại dâm và khuyến khích bọn tội phạm ép buộc mọi người tham gia vào hoạt động mại dâm. Seattle Against Slavery đang làm việc với các đối tác ở 21 thành phố khác của Hoa Kỳ bao gồm Boston và Houston để triển khai bot rộng rãi hơn.

Robert Beiser, giám đốc điều hành của Seattle Against Slavery cho biết: “Nếu cơ quan thực thi pháp luật thực hiện hành vi đốt người trong một thành phố, họ có thể bắt được vài chục người, nhưng chúng tôi biết rằng phải có hàng nghìn hàng nghìn gã ngoài đó tìm cách mua dâm,” Robert Beiser, giám đốc điều hành của Seattle Against Slavery. “Việc lãng phí thời gian của họ và đưa ra một thông điệp răn đe có thể thay đổi quan điểm của họ về những gì họ đang làm.”

Dominique Roe-Sepowitz, giám đốc Văn phòng Nghiên cứu Can thiệp Buôn bán Tình dục của Đại học Bang Arizona, nói rằng họ có thể giúp mở rộng phạm vi của các nỗ lực chống buôn người. Nghiên cứu ở Phoenix đã chỉ ra rằng trung bình một quảng cáo tình dục trực tuyến thu hút 63 người mua tiềm năng. Roe-Sepowitz nói: “Không có đủ thám tử trên thế giới để phù hợp với quy mô của thị trường này.

Bot được tạo ra bởi cùng một nhóm Microsoft với những người đã tạo PhotoDNA, tự động phát hiện và báo cáo hình ảnh về việc bóc lột trẻ em và hiện được hơn 70 công ty và tổ chức, bao gồm Facebook và Twitter, sử dụng và được thiết kế để giúp các tổ chức phi chính phủ mở rộng quy mô. những nỗ lực hiện có của họ vượt quá những gì mà nhân viên thực tế có thể hoàn thành. Cho đến nay, chatbot đã trao đổi 14,000 tin nhắn với gần 1,000 người trả lời các quảng cáo được trồng. Trong khoảng một nửa số trường hợp đó, nó đủ nghe để đưa ra một thông điệp cảnh báo.

Beiser, thuộc Seattle Against Slavery, cho biết: “Điều này giúp cho những kẻ mua dâm không chú ý nhiều đến con người ở đầu bên kia của điện thoại.

Người ta không biết kỹ thuật này sẽ hiệu quả như thế nào về lâu dài, với nghiên cứu ở Phoenix cho thấy khi các thám tử ở Phoenix sử dụng quảng cáo giả để gây bất ngờ cho những người muốn mua dâm, gần một nửa số gái gọi được cảnh sát liên hệ sau đó được gọi là một kẻ giả mạo khác. quảng cáo. Tuy nhiên, các công cụ mới sẽ cho phép các nhóm kiểm tra các thông điệp và cách tiếp cận khác nhau ở quy mô lớn và đánh giá cái nào hiệu quả nhất.

“Hy vọng là giảm hoạt động này và bảo vệ được nhiều người,” Beiser nói.