Microsoft ra mắt công cụ bắt kẻ thù

Chris Hansen đã thực hiện vai trò của mình trong việc giữ an toàn cho trẻ em khỏi những kẻ săn mồi - giờ đến lượt Microsoft.

Project Artemis là một hệ thống tự động do Microsoft phát triển, có thể phát hiện ra những kẻ săn mồi tình dục ẩn náu trong các phòng trò chuyện trực tuyến khác nhau - bao gồm cả những phòng trò chơi điện tử. Sau khi công cụ phát hiện ra các kiểu giao tiếp điển hình được sử dụng bởi những kẻ săn mồi, "điểm rủi ro" sẽ được phân bổ cho cuộc trò chuyện, vì vậy nó có thể được gắn cờ cho người đánh giá nội dung, người sau đó có thể chuyển nó đến cơ quan thực thi pháp luật.

Microsoft lần đầu tiên hợp tác với trò chơi dành cho trẻ em Roblox, cũng như ứng dụng nhắn tin Kik và Meet Group - những người tạo ra các ứng dụng hẹn hò và tình bạn Skout, MeetMee và Lovoo tại một cuộc thi hackathon của Microsoft về an toàn cho trẻ em, vào tháng 2018 năm XNUMX.

Đây không phải là hệ thống tự động đầu tiên của Microsoft thuộc loại này - công ty lần đầu tiên giới thiệu ý tưởng này vào năm 2015, để chống lại sự chải chuốt trên Xbox Live. Dự án Artemis xây dựng dựa trên điều này, bằng cách tìm kiếm các mẫu từ khóa và cụm từ thường được kết hợp với việc chải chuốt - bao gồm cả tương tác tình dục và thậm chí cả các chiến thuật thao túng.

Công cụ này sẽ không chỉ phát hiện những kẻ đe dọa trẻ em mà còn cả những kẻ đang tích cực bóc lột trẻ em. Trong trường hợp có mối đe dọa sắp xảy ra như vậy, Trung tâm Quốc gia về Trẻ em mất tích và Bị bóc lột sẽ được liên hệ.

Trong khi Courtney Gregoire, giám đốc an toàn kỹ thuật số của Microsoft, nói rằng Artemis là một "bước tiến quan trọng", nó vẫn "không có nghĩa là một loại thuốc chữa bách bệnh."

“Việc bóc lột và lạm dụng tình dục trẻ em trên mạng cũng như việc phát hiện các hành vi chải chuốt trẻ em trực tuyến là những vấn đề nặng nề”, “nhưng chúng tôi không bị cản trở bởi sự phức tạp và phức tạp của những vấn đề đó”.

Microsoft đã bắt đầu thử nghiệm Project Artemis trên Xbox Live và tính năng trò chuyện của Skype; và từ ngày 10 tháng XNUMX, nó sẽ được cấp phép miễn phí cho các công ty khác thông qua tổ chức phi lợi nhuận Thorn, tổ chức xây dựng các công cụ ngăn chặn việc bóc lột tình dục trẻ em.

nguồn: nbcnews