微軟推出捕捉捕食者的工具

克里斯漢森在保護兒童免受掠食者侵害方面盡了自己的一份力——現在輪到微軟了。

Project Artemis 是一個由微軟開發的自動化系統，它可以嗅出潛伏在各種在線聊天室（包括視頻遊戲室）中的性侵犯者。 一旦該工具檢測到掠奪者使用的典型通信模式，就會為對話分配“風險評分”，因此可以將其標記給內容審查者，然後他們可以將其轉發給執法部門。

早在 2018 年 XNUMX 月，微軟首次與兒童遊戲 Roblox 以及消息應用 Kik 和 Meet Group（約會和友誼應用 Skout、MeetMee 和 Lovoo）的創建者合作，是在微軟兒童安全黑客馬拉鬆上。

這不是微軟的第一個此類自動化系統——該公司早在 2015 年就首次引入了這個想法，以對抗 Xbox Live 上的修飾。 Artemis 項目以此為基礎，通過尋找通常與修飾相關的關鍵字和短語的模式——包括性互動甚至操縱策略。

該工具不僅會檢測到那些對兒童構成威脅的人，還會檢測到那些積極剝削兒童的人。 如果發生此類迫在眉睫的威脅，將聯繫國家失踪和受剝削兒童中心。

儘管微軟首席數字安全官 Courtney Gregoire 表示，Artemis 是“向前邁出的重要一步”，但它仍然“絕不是靈丹妙藥”。

“在線兒童性剝削和虐待以及發現在線兒童美容是很重要的問題”，“但我們並沒有被這些問題的複雜性和復雜性嚇倒。”

微軟已經開始在 Xbox Live 上測試 Project Artemis 和 Skype 的聊天功能； 並且從 10 月 XNUMX 日起，它將通過非營利組織 Thorn 免費授權給其他公司，該組織開發了防止對兒童進行性剝削的工具。

資源： 新聞