マイクロソフトが捕食者を捕まえるツールをデビュー

クリスハンセンは、子供たちを捕食者から安全に保つことに彼の役割を果たしました-今度はマイクロソフトの番です。

Project Artemisは、Microsoftによって開発された自動システムであり、ビデオゲームを含むさまざまなオンラインチャットルームに潜む性的捕食者を嗅ぎ分けることができます。 ツールが捕食者によって使用されるコミュニケーションの典型的なパターンを検出すると、「リスクスコア」が会話に割り当てられるため、コンテンツレビューアにフラグを立てて、法執行機関に中継することができます。

マイクロソフトは、2018年XNUMX月に、子供の安全のためのマイクロソフトハッカソンで、子供向けゲームRoblox、メッセージングアプリKik、出会い系アプリと友情アプリSkout、MeetMee、Lovooの作成者と最初に協力しました。

これは、この種のMicrosoftの最初の自動化システムではありません。同社は、Xbox Liveでのグルーミングと戦うために、2015年にこのアイデアを最初に導入しました。 Project Artemisは、性的相互作用や操作戦術など、グルーミングに一般的に関連するキーワードやフレーズのパターンを探すことで、これに基づいています。

このツールは、子供を脅かす人だけでなく、子供を積極的に搾取している人も検出します。 そのような差し迫った脅威が発生した場合は、全米行方不明・搾取児童センターに連絡します。

Microsoftの最高デジタル安全責任者であるCourtneyGregoireは、Artemisは「重要な前進」であると述べていますが、それでも「万能薬ではありません」。

「オンラインでの児童の性的搾取と虐待、およびオンラインでの児童の手入れの検出は重大な問題です」、「しかし、そのような問題の複雑さと複雑さに私たちは思いとどまることはありません。」

Microsoftは、XboxLiveでのProjectArtemisとSkypeのチャット機能のテストをすでに開始しています。 そして10月XNUMX日から、子供たちの性的搾取を防ぐためのツールを構築する非営利のThornを通じて、他の企業に無料でライセンス供与されます。

情報源： nbcニュース