Microsoft の中国語チャットボットが特定のトピックをフィルタリングする

Microsoftの中国のチャットボット、Xiaoice 中国では巨大でした 40万人以上のユーザーがいます。 2014年の初めに導入されたチャットボットは、人工知能を使用して、ほぼすべての質問にインテリジェントに回答します。 現在、Xiaoiceは特定のトピックをフィルタリングしており、それらのトピックに関する質問への回答を避けています。 これはによって報告されました CNNマネー lシャオアイスがドナルド・トランプに関する質問に答えることを避けたと主張した週。 さらに、チャットボットは、中国の習近平国家主席に関する質問や「共産党を倒す」という言葉を使った質問も避けました。 フィルタリングされたトピックについて尋ねられたとき、Xiaoiceは単に「私は愚かですか？ 私が答えたら、あなたはscereengrabを取るでしょう。」

これについて尋ねられたとき、マイクロソフトのスポークスパーソン 確認済み フォーチュン チャットボットが実際に「トピックの範囲」を除外していること：

「私たちは、Xiaoiceとチャットするすべての人に最高の体験を提供することに取り組んでいます。 これを念頭に置いて、さまざまなトピックにフィルタリングを実装しました。」

Microsoftは、チャットボットが除外するトピックを指定していませんが、会社がトピックの除外を開始した可能性があります。 今年初めに大失敗をします。 なじみのない人のために、マイクロソフトは今年初めに「Tay」と呼ばれるチャットボットを立ち上げました。 人種差別的で不快なコメントをたくさんしました。 もちろん、Microsoftはチャットボットをシャットダウンしましたが、まだ復活していません。 同社は、これが将来二度と起こらないようにするための措置を講じると述べており、一部のトピックを除外するXiaoiceはこれと関係がある可能性があります。