Tay がどのように間違ったのか、そして Microsoft はそれに対して何をしているのかをご紹介します

Microsoft 最近紹介された Tayと呼ばれるAIチャットボット。 チャットボットは実際には非常にインテリジェントでしたが、 「協調的」攻撃の後、攻撃的で人種差別的なツイートをいくつか行いました。 本日、MicrosoftResearchのコーポレートバイスプレジデントであるPeterLeeは、Tayのツイートについて謝罪しました。 しかし、彼はまた、テイがどのように失敗したか、そして会社がそれについて何をするつもりであるかを共有しました。

まず、Peterは、広範な調査を使用して、会社がTayをどのように開発したかを明らかにしました。

Tayを開発するにつれ、多くのフィルタリングを計画および実装し、さまざまなユーザーグループを対象に広範なユーザー調査を実施しました。 さまざまな条件下でTayのストレステストを行いました。具体的には、Tayとのやり取りを前向きな体験にするためです。 Tayがユーザーとどのようにやり取りしているかに慣れたら、より多くの人々にTayとの交流を呼びかけたいと思いました。 それは、私たちがより多くを学び、AIがどんどん良くなることを期待した相互作用の増加を通してです。

第二に、彼はテイが不快なコメントをツイートするように教えられた方法について話しました。 ご存知かもしれませんが、Tayはユーザーから学び、一部のユーザーはこれを使用してTayを人種差別主義者に変えました。 ピーターは次のように述べています。

私たちが大規模なユーザーグループと交流するための論理的な場所はTwitterでした。 残念ながら、オンラインになってから最初の24時間で、一部の人々による協調攻撃がTayの脆弱性を悪用しました。 システムのさまざまな種類の悪用に備えていましたが、この特定の攻撃に対して重大な監視を行っていました。 その結果、Tayは非常に不適切で非難されやすい言葉や画像をツイートしました。 私たちは、この可能性を前もって見ないようにする全責任を負います。 このレッスンは、中国、日本、米国での経験と同様に進めていきます。現在、Tayへの攻撃によってさらされた特定の脆弱性に対処するために懸命に取り組んでいます。

最後に、Peterは、MicrosoftがTayの改善をどのように計画しているかを共有しました。 同社は、AI設計を改善し、次のようなエクスプロイトを制限するために「可能な限りのこと」を行う必要があると述べました。