OpenAI、今後の選挙での悪用を理由にChatGPTを利用した政治ボットをブロック

OpenAIはボットの開発者であるディーン氏を禁止するという措置をとった。民主党大統領候補のディーン・フィリップス下院議員を真似たボット。このボットは、シリコンバレーの起業家マット・クリシロフ氏とジェド・サマーズ氏によって作成されました。彼らは、We Deserve Better と呼ばれるスーパー PAC を通じてフィリップス氏をサポートしていました。ボットは OpenAI を利用しました ChatGPT 会話ソフトウェア。

OpenAIは、政治運動における同社のAIツールの悪用が認められたことを受けて、スーパーPACからボットの構築を請け負っていたAIスタートアップ企業Delphiのアカウントを停止した。 OpenAIは、停止の理由は同社のAPI使用ポリシーに違反し、政治運動での同社技術の使用や同意のない個人へのなりすましが禁止されたためだと述べた。

ChatGPT を利用したこのボットは、Web サイトを通じてリアルタイムで有権者と対話できます。これはAIツールであり、本物のディーン・フィリップスではないという免責事項が含まれていたにもかかわらず、研究者らは、そのようなテクノロジーが選挙を引き起こす可能性のある潜在的な害について懸念を表明した。たとえ免責条項があっても、有権者が騙されて危険なツールを受け入れてしまうのではないかという懸念がありました。

OpenAIの禁止事項についてのワシントン・ポストからの問い合わせに応じて、開発者らはDelphiに対しボットからChatGPTを削除し、代わりにオープンソース技術を使用するよう依頼したと述べた。ただし、アカウント停止に応じて Delphi がボットを削除するまで、このボットは ChatGPT なしで公開されたままでした。

OpenAIのサム・アルトマン最高経営責任者（CEO）の元首席補佐官であるマット・クリシロフ氏にはそれ以上のコメントはなく、デルファイもコメント要請に応じなかった。 OpenAIによる停止と措置は、政治運動でのAIツールの使用をめぐる現在進行中の課題と倫理的配慮を浮き彫りにしている。

その他 こちら.