現実と未来に対する AI とディープフェイクの影響

ExpressVPNと提携

最近の人工知能の進歩は、現代人の生活に大きな変化をもたらしています。 今日では、AI がコーディング、エッセイの作成、そして何よりも、コンテンツ生成をほんの数秒で簡単に実行できることがわかります。 ただし、これらの同じ印象的な機能は、AI 自身の呪いです。 による VPNプロバイダー、多くの人がAIを使用して偽情報の合成メディアを生成しており、ディープフェイクは今や世界中に山火事のように広がり始めています.

専門家は何十年にもわたって AI を実験してきましたが、Microsoft の最近の技術に対する大きな推進力は、そのような創造物により多くの投資を行うことへの業界の関心を引き起こしました。 その発表直後 ChatGPT を利用した Bing 検索エンジン、Googleは使用して反撃しました 吟遊詩人. しかし、競合他社とは異なり、Google は依然として Bard のテストへのアクセスに対して厳しい制限を実施しており、専門家は、AI が悪意を持って何を行うことができるかを同社が恐れているためではないかと推測しています。

これは、開発中の他の AI 技術製品の場合にも当てはまります。 たとえば、現在公開されていない Microsoft の VALL-E 言語モデルは、人の声や感情を模倣して、パーソナライズされたスピーチを合成することができます。 音声プロンプトとして XNUMX 秒間の録音が必要ですが、元の話者の声を使用して別のメッセージを生成できます。

一般大衆は上記の作品にアクセスすることはまだできませんが、小規模なテクノロジー企業によって提供された同等のものはすでにあります. これにより、通常のユーザーだけでなく、悪意のあるアクターがツールを好きなように使用できるようになりました。 これにより、人々が AI の助けを借りてだまされたり詐欺に遭ったりするというさまざまな報告が最近浮上していることは、もはや驚くべきことではありません。

これらのレポートは、被害者を模倣した AI 生成の音声の使用を特に強調していました。 共有されたストーリーで ビジネスインサイダー 今月、母親は、50,000 歳の娘のために 15 ドルの身代金を要求する誘拐犯であると主張する誰かから電話を受けたと伝えられています。 受けた電話について、母親は「100%」娘の声だと言いました。

「それは完全に彼女の声でした。 それは彼女の屈折でした。 それは彼女が泣いたであろう方法でした。 母親は、電話が詐欺であり、娘が実際に夫と一緒にいたことを後で発見しました.

AI 音声に関する同じ事件は、カナダのカップルが経験したもので、残念ながら、電話で詐欺師から 21,000 ドルを失いました。 によると ワシントン・ポスト、詐欺師は、AIが生成した音声を使用して弁護士と夫婦の息子を装い、息子が自動車事故で外交官を殺害したと主張した後、そのお金は訴訟費用に使用されると述べました.

音声以外にも、AI が生成する他の形式の生成メディアも、偽の画像やディープフェイクの動画など、誰でもだますことができます。 詐欺師が金銭的利益のためにそれらを使用したことを示す現在の報告はありませんが、その影響は一般大衆に広まる可能性があります. 最近、有名人の AI 生成画像が Web 上で出回っています。 ファッショナブルなフグ ジャケットを着た教皇フランシスコ、逮捕されたドナルド トランプ前大統領、ライバルであり GM の CEO であるメアリー バラの手を握っているイーロン マスクの写真などがあります。 一方、2022 年 XNUMX 月には、ウクライナの市民にロシアへの降伏を求める、ウクライナのウォロディミル・ゼレンスキー大統領のディープフェイク動画が公開されました。

これらの資料はすぐに偽物であることが判明しましたが、その存在が大衆を欺き、多くの人を一時的に混乱させたことは否定できません。 モデルや作家でも クリッシーTeigen 教皇の写真の犠牲になった。 しかし、このような合成メディアの影響は、AI が発展し続けるにつれて、より深刻になる可能性があります。特に、より多くのテクノロジー企業が完璧な AI の作成に数十億ドルを費やしている現在においてはなおさらです。 その時が来れば、AI を悪用して、誰もが知っている現実をねじ曲げることができますが、それは不可能ではありません。 さらに、それは大衆を支配し、影響を与えるために使用される可能性さえあり、世界中でさまざまな政治的、社会的、道徳的問題を引き起こす可能性があります.

これは、2018 年の中間選挙で、バラク・オバマがドナルド・トランプを中傷しているディープフェイク動画で明らかです。 このコンテンツはもともと、ウェブ上のフェイク ニュースの危険性についてオンラインの世界に警告することを目的としていましたが、逆に反発しました。 これは何人かのトランプ支持者の間で怒りを引き起こし、意図せずに資料で使用されている個人のイメージを傷つけました.

さて、そのような生成メディアが特別に設計された場合の効果を想像してみてください。 意見に影響を与え、操作する そして宣伝を大衆に促進する。 結果は劇的なものになる可能性があります。 これは、ベラルーシ、中国、エジプト、ロシア、イラン、北朝鮮、トルクメニスタン、アラブ首長国連邦、ウガンダ、イラク、トルコ、オマーン、およびその他のイスラム教が優勢な国など、制限的な政府によってメディアや情報が検閲されている国に特に当てはまる可能性があります。 . VPN を使用して、地理的にロックされたコンテンツ、Web サイト、およびサービスにアクセスし、最新の状態を維持することに頼る人もいます。 しかし、これらの場所ではインターネット検閲を回避し、VPN サービスに関連する Web サイトをブロックすることさえあるため、VPN アクセスが完全に可能というわけではありません。 これにより、国際ニュースへのアクセスが制限され、その政府がどのオンライン コンテンツを許可するかという権限を持つ地域の未来を想像することができます。 さらに、将来的により完璧なコンテンツ生成 AI の可能性を追加すると、一般の人々は何が真実で何がそうでないかを見分けることがより困難になるはずです。

業界団体や AI テクノロジー企業は、AI ツールの使用をガイドするポリシーの概要を説明するために、すでに動き始めています。 たとえば、AI に関するパートナーシップは、合成メディア ツールを構築している機関や個人、または単にそのような資料を配布している機関に推奨事項を提供しています。 ただし、ここで必要なのは民間企業や非営利団体だけではありません。 立法者はまた、AI ビルダーとエンド ユーザーが遵守するように強制される一連の具体的な規則を作成する必要があります。 それにもかかわらず、これらの将来の法律は、AI の力を活用し、人々がそれを悪用するのを防ぐのに十分効率的でしょうか? すぐにそれがわかるはずです。