Microsoftは、一部のAIサービスへのアクセスを制限しています

人工知能はテクノロジーの未来を支えていますが、悪意のある人にとっては、多くの人に問題を引き起こす可能性があります。 これが、MicrosoftがResponsible AI Standardの変更を発表し、新しい制限付きアクセスポリシーを導入した理由です。 21月XNUMX日のいくつかの投稿で、同社はAIを使用して一部のサービスへのアクセスを削除および制限すると述べています。 特に、これらのポリシーの変更は、MicrosoftのAzureFace顔認識サービスとCustomNeuralVoiceに影響します。

この変更によって大きな影響を受ける機能のXNUMXつは、個人の感情状態を推測し、性別、年齢、笑顔、顔の毛、髪の毛、化粧などのさまざまな人間の属性を認識するように設計された、物議を醸す顔分析技術です。 マイクロソフトは、この動きはプライバシーに関する懸念と「感情」の概念の定義に関する科学的コンセンサスの欠如の後に起こったと述べています。 

「社内外の研究者と協力して、このテクノロジーの制限と潜在的なメリットを理解し、トレードオフをナビゲートしました」と、AzureAIプリンシパルグループのプロダクトマネージャーであるSarahBird氏は述べています。 「特に感情分類の場合、これらの取り組みは、プライバシー、「感情」の定義に関するコンセンサスの欠如、およびユースケース、地域、人口統計にわたる顔の表情と感情状態の間のリンクを一般化できないことについての重要な質問を提起しました。 機密性の高い属性を予測する機能へのAPIアクセスは、人々をステレオタイプ化、差別、またはサービスの不当な拒否にさらすなど、悪用される可能性のあるさまざまな方法も開きます。」

そのため、会社は 発表の 21月30日に新規のお客様は属性検出機能を利用できなくなりましたが、現在のお客様は同月XNUMX日に廃止されます。 それにもかかわらず、Microsoftは、「これらの機能は、一連の制御されたアクセシビリティシナリオに使用される場合に役立つ可能性があることを認識しています」と述べています。 これにより、これらの機能を継続的に提供することは例外となります。 障害を持つ人々のために設計されたアプリケーション、SeeingAIのように。

一方、Microsoftは、Azure Face API、Computer Vision、およびVideo Indexerの顔認識サービスへのアクセスを、それらを申請する人に制限します。 マイクロソフトが導入した制限付きアクセスポリシーでは、お客様は運用にアクセスするために、ユースケースとお客様の資格要件に合格する必要があります。 現在のお客様は、継続的な顔認識サービスを申請して承認されるまでに30年（2023年XNUMX月XNUMX日まで）があります。 一方、ぼかし、露出、眼鏡、頭のポーズ、ランドマーク、ノイズ、オクルージョン、および顔のバウンディングボックスを検出するために使用される他の顔検出機能は、アプリケーションなしで引き続き使用できます。 Birdによると、この新しいプロセスは、Microsoftが「顔認識の使用と展開にさらに精査の層を追加して、これらのサービスの使用がMicrosoftのResponsible AI Standardに準拠し、価値の高いエンドユーザーと社会的利益に貢献することを保証するのに役立ちます。 」

最後に、Microsoftのカスタムニューラルボイス機能も、誤用の可能性から保護するためにいくつかの制限に直面します。 「CustomNeuralVoiceから学んだことを基に、顔認識サービスにも同様の制御を適用します」と、最高責任者のAIオフィサーであるNatashaCramptonは別の記事で書いています。 ブログ投稿。 「既存のお客様の移行期間後、これらのサービスへのアクセスを管理対象のお客様とパートナーに制限し、ユースケースを事前定義された許容可能なものに絞り込み、サービスに組み込まれた技術的制御を活用します。」