微軟限制對其部分人工智能服務的訪問

人工智能掌握著技術的未來，但落入壞人之手，會給許多人帶來麻煩。 這就是微軟宣布對其負責任的 AI 標准進行一些更改的原因，其中引入了新的有限訪問政策。 該公司在 21 月 XNUMX 日的一些帖子中表示，它現在將刪除並限制對其使用 AI 的某些服務的訪問。 特別是，這些政策變化將影響微軟的 Azure Face 面部識別服務和自定義神經語音。

這一變化將極大影響的功能之一是備受爭議的面部分析技術，旨在推斷個人的情緒狀態並識別不同的人類屬性，如性別、年齡、微笑、面部毛髮、頭髮和化妝。 微軟表示，此舉是在對隱私的一些擔憂以及對“情感”概念的定義缺乏科學共識之後做出的。 

“我們與內部和外部研究人員合作，了解這項技術的局限性和潛在優勢，並進行權衡，”Azure AI 首席集團產品經理 Sarah Bird 說。 “特別是在情緒分類的情況下，這些努力提出了關於隱私的重要問題，對“情緒”的定義缺乏共識，以及無法概括用例、地區和人口統計數據之間的面部表情和情緒狀態之間的聯繫. 對預測敏感屬性功能的 API 訪問也開闢了多種可能被濫用的方式——包括使人們受到刻板印象、歧視或不公平地拒絕服務。”

因此，公司 宣布 它已經在 21 月 30 日為新客戶提供了屬性檢測功能，而在同月 XNUMX 日將停止為現有客戶提供屬性檢測功能。 儘管如此，微軟表示它“認識到這些功能在用於一組受控的可訪問性場景時可能很有價值。” 有了這個，它是一個例外，不斷提供這些功能 專為殘障人士設計的應用程序，比如看見 AI。

另一方面，微軟將限制申請者訪問 Azure Face API、計算機視覺和視頻索引器中的面部識別服務。 根據微軟推出的有限訪問政策，客戶必須通過用例和客戶資格要求才能訪問操作。 當前客戶將有一年的時間（直到 30 年 2023 月 XNUMX 日）申請並獲准繼續使用面部識別服務。 同時，用於檢測模糊、曝光、眼鏡、頭部姿勢、地標、噪聲、遮擋和麵部邊界框的其他面部檢測功能將保持可用，無需應用。 根據 Bird 的說法，這一新流程將幫助微軟“對面部識別的使用和部署增加一層額外的審查，以確保這些服務的使用符合微軟的負責任 AI 標準，並為高價值的最終用戶和社會利益做出貢獻。 ”

最後，微軟的自定義神經語音功能也將面臨一些限制，以防止可能的濫用。 “基於我們從自定義神經語音中學到的知識，我們將對我們的面部識別服務應用類似的控制，”首席負責人工智能官 Natasha Crampton 在另一篇文章中寫道 博客文章. “在現有客戶的過渡期之後，我們將這些服務的訪問權限限制為託管客戶和合作夥伴，將用例縮小到預先定義的可接受的用例，並利用設計到服務中的技術控制。”