微软限制对其部分人工智能服务的访问

人工智能掌握着技术的未来，但落入坏人之手，会给许多人带来麻烦。 这就是微软宣布对其负责任的 AI 标准进行一些更改的原因，其中引入了新的有限访问政策。 该公司在 21 月 XNUMX 日的一些帖子中表示，它现在将删除并限制对其使用 AI 的某些服务的访问。 特别是，这些政策变化将影响微软的 Azure Face 面部识别服务和自定义神经语音。

这一变化将极大影响的功能之一是备受争议的面部分析技术，旨在推断个人的情绪状态并识别不同的人类属性，如性别、年龄、微笑、面部毛发、头发和化妆。 微软表示，此举是在对隐私的一些担忧以及对“情感”概念的定义缺乏科学共识之后做出的。 

“我们与内部和外部研究人员合作，了解这项技术的局限性和潜在优势，并进行权衡，”Azure AI 首席集团产品经理 Sarah Bird 说。 “特别是在情绪分类的情况下，这些努力提出了关于隐私的重要问题，对“情绪”的定义缺乏共识，以及无法概括用例、地区和人口统计数据之间的面部表情和情绪状态之间的联系. 对预测敏感属性功能的 API 访问也开辟了多种可能被滥用的方式——包括使人们受到刻板印象、歧视或不公平地拒绝服务。”

因此，公司 公布 它已经在 21 月 30 日为新客户提供了属性检测功能，而在同月 XNUMX 日将停止为现有客户提供属性检测功能。 尽管如此，微软表示它“认识到这些功能在用于一组受控的可访问性场景时可能很有价值。” 有了这个，它是一个例外，不断提供这些功能 专为残障人士设计的应用程序，比如看见 AI。

另一方面，微软将限制申请者访问 Azure Face API、计算机视觉和视频索引器中的面部识别服务。 根据微软推出的有限访问政策，客户必须通过用例和客户资格要求才能访问操作。 当前客户将有一年的时间（直到 30 年 2023 月 XNUMX 日）申请并获准继续使用面部识别服务。 同时，用于检测模糊、曝光、眼镜、头部姿势、地标、噪声、遮挡和面部边界框的其他面部检测功能将保持可用，无需应用。 根据 Bird 的说法，这一新流程将帮助微软“对面部识别的使用和部署增加一层额外的审查，以确保这些服务的使用符合微软的负责任 AI 标准，并为高价值的最终用户和社会利益做出贡献。 ”

最后，微软的自定义神经语音功能也将面临一些限制，以防止可能的滥用。 “基于我们从自定义神经语音中学到的知识，我们将对我们的面部识别服务应用类似的控制，”首席负责人工智能官 Natasha Crampton 在另一篇文章中写道 博客文章. “在现有客户的过渡期之后，我们将这些服务的访问权限限制为托管客户和合作伙伴，将用例缩小到预先定义的可接受的用例，并利用设计到服务中的技术控制。”