微软修复了导致泰勒·斯威夫特深度造假的漏洞

为了回应有关个人使用人工智能文本到图像生成工具 Designer 来创建未经同意的名人色情图像的报告，微软实施了额外的保护措施来防止滥用。此举是在人工智能生成泰勒·斯威夫特裸照的消息曝光之后做出的。 该消息在 Twitter 上流传，后来无法在 Twitter 上搜索到泰勒·斯威夫特 (Taylor Swift)，源自 4chan 和 Telegram 上的频道，用户在其中利用 Designer。

微软发言人周五表示，

我们正在调查这些报告并采取适当的行动来解决这些问题。我们的行为准则禁止使用我们的工具创建成人或未经同意的亲密内容。

该公司强调了对负责任的人工智能原则的承诺，并提到了正在开发内容过滤、操作监控和滥用检测系统的努力。

虽然调查无法明确将人工智能生成的 Swift 图像与 Designer 联系起来，但微软首席执行官 Satya Nadella 承认有责任加强人工智能工具的“护栏”，以防止生成有害内容。

在接受 NBC 新闻采访时，纳德拉对全球社会规范趋同的潜力表示乐观，呼吁执法部门、技术平台和法规之间进行合作，以有效管理人工智能的使用。

404 媒体报道 微软加强了文本过滤提示以应对误操作。此前，用户曾利用漏洞拼错名人名字并提供虽然不明确但产生性暗示图片的描述。据404 Media报道，微软近期调整后，这些漏洞不再发挥作用。

据报道，人工智能生成图像所在的 Telegram 频道仍然活跃，分享使用其他人工智能工具生成的露骨内容。该频道带来了挑战，因为该平台尚未将其删除，而且对有害内容几乎没有执行任何责任。