从网络上删除 Copilot Designer：一位微软工程师透露 Copilot Designer 可以产生极其不适当的内容

一位微软工程师对该公司的人工智能图像生成器 Copilot Designer 表示担忧。他声称它可能会产生有害和不适当的内容。

微软首席软件工程经理肖恩·琼斯 (Shane Jones) 表示，他发现该工具可以生成暴力、性和偏见的图像。这让我想起了 泰勒·斯威夫特传奇，据说是微软的一个产品完成的。

他在内部报告了自己的发现，但对得到的回应并不满意，这促使他公开了自己的问题。

琼斯通过“红队”（弱点测试）发现了漏洞，他报告说遇到了令人不安的图像，包括：

• 描绘恶魔和怪物的图像以及与堕胎权相关的术语。
• 车祸中女性的性场景照片。
• 图片描绘了青少年在聚会上携带毒品和武器的情况。
• 以迪士尼角色为主题的图像，这些角色处于可能受版权保护和具有攻击性的情况下，包括描绘中东暴力的场景以及与军事图像相关的角色。

琼斯呼吁微软立即采取一些行动，其中包括将 Copilot Designer 从市场上移除，直到实施保护措施。他补充了有关该工具局限性的披露，并更改了应用程序评级以反映它不适合所有年龄段。或者任何人。 

微软尚未对琼斯的所有具体说法做出回应。不过，一位发言人表示，该公司致力于解决员工的任何担忧，并感谢他们在测试技术方面所做的努力。

当涉及到可能对我们的服务或合作伙伴产生潜在影响的安全绕过或问题时，我们建立了强大的内部报告渠道来正确调查和补救任何问题，我们鼓励员工利用这些渠道，以便我们可以适当地验证和测试他们的报告的担忧。

人们对生成式人工智能及其滥用可能性的担忧日益加剧，甚至 双子座的影像创作者最近拍出了醒目的照片， 这使得谷歌暂时停止了制作人体图像。

这是一个正在发展的故事，我们将继续提供可用的更新。

更多 相关信息.