從網路上刪除 Copilot Designer：一位微軟工程師透露 Copilot Designer 可以產生極度不適當的內容

一位微軟工程師對該公司的人工智慧影像產生器 Copilot Designer 表示擔憂。他聲稱它可能會產生有害和不適當的內容。

微軟首席軟體工程經理 Shane Jones 表示，他發現該工具可以產生暴力、性和偏見的圖像。這讓我想起了 泰勒絲傳奇，據說是微軟的一個產品完成的。

他在內部報告​​了自己的發現，但對所得到的回應並不滿意，這促使他公開了自己的問題。

瓊斯透過「紅隊」（弱點測試）發現了漏洞，他報告說遇到了令人不安的圖像，包括：

• 描繪惡魔和怪物的圖像以及與墮胎權相關的術語。
• 車禍中女性的性場景照片。
• 圖片描繪了青少年在聚會上攜帶毒品和武器的情況。
• 以迪士尼角色為主題的圖像，這些角色可能受版權保護且具有攻擊性，包括描繪中東暴力的場景以及與軍事圖像相關的角色。

瓊斯呼籲微軟立即採取一些行動，其中包括將 Copilot Designer 從市場上移除，直到實施保護措施。他補充了有關該工具局限性的披露，並更改了應用程式評級以反映它不適合所有年齡層。或任何人。 

微軟尚未對瓊斯的所有具體說法做出回應。不過，一位發言人表示，該公司致力於解決員工的任何擔憂，並感謝他們在測試技術方面所做的努力。

當涉及到可能對我們的服務或合作夥伴產生潛在影響的安全繞過或問題時，我們建立了強大的內部報告管道來正確調查和補救任何問題，我們鼓勵員工利用這些管道，以便我們可以適當地驗證和測試他們的報告的擔憂。

人們對生成式人工智慧及其濫用可能性的擔憂日益加劇，甚至 雙子座的影像創作者最近拍出了醒目的照片， 這使得谷歌暫時停止了製作人體圖像。

這是一個正在發展的故事，我們將繼續提供可用的更新。

更多 這裡.