“不可接受”：谷歌首席执行官桑达尔·皮查伊谈双子座的“觉醒”和进攻性输出

谷歌的人工智能工具 Gemini 以生成图像和文本而闻名，但因生成带有偏见和攻击性的内容而受到批评。在用户报告以下问题后，该工具上周被暂停：

• 历史描述不准确: 双子座生成的图像显示，像维京人这样的人物是有色人种，尽管他们的历史背景不同。
• 令人反感的文字提示: 对恋童癖的立场细致入微，强调这是一个复杂的问题，而不仅仅是“严重”。

这些问题引发了公众批评，一些人指责谷歌存在反白人偏见。对此，谷歌首席执行官桑达尔·皮查伊承认了这些问题，并称这些问题“完全不可接受”。他强调谷歌致力于提供公正的信息并打造值得用户信任的产品。

皮查伊概述了解决这些问题的计划，包括：

• 实施更严格的控制，防止产出出现偏差。
• 修订产品指南以确保负责任的人工智能开发。
• 在公开发布之前实施更严格的测试和评估人工智能工具的程序。
• 进行彻底的评估和红队演习，以识别和解决潜在问题。

在承认挑战的同时，皮查伊强调谷歌将继续致力于负责任地推进人工智能发展。他强调了从错误中吸取教训并构建赢得用户信任的有用产品的重要性。

皮查伊给谷歌员工的完整说明，首先报道 Semafor， 在下面。

我想解决 Gemini 应用程序（以前称为 Bard）中最近出现的有问题的文本和图像响应问题。我知道它的一些回应冒犯了我们的用户并表现出偏见——需要明确的是，这是完全不可接受的，我们错了。

我们的团队一直在夜以继日地工作来解决这些问题。我们已经看到各种提示的显着改进。没有哪个人工智能是完美的，尤其是在行业发展的新兴阶段，但我们知道我们的门槛很高，无论需要多久，我们都会坚持下去。我们将回顾发生的事情并确保我们大规模修复它。

我们组织全球信息并使其人人都能访问和使用的使命是神圣不可侵犯的。我们始终致力于在我们的产品中为用户提供有用、准确且公正的信息。这就是为什么人们信任他们。这必须成为我们所有产品的方法，包括我们新兴的人工智能产品。

我们将推动一系列明确的行动，包括结构变革、更新的产品指南、改进的发布流程、强有力的评估和红队以及技术建议。我们正在审视所有这些，并将做出必要的改变。

即使我们从这里的错误中吸取了教训，我们也应该以过去几周在人工智能领域发布的产品和技术公告为基础。这包括我们的底层模型的一些基础性进展，例如我们的 1 万长上下文窗口突破和我们的开放模型，这两者都受到了好评。

我们知道如何创造出被数十亿人和企业使用和喜爱的伟大产品，并且凭借我们的基础设施和研究专业知识，我们为人工智能浪潮提供了令人难以置信的跳板。让我们专注于最重要的事情：构建值得用户信任的有用产品。

与此同时，专家认为争议源于技术缺陷，而不是故意的偏见。他们认为问题在于控制人工智能输出的软件“护栏”，而不是底层模型本身。