多次领导层离职后，OpenAI 解散了 AI 安全团队

OpenAI 已经解散了其团队，该团队致力于应对先进人工智能带来的长期安全风险。这一消息是在该消息发布几天后发布的 两位关键人物的离职：联合创始人兼前首席科学家 Ilya Sutskever 和 Jan Leike，他是 Superalignment 团队的共同领导者。

雷克公开表达了他对 OpenAI 将新产品开发置于安全研究之上的担忧。 

“安全文化和流程已经让位于闪亮的产品。”

他表示，应分配更多资源用于监测、准备和 AGI（通用人工智能）的社会影响。雷克表示，OpenAI 应该将安全放在第一位。

Superalignment 团队的解散是在 OpenAI 经历了一段时间的内部动荡之后发生的。 2023 年 XNUMX 月，联合创始人 Sam Altman 由于沟通缺乏透明度被董事会罢免。 

虽然奥特曼最终复职，但苏茨克维尔和其他反对他的董事会成员离开了公司。

OpenAI 坚称安全研究将继续下去，但如果没有专门的小组专注于长期风险缓解，目前尚不清楚如何有效地将其整合到不同的团队中。

此消息与推出 OpenAI的新AI模型GPT-4o 和 ChatGPT 的桌面版本。 

只有时间才能告诉我们 OpenAI 将如何应对复杂的挑战，确保负责任地开发先进人工智能，同时平衡这些努力与追求创新。

更多 点击这里.