城头文：OpenAI超级对齐团队解散内幕：对奥特曼信任崩溃

凸显了内部人员对OpenAI的安全性和商业性的意见冲突。OpenAi的走向在现阶段要比其他大科技公司对人类的影响要大得多。

https://www.wenxuecity.com/news/2024/05/18/125573278.html

雷科则在X上详细阐述了他离职的原因，他指出：“我与OpenAI领导层在公司核心优先事项上的分歧已经持续了一段时间，直至我们达到了一个临界点。在过去几个月中，我的团队一直在逆风中前行。我们有时为了获取计算资源而挣扎，完成这项至关重要的研究变得越来越困难。”他还表示：“我认为我们应该投入更多的带宽来为下一代模型做好准备。在安全性、监控、准备、对抗鲁棒性、（超级）对齐、保密、社会影响等相关主题上。这些问题很难做好，我担心我们没有走上正确的轨道。”
尽管超级对齐团队并非唯一思考如何控制人工智能的团队，但其公开定位为致力于解决这一远景问题的主力团队。OpenAI在去年夏天宣布成立超级对齐团队时指出：“目前，我们还没有一种解决方案来指导或控制一个潜在的超级人工智能，阻止它变得不可控制。”

 

OpenAI的章程规定，公司必须安全地开发所谓的人工通用智能，或与人类相媲美或超越人类的技术，安全地并为人类的利益服务。苏茨克维和其他领导者经常强调谨慎行事的必要性。然而，OpenAI也是最早开发并向公众发布实验性人工智能项目的机构之一。

苏茨克维和雷科的离职发生在OpenAI最新产品发布会之后—该公司本周一刚推出了GPT-4o“多模态”模型，它使ChatGPT能够看到世界并以更自然、更人性化的方式进行对话。尽管没有迹象表明最近的离职与OpenAI开发更人性化人工智能或推出产品的努力有任何关系，但最新的进展确实引发了围绕隐私、情感操纵和网络安全风险的伦理问题。OpenAI还维护着另一个名为“准备就绪团队”的研究小组，专注于这些问题。