Time：2024-07-12 Click：57
OpenAI 前雇员、公司“超级对齐团队成员”威廉·桑德斯 (William Saunders) 最近透露，他之所以辞职，是因为他觉得公司正走向悲剧，就像 1912 年命运多舛的皇家邮轮泰坦尼克号一样。
据《商业内幕》报道，桑德斯在科技记者亚历克斯·坎特罗维茨的播客节目中发表了他的评论。
桑德斯告诉坎特罗维茨，他在 OpenAI 任职的三年期间，有时会问自己，公司走的道路是“更像阿波罗计划，还是更像泰坦尼克号”。
他的理由似乎是，通过谨慎的科学努力，阿波罗太空计划尽管遭遇挫折，但仍然取得了成功，而泰坦尼克号尽管取得了成功，但却失败了。
Per Saunders：
“为了确保船只安全，建造防水舱室，他们付出了很多努力，因此可以说这艘船不会沉没。但与此同时，救生艇的数量却不足以满足所有人的需求。”
OpenAI 就像泰坦尼克号
桑德斯将公司的总体精神描述为：产品开发比实施合理的安全预防措施更为重要。
他描绘了这样一种办公室景象：提出安全问题的员工会受到惩罚，而领导层只关注利润。
“随着时间的推移，”桑德斯说，“我开始真正感觉到领导层做出的决定更像是白星航运公司建造泰坦尼克号。”
冰山一角
桑德斯并不是第一个不同意 OpenAI 经营方式的人。该公司的联合创始人之一埃隆·马斯克最近起诉 OpenAI，称其偏离了最初的使命太远。尽管马斯克多年来一直没有参与 OpenAI，目前经营着自己的直接竞争对手 xAI，但马斯克还是起诉了 OpenAI。该诉讼随后被撤回。
竞争对手 AI 公司 Anthropic 由前 OpenAI 员工和联合创始人于 2021 年创立，原因是人们担心 OpenAI 对信任和安全关注不够。
然而另一方面，另一位现已疏远的联合创始人兼前首席科学家伊利亚·苏茨克韦尔 (Ilya Sutskever) 于 2024 年 5 月离开公司，创办了自己的公司，他当时写道，他“相信” OpenAI 团队能够安全地实现其目标。
有如此多的员工跳槽，而且至少有一人拿泰坦尼克号来比喻，那么当前的问题是：谁或者什么是冰山？
如果比喻中的乘客是我们——全人类——那么冰山就代表着 ChatGPT 和类似系统对毫无准备的社会构成的生存威胁。如果人工智能变得比我们更聪明、更有能力，而我们没有足够的“救生艇”来保护每个人免受其潜在伤害，那么我们可能会走向悲剧。
但如果乘客是股东和利益相关者，等待 OpenAI 创造出与人类一样聪明的人工智能，而这永远不会发生，那么也许这座冰山代表着生成人工智能泡沫的破灭。
相关：如果不能尽快实现人类级别的人工智能，大型科技公司将面临财务清算