奥特曼向员工介绍安全开发超级 AI 三条路径

火星财经消息，OpenAI 首席执行官奥特曼上周向员工介绍了三种安全开发超级 AI 的方案。第一种是建立类似国际原子能机构的全球监管组织，检查先进模型并审计安全措施。知情人士称，奥特曼倾向于这条路线。第二种效仿欧洲核子研究中心，让各大 AI 实验室合并到一个组织，或通过统一机构共同研发，而不是继续各自竞速。第三种最极端，被他称为「Eliezer 方案」：一家 AI 公司率先实现递归自我改进，再凭借压倒性经济实力控制算力，使其他开发者无法追赶。奥特曼用「熔毁其他所有公司的 GPU」描述这一设想，同时表示该方案非常糟糕，只是为了把可能性讲全。「熔毁 GPU」的设想来自 AI 安全研究者 Eliezer Yudkowsky。他在 2021 年提出思想实验，让超级 AI 制造能够自我复制的纳米机器以熔毁全球 GPU，并表示这只是说明干预力度的极端例子，并非主张执行的方案。OpenAI 在 2023 年提出过建立「AI 版国际原子能机构」，Google DeepMind 负责人 Hassabis 也曾主张设立「AI 版 CERN」。目前 OpenAI、Google 和 Anthropic 计划在今年底或明年初成立联合安全标准组织，但在模型安全测试责任归属上存在分歧。奥特曼希望为 AI 研发设定速度限制，同时表示 OpenAI 眼下不能把竞争优势让给对手。