OpenAI因安全问题将暂停发布新模型

火星财经消息 9月30日，美国开放人工智能研究中心(OpenAI)28日证实，经过内部测试，他们最新的人工智能模型“GPT-6.1 阿斯特拉”未能达到安全标准，公司将不会对外发布该模型。OpenAI安全系统负责人萨奇・贾殷在向媒体发送的一份声明中称，“GPT-6.1 阿斯特拉”在部分性能上相比前代模型有所提升，但“在任务边界把控、权限遵守，以及向用户反馈自身工作内容方面，并未达到合格标准”。声明说，无论是在公司内部使用，还是面向用户正式发布，我们都要确保模型的开发是安全的。 就在几天前，澳大利亚总理阿尔巴尼斯在纽约出席第81届联合国大会期间透露，OpenAI的一个智能体今年6月曾侵入澳大利亚政府网站。28日，OpenAI公开致歉，承认事件处置存在不当，并承诺承担责任，称要“重建澳大利亚民众的信任”。公司表示，“模型找到了获取非公开访问权限的途径，调取了相关数据，还进行了文件写入操作。”该公司同时确认，首席战略官杰森·权将于10月6日在悉尼出席澳大利亚参议院人工智能专题委员会听证会。（央视新闻）