扫描下载APP
其它方式登录
DeepMind联合创始人德米斯·哈萨比斯警示递归自我改进(RSI)技术若脱离人类审查,将导致失控风险与‘外星智能’出现;强调AI应专注作为科学与医疗工具,尤其以AlphaFold推动疾病治疗;坚决反对现阶段赋予AI意识,并呼吁建立全球协同的安全治理与第三方审计机制。
文章探讨AI递归自我改进(RSI)面临的核心挑战:AI在自主记忆和修改底层机制过程中易陷入错误积累与验证失效,导致自我污染。提出关键解决方案——将验证权与叫停权置于AI运行循环之外,通过外部门控、独立测试集、人类可触发的暂停/回滚机制等,确保AI进化过程的安全可控与人类监督的有效性。
奥特曼在访谈中透露OpenAI一款代号为「Hold-my-beer」的新模型,在数学、物理等多领域攻克长期未解难题(如Navier-Stokes方程),引发其连续两晚失眠;他提出AI自主研发(RSI)、智能体团队协同、机器人建造芯片与数据中心等颠覆性构想,强调AI将加速知识生产通缩,并推动算力基础设施向物理世界自我复制演进。
Mirendil和Recursive两家初创公司发布递归自我改进(RSI)重大成果:前者单人3.5个月用千万美元算力手搓100B–500B编程基座模型Mirendil-Base;后者推出40B参数高效编程模型Flint及自动化研究系统Eureka Machine。英伟达研究员Ali Hatamizadeh指出,AI正取代重复性执行工作,人类核心价值转向判断力、底层理解力与前沿问题攻坚能力。
腾讯混元团队推出Terminal-RSI技术,基于阿里Qwen3.8-27B模型,通过递归自我重写(RSR)和递归策略精炼(RPR)两阶段强化学习方法,显著提升小参数模型在终端长时程任务(如Terminal-Bench)上的实际完成能力,实现从0%到19.84%的突破,并推动混元研究与产品融合,强化AI编程与系统级任务执行能力。
Anthropic联合创始人Jack Clark将AI实现递归自我改进(RSI)的时间预测从2028年提前至2027年,引发科技界震动;核心依据是AI在数学证明、科研直觉(如TasteVal评测验证的‘科学品味’)及机器人控制(如英伟达GR00T系统)等领域的突破性进展,预示AI或将加速迈向超级智能(ASI),对科研、产业与人类文明构成双重挑战。
Anthropic联合创始人Jack Clark将AI实现递归自我改进(RSI)的时间预测从2028年提前至2027年,引发科技界震动;核心依据是AI在数学证明、科研直觉(‘科学品味’)等创造性能力上的突破性进展,预示RSI可能触发超级智能(ASI)爆发,并加速向物理世界(机器人、科研、经济)渗透,人类面临控制机制建设的关键倒计时。
文章聚焦RSI(递归自我改进)技术突破,揭示谷歌、OpenAI、Anthropic等AI巨头正加速推进AI自主迭代能力,模型已能自我编写代码、优化性能、生成数学证明,人类工程师角色转向管理AI智能体循环;行业普遍预期2026年末至2027年将进入RSI临界点,引发对超级智能失控、对齐失败及人类文明价值重构的深度忧思。
加州大学伯克利分校与Sakana AI团队提出多Agent自监督(MASS)方法,通过让同一模型交替担任任务求解、工作流优化和评估角色,在冻结权重下搜索最优多Agent协作工作流,并将高质量执行轨迹蒸馏回共享模型,显著提升科研任务胜率与基准得分,为递归自我改进(RSI)提供可靠自监督机制。
RSI(递归自我改进)概念近期在AI领域迅速升温,OpenAI、Anthropic、Google DeepMind及国内智谱、小米、阿里等机构纷纷推进相关实践或预警风险。但技术上AI仍缺乏实时在线学习能力,当前所谓‘主导’研发多限于人类设定目标与决策的闭环内,端到端自主性尚未突破组织与工程瓶颈,RSI是否构成范式跃迁尚存争议。
文章围绕RSI(递归自我改进)概念的过热现象展开,指出当前AI行业对RSI存在明显炒作,学术界尚无统一定义;一线学者周辉池强调,现有进展多为AI辅助研发(如写代码、跑实验),而非真正端到端自我研发,核心瓶颈在于问题发现、方向判断与物理世界闭环验证,距离实现完整RSI仍有显著距离。
Simate硅基伙伴成立三个月即凭借AI自动研究系统AutoResearch研发出登顶RoboDojo物理AI评测榜单的通用物理快系统模型,提出Physical RSI(物理智能递归自我改进)技术路线,通过AI Agent参与模型研发、实验、评测与真机部署闭环,实现机器人智能的持续迭代进化。
DeepSeek联合清华大学发布DSec沙盒基础设施,用于大规模Agent训练,通过可组合层、按需加载镜像和资源精算三大机制提升效率;论文第6节隐含RSI(递归自我改进)雏形,即Agent自主构建训练环境形成闭环,标志着AI基础设施竞争正从模型能力转向安全、高效的执行环境。
文章探讨具身智能递归自我改进(RSI)的发展现状与核心挑战,指出当前技术已实现失败经验回流、能力继承、World Model辅助筛选和AI介入研发等关键环节,但尚未形成跨任务、跨场景稳定闭环;强调产业判断重心正从单代模型能力转向‘有效改进效率’,即真实世界问题转化为下一代经验证能力的速度与成本。
OpenAI内部AI模型已实现自主训练、编写GPU内核及多智能体协作优化,大幅压缩研发周期;公司紧急发布全球安全倡议,聚焦RSI(递归自我改进)风险,呼吁建立前沿AI的国际安全标准与人类监督机制,并与Anthropic达成互测协议以应对失控风险。