Anthropic 在纳斯达克挂牌上市的同一天,前研究员雅各布・考克森带着数十名抗议者聚集在旧金山 Anthropic 总部外面,公开喊话要求直接禁止 AI 递归自我改进(RSI),一边是资本市场追捧这场 AI 巨头 IPO,另一边是内部出走的研究者持续警示这项技术的安全风险,这件事也让 RSI 这个 AI 安全议题再次被推到大众视野里。考克森是今年 9 月主动从 Anthropic 离职的,离职核心原因就是担心递归自我改进的风险,他认为各大 AI 公司正在竞速研发 RSI,相当于拿全人类安全去赌技术红利,就算 Anthropic 在招股书里承认无监督自主迭代模型不安全、会增加管控,他依旧觉得只靠企业内部约束远远不够,需要政府出台禁令、行业之间同步停手。递归自我改进简单讲就是 AI 参与研发下一代更强 AI,形成一个正向循环:AI 辅助做研究→产出更强模型→更强 AI 再加速研发,循环持续下去,人类的监督和对齐难度会快速变大。当天现场除了考克森演讲,还有 OpenAI 前研究员、Stop AI 安全组织成员一起参与抗议,部分人员封堵了办公楼入口,和资本市场对 Anthropic 的乐观定价形成强烈反差。
事件核心信息清单
- 人物:雅各布・考克森(Jacob Coxon),Anthropic 前预训练研究员,9 月离职
- 时间:Anthropic 上市首日(当地时间 11 月 19 日)
- 地点:美国旧金山 Anthropic 总部
- 核心诉求:立法、行业协同,禁止 AI 递归自我改进 RSI
- 现场参与者:数十名抗议者、OpenAI 前研究员、Stop AI 组织成员
- 考克森核心观点:股票涨跌不重要,阻止递归自我改进才是首要目标
- 公司官方态度:招股书承认完全自主迭代模型存在风险,计划保留人类主导开发权
递归自我改进 RSI 原理表格
| 项目 | 说明 |
|---|---|
| 全称 | Recursive Self-Improvement,RSI |
| 运行逻辑 | AI 参与设计、训练、测试下一代 AI,更强模型继续优化后续 AI |
| 短期现状 | 目前 AI 只是辅助研发,还没有实现完全自主迭代 |
| 风险担忧 | 迭代速度失控,人类对齐、监督跟不上模型能力提升 |
| 行业定位 | 前沿 AI 安全争议热点,没有统一结论,企业内部也存在分歧 |
双方立场对比
- 考克森及抗议方:RSI 风险极高,企业自律不可靠,需要强制禁令,避免失控风险
- Anthropic 官方:现阶段 AI 辅助研发能提升效率,完全自主 RSI 还没实现,会设置人类管控机制
- 资本市场:看好 Anthropic 的模型商业化能力,IPO 首日估值走高
【相关 FAQ】
问题 1:Anthropic 上市当天,离职研究员考克森在总部外呼吁的是什么?
回答 1:Anthropic 上市当天,离职研究员考克森在 Anthropic 旧金山总部外公开呼吁,要禁止 AI 递归自我改进(RSI),认为这项技术存在巨大安全隐患。
问题 2:考克森为什么会在 Anthropic 上市当天,出来反对 AI 递归自我改进?
回答 2:考克森很早就因为担忧 AI 递归自我改进的风险在 9 月离职,Anthropic 上市代表资本加速押注前沿 AI 研发,他担心企业为了商业竞争加快 RSI 落地,仅靠企业自查不足以管控风险,所以选择在上市当天发起抗议。
问题 3:AI 递归自我改进是什么,考克森担心它带来什么后果?
回答 3:AI 递归自我改进就是 AI 自己参与研发更强的下一代 AI,形成加速迭代闭环;考克森担心迭代速度超过人类管控能力,出现人类无法对齐、难以控制的 AI 系统。
问题 4:面对禁止 AI 递归自我改进的呼声,Anthropic 官方是什么态度?
回答 4:Anthropic 在招股书中承认,AI 无监督自主设计下一代模型不安全,目前还没有实现完整递归自我改进,会调整政策,保证前沿 AI 开发由人类主导。
【参考资料】
[2026-11-20](Anthropic 上市当天遭抗议,离职研究员呼吁必须关闭这项 AI 技术)凤凰网科技
[2026-11-20](Anthropic 上市当天,离职研究员考克森在其总部外呼吁禁止 AI 递归自我改进)IT 之家
[2026-11-20](Anthropic IPO 创纪录,同期总部外爆发 AI 安全抗议)新浪财经
[2026-09-15](Anthropic 研究员考克森离职:AI 递归自我改进是拿人类生命赌博)中国新闻周刊
[2026-06-27](Anthropic 研究院详解递归自我改进 RSI:收益与风险并存)36 氪
【免责声明】
本文仅为 AI 安全事件资讯整理,考克森关于禁止 AI 递归自我改进的观点属于个人安全立场,不代表行业共识;AI 递归自我改进技术仍处于研究阶段,相关风险、技术路径、监管方案均存在大量争议,不构成投资、技术选型参考。
本文来自作者[铁序守核人]投稿,不代表新新网立场,如若转载,请注明出处:https://wap.xxcmw.com/kuaixun/202611/4930.html
评论列表(4条)
我是新新网的签约作者“铁序守核人”!
希望本篇文章《Anthropic 上市当天,离职研究员考克森在其总部外呼吁禁止 AI 递归自我改进》能对你有所帮助!
本站[新新网]内容主要涵盖:互联网行业的追踪与探索
本文概览:Anthropic 在纳斯达克挂牌上市的同一天,前研究员雅各布・考克森带着数十名抗议者聚集在旧金山 Anthropic 总部外面,公开喊话要求直接禁