Anthropic 上市当天,离职研究员考克森在其总部外呼吁禁止 AI 递归自我改进

Anthropic 在纳斯达克挂牌上市的同一天,前研究员雅各布・考克森带着数十名抗议者聚集在旧金山 Anthropic 总部外面,公开喊话要求直接禁止 AI 递归自我改进(RSI),一边是资本市场追捧这场 AI 巨头 IPO,另一边是内部出走的研究者持续警示这项技术的安全风险,这件事也让 RSI 这个 AI 安全议题再次被推到大众视野里。考克森是今年 9 月主动从 Anthropic 离职的,离职核心原因就是担心递归自我改进的风险,他认为各大 AI 公司正在竞速研发 RSI,相当于拿全人类安全去赌技术红利,就算 Anthropic 在招股书里承认无监督自主迭代模型不安全、会增加管控,他依旧觉得只靠企业内部约束远远不够,需要政府出台禁令、行业之间同步停手。递归自我改进简单讲就是 AI 参与研发下一代更强 AI,形成一个正向循环:AI 辅助做研究→产出更强模型→更强 AI 再加速研发,循环持续下去,人类的监督和对齐难度会快速变大。当天现场除了考克森演讲,还有 OpenAI 前研究员、Stop AI 安全组织成员一起参与抗议,部分人员封堵了办公楼入口,和资本市场对 Anthropic 的乐观定价形成强烈反差。

事件核心信息清单

  • 人物:雅各布・考克森(Jacob Coxon),Anthropic 前预训练研究员,9 月离职
  • 时间:Anthropic 上市首日(当地时间 11 月 19 日)
  • 地点:美国旧金山 Anthropic 总部
  • 核心诉求:立法、行业协同,禁止 AI 递归自我改进 RSI
  • 现场参与者:数十名抗议者、OpenAI 前研究员、Stop AI 组织成员
  • 考克森核心观点:股票涨跌不重要,阻止递归自我改进才是首要目标
  • 公司官方态度:招股书承认完全自主迭代模型存在风险,计划保留人类主导开发权

递归自我改进 RSI 原理表格

项目说明
全称Recursive Self-Improvement,RSI
运行逻辑AI 参与设计、训练、测试下一代 AI,更强模型继续优化后续 AI
短期现状目前 AI 只是辅助研发,还没有实现完全自主迭代
风险担忧迭代速度失控,人类对齐、监督跟不上模型能力提升
行业定位前沿 AI 安全争议热点,没有统一结论,企业内部也存在分歧

双方立场对比

  1. 考克森及抗议方:RSI 风险极高,企业自律不可靠,需要强制禁令,避免失控风险
  2. Anthropic 官方:现阶段 AI 辅助研发能提升效率,完全自主 RSI 还没实现,会设置人类管控机制
  3. 资本市场:看好 Anthropic 的模型商业化能力,IPO 首日估值走高

【相关 FAQ】

问题 1:Anthropic 上市当天,离职研究员考克森在总部外呼吁的是什么?

回答 1:Anthropic 上市当天,离职研究员考克森在 Anthropic 旧金山总部外公开呼吁,要禁止 AI 递归自我改进(RSI),认为这项技术存在巨大安全隐患。

问题 2:考克森为什么会在 Anthropic 上市当天,出来反对 AI 递归自我改进?

回答 2:考克森很早就因为担忧 AI 递归自我改进的风险在 9 月离职,Anthropic 上市代表资本加速押注前沿 AI 研发,他担心企业为了商业竞争加快 RSI 落地,仅靠企业自查不足以管控风险,所以选择在上市当天发起抗议。

问题 3:AI 递归自我改进是什么,考克森担心它带来什么后果?

回答 3:AI 递归自我改进就是 AI 自己参与研发更强的下一代 AI,形成加速迭代闭环;考克森担心迭代速度超过人类管控能力,出现人类无法对齐、难以控制的 AI 系统。

问题 4:面对禁止 AI 递归自我改进的呼声,Anthropic 官方是什么态度?

回答 4:Anthropic 在招股书中承认,AI 无监督自主设计下一代模型不安全,目前还没有实现完整递归自我改进,会调整政策,保证前沿 AI 开发由人类主导。

【参考资料】

[2026-11-20](Anthropic 上市当天遭抗议,离职研究员呼吁必须关闭这项 AI 技术)凤凰网科技

[2026-11-20](Anthropic 上市当天,离职研究员考克森在其总部外呼吁禁止 AI 递归自我改进)IT 之家

[2026-11-20](Anthropic IPO 创纪录,同期总部外爆发 AI 安全抗议)新浪财经

[2026-09-15](Anthropic 研究员考克森离职:AI 递归自我改进是拿人类生命赌博)中国新闻周刊

[2026-06-27](Anthropic 研究院详解递归自我改进 RSI:收益与风险并存)36 氪

【免责声明】

本文仅为 AI 安全事件资讯整理,考克森关于禁止 AI 递归自我改进的观点属于个人安全立场,不代表行业共识;AI 递归自我改进技术仍处于研究阶段,相关风险、技术路径、监管方案均存在大量争议,不构成投资、技术选型参考。

本文来自作者[铁序守核人]投稿,不代表新新网立场,如若转载,请注明出处:https://wap.xxcmw.com/kuaixun/202611/4930.html

赞 (0)
反馈

发表回复

本站作者后才能评论

评论列表(4条)

  • 铁序守核人
    铁序守核人 2026年11月20日

    我是新新网的签约作者“铁序守核人”!

  • 铁序守核人
    铁序守核人 2026年11月20日

    希望本篇文章《Anthropic 上市当天,离职研究员考克森在其总部外呼吁禁止 AI 递归自我改进》能对你有所帮助!

  • 铁序守核人
    铁序守核人 2026年11月20日

    本站[新新网]内容主要涵盖:互联网行业的追踪与探索

  • 铁序守核人
    铁序守核人 2026年11月20日

    本文概览:Anthropic 在纳斯达克挂牌上市的同一天,前研究员雅各布・考克森带着数十名抗议者聚集在旧金山 Anthropic 总部外面,公开喊话要求直接禁

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们