Anthropic警告：AI可能很快进入自我加速阶段，等人类察觉或为时已晚

Anthropic 在 11 月 2 日更新的 IPO 招股书中发出警示：AI 或将迅速突破“递归自我改进”（RSI）的关键临界点，从而极大加速其自身研发进程。历史上曾多次出现研发进展悄然提速、直至加速已成事实才被察觉的情形。当前，Claude 已实际介入代码编写、实验执行与训练数据处理等核心研发环节，直接助力更强大下一代模型的开发；而这些新模型又将进一步推动后续研发效率提升，形成持续加速的正向循环。

根据 Anthropic 现行安全政策，所谓“触及关键门槛”特指以下任一情形发生：
1. AI 能以接近人类团队的成本，独立完成整套 AI 研究工作；
2. AI 技术进步速率至少提升一倍，即原本需两年实现的进展被压缩至一年内达成。

随着 AI 在自身研发流程中参与度不断加深，其能力演进速度可能已开始超越安全评估、对齐研究及防护机制的迭代节奏。Anthropic 明确指出，截至目前，尚无任何现有模型被判定已达该门槛；本次预警主要依据内部技术推演与对未来模型能力的前瞻性预估。为应对潜在风险，公司正审慎评估对安全政策的修订方案，核心目标是确保关键研发环节始终保有人类监督与控制权。