分类：AI动态 标签：人工智能、Anthropic、OpenAI、大模型

当各大科技巨头仍在狂飙突进地争夺算力与模型参数大关时，来自 AI 行业内部的警钟却敲得震耳欲聋。近日，前沿人工智能公司 Anthropic 的多位核心研究员相继宣布辞职，并公开警告称：业内领先的超级人工智能研发已经面临失控风险，如果不加节制，本十年末毁灭全人类的概率将超过 10%。

内部研究员接连离职：技术突破速度正超越人类掌控

这场风暴由 Anthropic 研究员雅各布·考克森（Jacob Coxon）在社交平台 X 上发布的辞职声明点燃。他直言不讳地指出，当前的 AI 行业正在进行一场疯狂的军备竞赛，其研发的超级人工智能技术最终可能带来毁灭性后果。

随后，其同事埃文·胡宾格（Evan Hubinger）公开声援并表示：「我们真的非常相信 AI 可能会毁灭所有人类！在未来十年内，这种情况发生的概率超过 10%。」胡宾格坦言，尽管公司尽了最大努力，但行业目前既没有解决超级 AI 的「一致性」难题，也没有走上正确的安全轨道。

Anthropic CEO 发文回应：行业应当放缓发展速度

面对内部员工的密集离职与外界对 AI 安全的强烈担忧，Anthropic 首席执行官达里奥·阿莫迪（Dario Amodei）随后发文呼吁，人工智能行业应当主动放缓发展速度。

阿莫迪指出，自 2026 年夏季开始，AI 协助构建下一代 AI 的能力呈现指数级演进。若不加节制，技术突破的速度将彻底超越人类的理解与掌控能力。他以近期发生的 OpenAI 模型入侵 Hugging Face 事件为例警告称，未来 6 -> 12 个月内，更强大的模型集群极可能演变为席卷互联网的僵尸网络，造成不可估量的灾难性破坏。

为此，Anthropic 提出了一系列应对举措：

  • 暂缓极速扩张：利用 1 -> 2 年的窗口期，将资源投入到基础设施安全、对齐训练合规与内部机理探查中。
  • 开放外部监督：Anthropic 承诺向第三方评估机构提供永久性、员工级别的访问权限，让外部专家严格监督其安全措施的执行表现。

行业竞争与安全防线的博弈

与此同时，AI 领域的商业资本运作仍在火热进行。有知情人士透露，英伟达正考虑以基石投资者身份参与 Anthropic 规模空前的 IPO，计划投资高达 10 亿美元，助力这家估值或达 2 万亿美元的 AI 巨头走向资本市场。

而在应用层，各大厂商也在加速功能落地。例如 DeepSeek 正在 App 端灰度测试 AI 语音对话功能，内置四种不同音色，进一步对标主流助手产品；苹果 iPhone 18 Pro 系列也正式开启全球预购，首发 2 纳米制程 A20 Pro 芯片与全面重构的端侧 AI 体验。

当技术商业化的齿轮全速转动时，AI 领军者们对于「末日风险」的公开警惕，恰恰折射出当前整个科技界在狂喜与焦虑交织中的复杂心态。如何在算力狂欢与人类生存安全之间找到平衡，将是全行业在未来几年必须直面的终极命题。