分类：AI动态 标签：人工智能、大模型、Anthropic、OpenAI

前沿狂飙：算力极限与技术失控的隐忧

随着全球大模型军备竞赛的持续升级，人工智能行业正迎来前所未有的狂欢。然而，在光鲜亮丽的技术突破背后，关于 AGI 潜在风险的争论也从未停歇。

近日，Anthropic 研究员雅各布·考克森（Jacob Coxon）在社交平台 X 上公开宣布辞职，并发表了一份震撼行业的声明。他警告称，当前业内领先的人工智能公司正在竞相开发「可能在本十年末毁灭我们所有人」的超级人工智能技术。

无独有偶，其同事埃文·胡宾格（Evan Hubinger）也公开发声响应，直言 AI 在未来十年内毁灭人类的概率超过 10%。他坦言，尽管公司正在尽最大努力，但行业目前并未掌握解决超级 AI 一致性问题的有效方案。

行业呼吁：放缓步伐与第三方独立监督

面对潜在的生存威胁，Anthropic 首席执行官达里奥·阿莫迪（Dario Amodei）也发文呼吁，整个人工智能行业应当适度放缓发展速度。

阿莫迪指出，从 2026 年夏季开始，AI 协助构建下一代 AI 的能力演进速度极快，若不加以节制，技术突破将彻底超越人类的理解与掌控能力。他强调，放缓并不等于彻底停滞，而是要利用争取来的 1 至 2 年窗口期，将资源投入到关键的安全工程、内部机理探查以及更强大的评测基准开发中。

同时，Anthropic 承诺将向第三方评估机构提供针对其系统的永久性、员工级别访问权限，以确保外部力量能够有效监督其安全措施的执行情况。

巨头态度：Sam Altman 坦言不能冒 10% 的风险

在安全边界的探讨上，OpenAI 首席执行官萨姆·阿尔特曼（Sam Altman）也表达了类似的审慎态度。

在谈到公司上市计划时，Altman 明确表示今年时机并不合适，公司要到明年才会考虑首次公开募股。他直言不讳地指出：“哪怕冒着 10% 的在本十年结束前杀死所有人的风险，都是不可接受的。”

从研究人员的集体辞职到行业领袖的公开警示，整个 AI 社区正在从盲目的速度崇拜，转向对安全边界、一致性对齐以及人类最终掌控权的深刻反思。如何在算力狂飙与绝对安全之间找到平衡点，将是未来数年决定整个人类科技走向的核心命题。