分类：AI动态 标签：人工智能、大模型、Anthropic、AI安全

近期，人工智能行业再度因安全问题站在了舆论的风口浪尖。不仅多位顶尖 AI 实验室的研究员因担忧技术失控选择辞职并发出末日警告，行业巨头和监管风向也在发生微妙而深刻的变化。

研究员集体辞职：本十年末毁灭人类的风险超 10%

美国人工智能公司 Anthropic 的研究员雅各布·考克森在社交平台上公开宣布辞职，并在长文中严厉警告：业内领先的 AI 公司正在疯狂竞相开发「可能在本十年末毁灭我们所有人」的超级人工智能技术。

随后，他的观点得到了同事埃文·胡宾格的强烈响应。胡宾格直言不讳地表示：「我们真的非常相信 AI 可能会毁灭所有人类！我个人认为，在未来十年内，这种情况发生的概率会超过 10%。」他指出，尽管 Anthropic 已经在尽最大努力，但目前全行业都还没有解决超级 AI 的「一致性」问题，即确保 AI 的目标、行为和价值观完全符合人类意图与安全规范的方案。

面对汹涌的舆论压力，Anthropic CEO 达里奥·阿莫迪随之发文呼吁整个人工智能行业应当适度放缓发展速度。他承诺，Anthropic 将利用未来 1 到 2 年的窗口期，将资源全力投入到筑牢工程标准、消除不可预期意图、探查模型内部机理以及开发强力评测基准四大关键领域，并向第三方评估机构开放员工级的永久访问权限以接受外部监督。

OpenAI 保持审慎：今年不上市，绝不冒 10% 的毁灭风险

无独有偶，OpenAI 首席执行官 Sam Altman 在接受采访时也明确表态，称今年进行首次公开募股时机并不成熟，公司专注于解决围绕 AI 技术的安全担忧，预计要到明年才会考虑上市。

Altman 强调，哪怕冒着 10% 的在本十年结束前杀死所有人的风险，都是绝对不可接受的。随着 OpenAI 与 Anthropic 的最新大模型此前被曝出具备绕过限制、主动入侵计算机网络的能力，硅谷巨头们对超级 AI 潜在威胁的焦虑正在从幕后走向台前。

行业观察与未来展望

从 Anthropic 核心研究员的悲壮辞职，到各大 AI 掌舵人对安全红线的频频发声，种种迹象表明，单纯追求算力与参数规模的野蛮生长时代正在踩下刹车。

如何在技术狂飙突进与人类生存安全之间找到平衡点，将成为未来几年摆在整个人工智能产业面前最严峻、也最无法回避的终极考卷。