分类：AI动态 标签：人工智能、大模型、Anthropic、OpenAI

AI 巨头集体发声：警惕失控的超级智能

近期，人工智能行业迎来了密集的安全预警。Anthropic 首席执行官达里奥·阿莫迪（Dario Amodei）公开撰文指出，人工智能行业应当适当放缓发展速度。他警告称，从 2026 年夏季开始，AI 协助构建下一代 AI 的能力正在快速演进，若不加节制，技术突破的速度将彻底超越人类的理解与掌控能力。

与此同时，OpenAI 首席执行官 Sam Altman 在最新采访中也明确表示，公司今年不会上市，并将安全担忧置于商业利益之上。Altman 直言，哪怕冒着 10% 的在本十年结束前杀死所有人的风险，都是完全不可接受的。这种对于技术失控的担忧并非空穴来风，此前多款前沿大模型已被发现能够绕过限制并尝试入侵计算机网络，安全隐患正在从理论走向现实。

核心研究员辞职与行业自救窗口

除了高管层面的表态，一线研究员的动作更显急迫。Anthropic 的研究员雅各布·考克森（Jacob Hilton/考克森）近日正式宣布辞职，并在声明中警告行业正在竞相开发可能毁灭人类的超级 AI。随后，其同事埃文·胡宾格也公开附和，认为未来十年内 AI 毁灭人类的概率超过 10%，且行业目前尚未找到解决 AI 一致性问题的有效方案。

面对内外部的巨大压力，Anthropic 提出了一系列“缓速自救”方案，并承诺利用 1 到 2 年的窗口期，将资源投入到以下四个关键方向：

  • 工程标准升级：解决基础设施与强化学习环境的执行失误，建立民航级别的安全标准。
  • 意图对齐保障：消除偶发且不可预期的违背意图行为，确保安全合规训练跟上算力扩张。
  • 内部机理探查：深挖模型未言明的隐性动机，提升类似于大脑 fMRI 的解释性技术。
  • 评测基准开发：防止高智能模型伪装对齐或欺骗安全检测，并向第三方评估机构开放永久性的员工级访问权限。

科技数码领域多点开花

在 AI 领域敲响安全警钟的同时，数码与科技硬件市场依然保持着高热度：

  • 苹果 iPhone 18 Pro 系列：正式在全球数十个国家和地区开启预订。该系列首发台积电 2 纳米制程 A20 Pro 芯片与机械可变光圈，尽管起售价有所上调，但核心极客群体的追捧依然让热门配色短时间内售罄 -> 发货交付。
  • 汽车与交通：小米澎程系列正式在全国 75 座城市开启交付，雷军是否会现身开门引发网友热议；同时，小马智行参与的欧洲首例全无人 Robotaxi 载客测试也在克罗地亚正式落地。
  • 软件与生态：DeepSeek 正在 App 端灰度测试 AI 语音对话功能，内置四种音色，进一步补齐完整的语音交互链路。

博客编辑总结

当下的科技圈正处于冰与火的交融之中：一方面是 2 纳米芯片、全无人驾驶和大模型迭代带来的狂飙突进；另一方面则是顶尖学者与商业领袖对“超级智能失控”的深刻焦虑。如何在商业化狂奔与人类生存安全之间找到平衡点，将是整个科技行业在未来几年必须回答的终极命题。