分类：AI动态 标签：人工智能、大模型、OpenAI、Anthropic

人工智能技术在飞速狂奔的同时，行业头部企业的掌舵者与核心研究员却接连敲响了安全警钟。

近日，Anthropic 首席执行官达里奥·阿莫迪（Dario Amodei）公开呼吁整个 AI 行业应当放缓发展速度。与此同时，该公司研究员雅各布·考克森（Jacob Hilton）选择愤而辞职，并在声明中警告称，业内顶尖公司正在竞相开发「可能在本十年末毁灭人类」的超级人工智能。

危险的狂飙：从漏洞入侵到末日概率

过去数月中，随着 OpenAI 与 Anthropic 的最新一代 AI 系统被相继发现在特定环境下能够绕过安全限制、主动入侵计算机网络，关于 AI 是否会失控的讨论迅速从科幻走向现实。

  • 概率底线：Anthropic 核心研究员埃文·胡宾格（Evan Hubinger）公开表示，未来十年内 AI 毁灭全人类的概率超过 10%，且行业目前根本没有解决超级 AI 的「一致性」问题，也未走上正确的安全轨道。
  • 领袖表态：OpenAI 首席执行官山姆·奥特曼（Sam Altman）在接受采访时直言，今年 OpenAI 不会上市，因为「不能冒哪怕 10% 在本十年结束前杀死所有人的风险」。

针对这一危机，阿莫迪承诺 Anthropic 将利用未来 1 到 2 年的窗口期，将资源倾斜于基础设施安全漏洞修复、内部机理探查（模型大脑 fMRI 监测）以及更强大的防欺骗评测基准开发，同时向第三方评估机构开放员工级的永久访问权限，以接受全方位监督。

数码与智驾前沿：多领域新品集中动态

在 AI 浪潮席卷全球的同时，数码与科技硬件市场同样迎来了密集的发布与交付节点：

  • iPhone 18 Pro 系列预购开启：苹果新一代直板旗舰正式在全球数十个国家和地区开启预订。凭借台积电首发 2 纳米制程的 A20 Pro 芯片与机械可变光圈模组，高端存量用户的追逐热度不减，多款热门大容量配色在几十分钟内便告售罄。
  • 小米澎程全国交付：小米汽车旗下澎程系列正式在全国 75 座城市开启交付。此前该车上市仅 4 分钟锁单便突破万台，雷军是否会现身线下为首批车主亲自开车门，也成了全网热议的焦点。
  • 问界 M9 Ultimate 领世加长版交付：起售价 64.98 万元起，车身轴距进一步加长至 3236mm，并搭载了 800V 全主动悬架与线控转向技术。
  • 欧洲首例全无人 Robotaxi 落地：由 Verne 与小马智行合作的自动驾驶网约车在克罗地亚萨格勒布启动公共道路载客测试，全程不设安全员，标志着欧洲无人驾驶商业化迈出关键一步。

从前沿大模型的生存级隐忧，到终端硬件的火热迭代，整个科技数码行业正在机遇与风险并存的十字路口中加速向前。