Anthropic 核心研究员集体辞职警告「AI 末日」:我们正在开发可能毁灭人类的技术
分类:AI动态 标签:人工智能、Anthropic、OpenAI、大模型 近期,人工智能前沿领域再次迎来密集震荡。多位来自顶级 AI 机构 Anthropic 的核心研究员与高管接连发声,公开警告行业正面临失控风险。与此同时,大模型应用端与消费数码领域也动作频频。本文为您梳理了近期科技圈最受关注的几大核心动态。 1. Anthropic 研究员集体辞职:警惕本十年末的「毁灭性风险」 美国人工智能公司 Anthropic 迎来了一场信任危机与舆论风暴。公司核心研究员雅各布·考克森(Jakob Cockx)在社交平台 X 上公开宣布辞职,并在声明中直言:业内领先的人工智能公司正在疯狂竞相开发「可能在本十年末毁灭我们所有人」的超级人工智能技术。 随后,其同事埃文·胡宾格(Evan Hubinger)也公开响应,称 AI 毁灭全人类的概率超过 10%,并坦言目前的行业进展并未走在解决 AI「一致性」问题的正轨上。 面对争议,Anthropic CEO 达里奥·阿莫迪(Dario Amodei)随后发文呼吁行业应当主动放缓发展速度。他承诺,Anthropic 将在未来利用 1 到 2 年的窗口期,将资源倾斜于工程标准升级、意图对齐、模型内部机理探查以及防范恶意欺骗等四大关键领域,并向第三方评估机构提供永久性的员工级访问权限以接受监督。 与此同时,作为行业另一巨头的 OpenAI 首席执行官 Sam Altman 在接受采访时也明确表态:公司今年不会上市,并强调「不能冒哪怕 10% 杀死所有人的风险」。 2. DeepSeek 灰度测试 AI 语音对话,补齐完整交互链路 在应用层方面,国产大模型迎来重要功能更新。近日,有网友发现 DeepSeek 正在 App 端灰度测试 AI 语音对话功能。 获得内测资格的用户可以在 App 右上角看到全新的喇叭入口,从而开启实时语音交互。在设置页面中,官方新增了「朗读音色」选项,内置了包括「贝壳」(百变活泼)、「白浪」(明朗坚定)、「海星」(俏皮甜美)以及「暗潮」(低沉浑厚)在内的 4 款不同风格语音。 此前,DeepSeek 已经支持语音转文字输入,而本次新增的 AI 语音回复能力,正式补齐了完整的语音对话链路,标志着其在产品体验上进一步向主流 AI 助手产品全面对标。 3. 小米澎程系列全国交付,雷军成车主焦点 在数码与新能源汽车领域,小米迎来了全新的交付高潮。9 月 12 日,小米澎程系列正式在全国 75 座城市开启交付。在上市后短短 4 分钟内,该系列的锁单量便已突破 10000 台。 ...