分类:数码 标签:iPhone 18 Pro、Apple Silicon、人工智能、大模型
随着生成式人工智能的快速普及,端侧 AI 正在成为各大芯片厂商和手机巨头角力的核心战场。在最新的硬件测试中,苹果新一代 A20 Pro 芯片展现出了令人瞩目的爆发力。得益于硬件规格的全面革新,搭载 A20 Pro 的 iPhone 18 Pro 成功在本地流畅运行高达 270 亿参数的大模型,其推理速度相比上一代实现翻倍,标志着智能手机的本地 AI 能力正式迈入全新阶段。
双 16 核神经网络引擎:突破性能天花板
作为苹果自研芯片史上的又一次重大突破,A20 Pro 首次搭载了双 16 核神经网络引擎。这套专为高强度人工智能运算负载打造的硬件模块,其峰值吞吐性能甚至超越了芯片内部的 7 核 GPU,为处理复杂的本地 AI 任务提供了充沛的算力支撑。
在实际测试中,数码爱好者通过 iPhone 18 Pro 成功加载并运行了 Bonsai-27B 模型。从演示效果来看,模型生成词元(token)的速度十分惊人,运行过程行云流水,完全没有出现降速或严重卡顿现象。
内存规格升级:带宽与容量的双重飞跃
除了算力强劲的神经网络引擎,iPhone 18 Pro 系列在内存方面的升级同样功不可没。
- 大容量与高带宽:iPhone 18 Pro 和 iPhone 18 Pro Max 均配备了 12GB、96 位位宽的 LPDDR5X 内存。
- 极致速度:其统一内存带宽最高可达 115.2GB/s,相比上一代产品实现了显著提升。
正是这套由 A20 Pro 芯片、双 16 核神经网络引擎以及高速大容量内存共同构成的硬件铁三角,彻底打破了以往移动端无法高效处理超大参数模型的魔咒。
端侧 AI 的现实考量:性能与体量的博弈
尽管 iPhone 能够离线运行 270 亿参数的 AI 模型被视作重大进步,但在实际应用中,用户仍需面临硬件与模型体量之间的取舍。
例如,以 Bonsai 2 为代表的新一代模型,由于采用了 2 比特量化等原因,导致其整体体积偏大,如果直接尝试塞进当前的本地内存,反而可能引发性能下降。相比之下,初代 Bonsai 作为 1 比特量化模型,在 12GB 内存的 iPhone 18 Pro 上则能完美发挥实力,实现速度与效果的最佳平衡。
总结与展望
iPhone 18 Pro 在端侧运行 270 亿参数模型的成功实践,让我们看到了移动设备无限接近专业算力的可能。随着未来智能手机内存规格的进一步放宽以及硬件架构的不断演进,我们可以期待在不久的将来,手机本地能够流畅驾驭参数规模更大、逻辑更加复杂的顶级 AI 模型,让口袋里的智能助手真正实现质的飞跃。