分类:数码 标签:iPhone 18 Pro、A20 Pro、端侧AI、大模型


随着生成式人工智能的快速普及,智能手机的端侧 AI 能力正在迎来质的飞跃。在最新的硬件实测中,搭载 A20 Pro 芯片的 iPhone 18 Pro 展现出了惊人的本地大模型运行能力,其性能表现相比上一代产品实现了翻倍增长。

硬件升级:双 16 核神经网络引擎与 12GB 内存

苹果在 Apple Silicon 的发展史上首次引入了双 16 核神经网络引擎,这套专为高强度人工智能运算打造的架构,其性能表现全面超越了以往所有的移动端 SoC。

除了核心处理能力的飙升,iPhone 18 Pro 与 iPhone 18 Pro Max 还标配了 12GB 的 LPDDR5X 内存,并拥有 96 位位宽以及高达 115.2GB/s 的内存带宽。硬件规格的全面升级,配合专用的神经网络硬件,让手机本地 AI 处理性能直接迈入了全新台阶。

实测表现:本地驾驭 270 亿参数大模型

在实际演示中,科技爱好者通过 iPhone 18 Pro 成功运行了 Bonsai-27B(270 亿参数)模型。得益于 A20 Pro 强大的峰值吞吐性能(其神经网络专用任务的性能甚至超越了芯片内部的 7 核 GPU),模型在生成词元(token)时的速度表现极为惊艳,整体运行过程行云流水,完全没有出现明显的降速卡顿。

端侧 AI 的机遇与现实挑战

尽管 iPhone 能够离线运行 270 亿参数的大模型是一个巨大的技术突破,但用户在实际体验中仍需面对一些硬件层面的取舍:

  1. 量化与内存的平衡:以更新的 Bonsai 2 模型为例,由于采用 2 比特量化版本的整体体积过大,无法完整塞入手机本地内存,强行运行反而会导致性能下降。
  2. 硬件规格的制约:目前 iPhone 18 Pro 能够流畅运行 Bonsai-27B,得益于初代 Bonsai 采用的 1 比特量化方案以及 12GB 的大内存支持。

总结与展望

A20 Pro 与 12GB 内存的组合,证明了旗舰智能手机完全具备运行中大型端侧 AI 模型的能力。随着硬件工艺的演进与内存规格的进一步提升,未来的移动设备有望在本地流畅驾驭参数规模更大、复杂度更高的复杂 AI 模型,为用户带来更加私密、迅捷的智能体验。