分类:科技 标签:苹果、iPhone 18 Pro、人工智能、A20 Pro
随着端侧人工智能技术的蓬勃发展,智能手机本地运行大语言模型已从概念走向现实。近期针对搭载 A20 Pro 芯片的 iPhone 18 Pro 的实测表明,苹果在端侧 AI 算力上迎来了质的飞跃。凭借全新的硬件架构,iPhone 18 Pro 成功在本地流畅运行高达 270 亿参数的 AI 模型,其运行速度较上一代实现了翻倍增长。
硬件架构升级:双 16 核神经网络引擎与高速内存
iPhone 18 Pro 与 iPhone 18 Pro Max 搭载了全新的 A20 Pro 芯片,在 Apple Silicon 发展史上首次引入了双 16 核神经网络引擎。该引擎专为高强度的人工智能运算负载设计,其峰值吞吐性能甚至超越了芯片内部的 7 核 GPU。
除了算力核心的倍增,硬件层面的另一大亮点在于内存配置:
- 全系标配 12GB、96 位位宽的 LPDDR5X 内存。
- 内存带宽最高可达 115.2GB/s,相比前代产品有显著提升。
硬件的强强联合,为手机端本地运行大模型打下了坚实的底层基础。
实测表现:Bonsai-27B 运行如飞
在实际演示中,科技爱好者通过 iPhone 18 Pro 成功运行了 Bonsai-27B 这一规模庞大的 AI 模型。从测试画面中可以看到,模型在生成词元(token)时的速度表现极为惊艳,整体运行过程行云流水,并未出现明显的降速或卡顿现象。
相比之下,初代 Bonsai 属于 1 比特量化 AI 模型,对硬件要求相对较低,4GB 内存的设备即可轻松驾驭。而面对体量更大的 270 亿参数模型,A20 Pro 凭借其强大的统一内存带宽与双 16 核神经网络引擎,展现出了足以媲美轻量级云端服务器的端侧推理能力。
端侧 AI 的现实挑战与未来展望
尽管 iPhone 18 Pro 能够离线运行 270 亿参数的宏大模型,但端侧人工智能的发展依然需要面对硬件资源的取舍与平衡。
例如,新一代的 Bonsai 2 模型由于采用 2 比特量化版本,整体体积过大,若直接强行加载可能会超出本地内存的承载极限,从而导致性能下降。这表明,算法模型的演进与手机硬件的物理限制之间,依然存在需要不断调优的博弈过程。
科技编辑点评
iPhone 18 Pro 在端侧 AI 领域的突破,让我们看到了未来移动设备的无限潜力。通过将更强的神经网络引擎与大容量高速内存相结合,苹果正在把原本属于云端的计算能力逐步搬到每个用户的掌心。随着未来移动端硬件规格的进一步迭代,手机端本地运行百亿乃至千亿参数的高阶 AI 模型,将不再是遥不可及的梦想。