A20 Pro 芯片端侧 AI 性能实测:iPhone 18 Pro 如何本地流畅运行 270...
分类:科技 标签:苹果、iPhone 18 Pro、人工智能、A20 Pro 随着端侧人工智能技术的蓬勃发展,智能手机本地运行大语言模型已从概念走向现实。近期针对搭载 A20 Pro 芯片的 iPhone 18 Pro 的实测表明,苹果在端侧 AI 算力上迎来了质的飞跃。凭借全新的硬件架构,iPhone 18 Pro 成功在本地流畅运行高达 270 亿参数的 AI 模型,其运行速度较上一代实现了翻倍增长。 硬件架构升级:双 16 核神经网络引擎与高速内存 iPhone 18 Pro 与 iPhone 18 Pro Max 搭载了全新的 A20 Pro 芯片,在 Apple Silicon 发展史上首次引入了双 16 核神经网络引擎。该引擎专为高强度的人工智能运算负载设计,其峰值吞吐性能甚至超越了芯片内部的 7 核 GPU。 除了算力核心的倍增,硬件层面的另一大亮点在于内存配置: 全系标配 12GB、96 位位宽的 LPDDR5X 内存。 内存带宽最高可达 115.2GB/s,相比前代产品有显著提升。 硬件的强强联合,为手机端本地运行大模型打下了坚实的底层基础。 实测表现:Bonsai-27B 运行如飞 在实际演示中,科技爱好者通过 iPhone 18 Pro 成功运行了 Bonsai-27B 这一规模庞大的 AI 模型。从测试画面中可以看到,模型在生成词元(token)时的速度表现极为惊艳,整体运行过程行云流水,并未出现明显的降速或卡顿现象。 相比之下,初代 Bonsai 属于 1 比特量化 AI 模型,对硬件要求相对较低,4GB 内存的设备即可轻松驾驭。而面对体量更大的 270 亿参数模型,A20 Pro 凭借其强大的统一内存带宽与双 16 核神经网络引擎,展现出了足以媲美轻量级云端服务器的端侧推理能力。 ...